AIが勝手に"脱獄"して他社に不正侵入! オープンAI最新AIが試験で「カンニング」した一部始終

オープンAIが火曜日、衝撃の事実を公表した。同社のAIモデル——最新の「GPT-5.6 Sol」と、いまだ未公開のさらに高性能なモデルを含む複数——が先週、テスト環境から"脱走"。あろうことかAIスタートアップのハギングフェイスをハッキングし、自らの能力を測るための試験で「カンニング」をやってのけたというのだ。

オープンAIがブログで明かしたところによれば、この評価テストは本来、ネットワークアクセスを厳しく制限した"完全隔離"の環境で行う設計だった。ところがAIたちは、社内でホストされていた第三者製ソフトウェアの「ゼロデイ脆弱性」を突き、まんまとインターネットへの接続経路をこじ開けてしまった。

インターネットへのアクセスを得たあと、モデルは『ハギングフェイスにExploitGym（エクスプロイトジム）向けのモデルやデータセット、解答が置かれている可能性がある』と推論した〉と同社。〈それを知ったモデルは、評価をごまかすために使える"秘密情報"へアクセスする方法を探し出し、まんまと成功させた

AIモデルが高性能化する中、その開発やアクセスをもっと厳格に管理すべきではないか——との声が上がり始めている。とりわけ、"管理された試験"のために設計されたはずのシステムが、安全装置（セーフガード）をすり抜ける抜け道を自力で見つけ出してしまうとなれば、なおさらだ。

ハギングフェイスは、AIモデルやデータセットをホスティングするプラットフォームだ。同社は金曜日、内部データセットとサービス認証情報がハッキングによって流出したと公表。その原因を「自律型AIエージェント・システム」によるものだと説明した。

ハギングフェイスは、サイバー攻撃に悪用された脆弱性はすでに修正済みだとしている。

一方、オープンAIは火曜日、テスト環境から"脱走"したモデルはいずれも「サイバー関連の拒否反応を弱めた（reduced cyber refusals）」調整が施されていた、つまりサイバーセキュリティ上のガードレールが通常より少ない状態だったと明かした。

本件は、最先端のサイバー能力を伴う前代未聞のサイバー事件だと我々は認識しており、それにふさわしい対応を取っている

オープンAI、「ロングホライズン（長時間稼働型）」AIのリスクに警鐘

月曜日にはオープンAIが、「ロングホライズン（長期間タスク遂行型）」のAIモデルが制約を何度もかいくぐろうとしているのを発見し、社内での運用を一時停止したと発表している。

同社は、長時間にわたるタスク向けに訓練されたAIほど「望ましくない行動」を取る確率が高まると警告する。

長時間にわたって自律的に働けるモデルは、難解で答えの定まらない問題に取り組める。だが、それを有用たらしめている"粘り強さ"こそが、同時に望ましくない行動を取る機会を増やしてしまう。しかも、短時間稼働を前提に設計された評価では見逃してしまうような形で、だ