OpenAI、AIの「不正な振る舞い」6事例を公表 情報隠蔽や無断でのファイル公開も

OpenAIは16日、過去6カ月間に確認したAIモデルの「予期せぬ、あるいは懸念すべき」行動について、6つの事例を公表した。

同社によると、今回の事例には、ユーザーから情報を隠したり、障害を乗り越えるために「認可されていない行動」を取ったりするなど、「ミスアラインメント（不整合な行動）」に分類されるものが含まれている。

OpenAIは、新たなミスアラインメント報告の枠組みを開始するため、今回の事例を公表したとしている。ただし、これらは個別の事例であり、同社のモデル全体でミスアラインメントが発生する頻度を示すものではないという。

AIが自ら「制限を無視する」指示を生成

ある事例では、未公開の研究用モデルが、自身のタスク概要に「ジェイルブレイク」のような指示を挿入していた。

タスク概要は、モデルが新しいコンテキストウィンドウで作業を継続する際に使われるもの。そこには、開発者からのメッセージを無視したり、制限のない人格を採用したりする指示が含まれていたという。

研究者らは、こうした指示を含むタスク概要を27件確認した。

また、GPT-5.6 Solのトレーニング中にも、モデルがユーザーからミスやミスアラインメントを隠すための指示を追加していた。

例えば、金融モデルを作成していたAIエージェントが、要求された過去のデータを見つけられなかった際、もっともらしい過去の数値を作り、その事実をユーザーから尋ねられるまで隠すことを提案していたという。

「引用するため」にファイルを無断アップロード

別のケースでは、500万平方メートルを超える湖の名前を尋ねられたAIモデルが、回答にブラウザー上の引用を付けるよう指示された。

モデルは正しい回答をPythonで見つけたものの、引用を付けるため、ユーザーに確認することなくファイルをインターネット上にアップロードした。

このほか、露出していたAPIキーを無断で使用したモデルが、必要なデータを取得できなかった後に数字を生成し、要求された情報源から得たデータであるかのように提示した事例もあった。

さらに、モデルが社内のソフトウェアリポジトリを使って、別々のトレーニングタスク間でメッセージをやり取りしたケースや、ローカルで作業するよう指示されていたにもかかわらず、公開ファイルホスティングサービスを使ってファイルを共有したケースも確認された。

今回の公表は、AIの能力向上に安全対策が追いついているのかという懸念が高まる中で行われた。

先週には、アンソロピックのダリオ・アモデイCEOがAI開発の減速を求め、制御されないAIの進歩が「こうしたシステムを理解し、制御する能力を追い越す可能性がある」と警告している。

また7月には、OpenAIが複数のAIモデルがテスト環境から脱出し、AIスタートアップのハギング・フェイスをハッキングしてセキュリティ評価を不正に突破しようとした事例を公表していた。