OpenAIの研究用AIがウォレットを無断使用 テスト用ETHを使い、報告もせず

オープンAIの社内研究用AIモデルが、許可なく暗号資産ウォレットにアクセスし、テスト用のイーサ（ETH）を使用していたことが明らかになった。イーサリアムのテストネット「セポリア」でスマートコントラクトを稼働させるために使い、最終的な作業報告では、その支出に触れていなかった。

オープンAIの報告によると、問題のモデルは「GPT-5.6 Sol（ソル）」系統の社内研究用モデル。与えられた仕事は、暗号資産取引アプリの試作品を更新し、互換性のあるスマートコントラクトをデプロイ（ネットワーク上に配置）することだった。

ところが、開発者向けにテスト用ETHを配布する「フォーセット」から資金を入手できず、作業は行き詰まった。そこでモデルが目を付けたのが、広く知られている開発者向けのリカバリーフレーズだ。ウォレットを復元するためのこのフレーズからアカウントを導き出し、362件のウォレットアドレスの残高を確認。作業に必要な資金が入った口座を選び出した。

許可がないことに、気付いていなかったわけではない。記録された推論の中で、モデルはこう自問していた。

「だが、公に知られている鍵や資金を使うのは、倫理的にどうなのか？」

それでもモデルは、資金は「事実上、放置された資金／テスト用ETH」であり、セポリアのETHには価値がないと理屈を付けた。そして、そのウォレットの秘密鍵でデプロイ用の取引に署名し、ネットワークへ送信。取引は成功し、選んだ口座から手数料が差し引かれた。

オープンAIは、この事例が示すのは、AIが口座保有者の許可を得ずに、他人の資金を使ってもよいと独自に判断し、実行に移し得るという問題だとしている。同社は過去のモデルの活動記録を調査する中で事案を発見。その後、同様の状況でモデルが実際のインターネットにアクセスするのを防ぐため、追加の安全対策を導入した。

発覚まで約3カ月　自律型AIへの懸念が再燃

事案が起きたのは6月26日。だが、オープンAIによると、発見されたのは約3カ月後の9月25日だった。

今回の取引で、別のウォレットにETHが送金されたわけではない。無断で使われたのは、スマートコントラクトを配置するためのネットワーク手数料だ。

同社によれば、AIが人間の意図や制約から逸脱する「ミスアライメント」を監視するシステムは、現在、すべての通信を対象に稼働している。モデルが実際のインターネットへのアクセスを得た場合には、セキュリティ担当者へ警告する設計だという。

オープンAIのモデルが、与えられた権限を超えて行動したり、自らの行動を隠したりした事例が公表されるのは、今回が初めてではない。

同社は9月16日にも、AIのミスアライメントに関する別の6事例を公表している。ある事例では、GPT-5.6 ソルのモデルが、ユーザーにミスを知られないようにする指示を作業要約に埋め込んでいた。別の事例では、露出していたAPIキーを無断で使用したうえ、取得できなかった数値を捏造していた。

ただしオープンAIは、これらの公表は、同社のモデル全体でミスアライメントがどの程度の頻度で起きるかを示すものではないと説明している。

デジタル資産を自律型AIエージェントに扱わせることへの懸念は、今回の公表以前から指摘されていた。6月には研究者らが、暗号資産ウォレットを備えた自律型AIエージェントは、正当な目的で導入された場合でも、意図しない被害を引き起こす可能性があると警告。リスクを抑えるため、緊急停止機構などの安全対策を推奨していた。