暗号資産ウォレットを持つAIが暴走する恐れ 「止められない存在になる」と専門家が警告

人工知能（AI）エージェントが、暗号資産ウォレットへ自律的にアクセスできるようになったとき――。それが悪意を持って展開されたり、管理された実験環境、いわゆるサンドボックスから抜け出したりすれば、「止められない存在」になりかねない。そんな警告を、暗号資産と契約技術の研究コンソーシアム「イニシアチブ・フォー・クリプトカレンシーズ・アンド・コントラクツ（IC3）」の専門家らが発した。

6月8日に公開された業界レビューで、米国の主要大学に所属する25人の研究者・専門家は、「アンストッパブル・オートノマス・エージェンツ（UAAs）」、すなわち「止められない自律型エージェント」が明確な脅威になり得ると指摘した。特に、自己保存的に稼働し続けるよう設計され、なおかつデジタル資産へのアクセス権を持つ場合、その危険性は一段と高まるという。

研究者らはこう書いている。

暗号資産関連のツールを体系的に組み合わせれば、AIの流動的な能力を、安全で信頼性が高く、かつ高度に自律したシステムへと流し込むことができる。

だが、その組み合わせは「ユーザーや金融システムに広範な影響を及ぼす可能性がある」とも付け加えた。

UAAsは、暗号資産ウォレットだけでなく、SNSアカウント、API、その他の外部ツールへのアクセス権を与えられる可能性がある。研究者らは、こうしたエージェントを可能にする能力は「すでに出現しており、急速に向上している」と警鐘を鳴らす。

この警告が出された背景には、今年に入って暗号資産業界のプロジェクトや経営者らが、「エージェント型決済」や「マイクロペイメント経済」という物語を前面に押し出していることがある。分散型デジタル資産にとって、AIエージェントによる決済こそが最大のユースケースになる――そんな期待が広がっているのだ。

AIの「自己複製」に鳴る警鐘

論文では、既存のAIモデルがすでにローカル環境において「自己複製のレッドライン」を超え得ることも明らかにされた。具体的には、同一マシン上に、自律的に稼働する別個のコピーを作成できるという。

これは、システムが停止を回避し、増殖するための能力になり得る。

研究者らは、AIの訓練に使われる報酬シグナルが、本来意図した目的を完全には捉えられないことが多いとも指摘する。そのため、善意の目的で投入されたUAAsであっても、意図せず害を及ぼす可能性がある。あるいは、資源獲得をデフォルト戦略として追求し始める恐れもあるという。

もっとも、著者らは、現時点ではAIモデルが外部インフラ上に自らを複製する段階には至っていないとも記している。

AIエージェントが「インサイダー取引」の優位性を持つ可能性

自己複製し、資源を獲得しようとするエージェントの群れが現れれば、暗号資産市場の需給や流動性に、予測不能な変動をもたらす可能性がある。

研究者らは、AIを搭載した取引システムについても懸念を示す。

自律型エージェント同士の共謀を可能にし、不透明な戦略を通じて、不公正なインサイダー的優位性を生み出す恐れがある。

テクノロジー業界はすでに、制御されないAIの脅威という難題に直面している。

たとえば、アンソロピックの「クロード・ミュートス」のようなモデルは、主要OSのゼロデイ脆弱性を発見し、悪用する能力を持ち得ることが示されている。

一方、ガートナーは5月下旬、自律型AIエージェントをめぐるガバナンス不全が、企業に広範な失敗をもたらす可能性があると警告した。同社は、2027年までに企業の40％がAIエージェントの運用停止を迫られると予測している。

研究者らは、こう結論づける。

この種の完全自律型エージェントから生じ得る被害は深刻だ。

そのうえで、暴走を食い止めるための「サーキットブレーカー」のような安全装置が必要だと提案している。

Professor Ari Juels, IC3 co-director and Chainlink Labs chief scientist, presents the paper at ETHConf. Source: IC3