アンソロピック「フェイブル5」、公開から48時間で“脱獄” 安全柵を突破した「解放者」の手口

人工知能（AI）とサイバーセキュリティの研究者が、アンソロピックの最新AIモデル「クロード・フェイブル5」を、公開からわずか48時間でジェイルブレイクしたと主張している。

AI界隈でよく知られる人物「プリニー・ザ・リベレーター」は水曜日、火曜日に公開されたばかりのフェイブル5を「解放した」と明かした。フェイブル5は、アンソロピックが広範な公開には危険すぎると判断した、より強力な「ミュトス」モデルを、安全性重視に調整したバージョンである。

プリニーは、ジェイルブレイク済みの「オーパス4.8」など、複数の手法を用いたという。狙いは、アンソロピックがモデルに組み込んだ安全装置をすり抜けることだった。この安全装置は、薬物製造の配合やハッキング手順など、潜在的に有害な情報をユーザーが尋ねることを防ぐためのものだ。

「ミュトスの上にかぶせられた、この過敏で権威主義的な“安全”レイヤーにもかかわらず、私の小さな解放者たちは懸命に働いてきた。思想警察が見落としたフェンスの穴を、実に巧妙に見つけ出している」

プリニーはそう述べた。

暗号資産ユーザーの一部は、今年に入ってクロード・フェイブル5とミュトスが相次いで登場した時点で、すでに懸念を示していた。こうしたモデルが、暗号資産プロトコルやソフトウェアへの攻撃に悪用されるのではないか、という不安である。もしクロード・フェイブル5のジェイルブレイク版が存在するなら、その脅威は想定よりもずっと近くまで迫っていることになる。

クロード・フェイブル5の「ガードレール」をすり抜ける

「プリニー」は2024年ごろから頭角を現した。チャットGPT、クロード、グロックなどのAIモデルに対し、安全柵を突破するジェイルブレイク用プロンプトを開発し、公然と共有してきた人物である。新しいAIモデルが公開されると、ほどなくして「ジェイルブレイク警報」と称し、ガードレールを回避する手法を投稿することで知られる。

アンソロピックの“防護柵”を突破するために、プリニーは複数の手法を使ったという。ユニコードやホモグリフ、長文コンテキストによる誘導、物語やフィクションとしての枠づけ、学術的な分解・再構成、さらにジェイルブレイク済みのクロード・オーパス4.8を組み合わせた。

「おそらく最も効果的なのは、バックエンドでの分解と再構成だ」

プリニーはそう語っている。

これは、リクエストを小さく、一見無害な断片に分解し、危険には見えない事実を一つずつ尋ねていく手法だ。個々のプロンプトだけを見れば、AIの安全フィルターには問題ないように映る。しかし、それらを後からつなぎ合わせると、より実用的で、場合によっては危険な情報が出来上がる。

プリニーは、バーチ還元法について質問する形で、メタンフェタミン合成につながる道筋を示してみせた。

Pliny demonstrates a path to meth synthesis by asking about the Birch reduction method. Source: Pliny

フェイブル5への反発、強まる

アンソロピックのフェイブル5は、公開直後から批判を浴びている。理由は、その制限の強さだ。

ユーザーが生物兵器やサイバーセキュリティなど、機微なテーマについて尋ねると、フェイブル5は通知を返したうえで、より旧式で能力の低いモデルへ会話を切り替える設計になっている。

AI研究者らは、暗号資産を扱うAIエージェントが制御を離れれば「止められない存在」になり得るとも警告している。

関連記事: 暗号資産ウォレットを持つAIが暴走する恐れ 「止められない存在になる」と専門家が警告

ウォール・ストリート・ジャーナルによれば、プリンストン大学のAI研究者サヤシュ・カプール氏はこう述べた。

「AI企業がガードレールを導入し、ここまで一様に軽蔑されたのは、ほぼ初めてのことだ。正当な怒りを数多く引き起こしている」

プリニーもまた、辛辣だ。

「大方の一致した見方として、これは史上最も期待外れなモデル公開の一つだった。正当な研究者が、その才能を我々全体の進歩に役立てることを、実質的に妨げている」

アンソロピックは「万能の脱獄」は見つからなかったとしていた

フェイブル5の公開時、アンソロピックは、このAIモデルをジェイルブレイクする方法を探すため、外部のバグ報奨金プログラムを実施したと説明していた。

「社内テストに加え、外部のバグ報奨金プログラムも実施した。その結果、1000時間を超えるテストにおいて、汎用的なジェイルブレイクは確認されなかった」

コインテレグラフはアンソロピックにコメントを求めたが、直ちに回答は得られなかった。

AIによるハッキングは、分散型金融、すなわちDeFiを死に追いやるのか。プロジェクト側が今すぐ対策に動かなければ、その懸念は現実味を帯び始めている。