アンソロピック、最新AI「フェイブル5」と「ミュトス5」を再公開へ 米政府が輸出規制を解除

人工知能（AI）企業のアンソロピックが、同社の最強クラスのAIモデル「クロード・フェイブル5」と「ミュトス5」への一般公開を再開する見通しとなった。米政府の指示により一時的に公開停止に追い込まれてから、数週間ぶりの復帰である。

アンソロピックの最新2モデルは、6月12日以降、一般ユーザーからのアクセスが制限されていた。きっかけは、研究者らがフェイブル5の安全対策を回避したとする報告書だった。これを受け、米政府は輸出管理措置を発動。アンソロピックは即座に両モデルへのアクセスを停止せざるを得なくなった。その規制が水曜日、解除されたとアンソロピックは明らかにした。

「米政府との一連の建設的な協議を経て、サイバーセキュリティ関連タスクをより的確に検知・ブロックする新たな分類器を搭載し、モデルを再展開する」

アンソロピックはそう説明している。

今回の公開停止をめぐっては、最先端AI技術に対する国家統制のあり方をめぐり、専門家や技術者の間で懸念が広がっていた。危険な前例になりかねない、という声も上がった。一方で、強力なAIモデルが「脱獄」され、悪意ある目的に使われた場合、国家的なサイバーセキュリティ上の脅威になり得る――。今回の輸出規制は、そうしたホワイトハウス側の危機感を浮き彫りにした格好だ。

「最良の技術を配備することが優先事項」

ハワード・ラトニック米商務長官は水曜日、Xへの投稿でこう述べた。

「この2週間、われわれはアンソロピックと緊密に連携し、フェイブル5を分析・承認してきた。米政府全体での整合性を確保し、AI分野における米国のリーダーシップを強化するためだ」

また、ホワイトハウス首席補佐官のスージー・ワイルズ氏もXで、政府の優先事項は「最良のAI技術を、可能な限り迅速かつ安全に配備すること」だと述べている。

関連記事: アンソロピック「フェイブル5」、公開から48時間で“脱獄” 安全柵を突破した「解放者」の手口

今回の規制は、アマゾンの研究者らによる報告が米政府の耳に入ったことが発端だった。報告では、フェイブル5の安全対策を回避し、同モデルに複数のソフトウェア脆弱性を特定させる手法が示されていたという。

これに対しアンソロピックはブログ投稿で、こう反論している。これはフェイブル5だけに特有のリスクではない。より性能の低いモデルでも、同じ脆弱性を特定し、同様のエクスプロイトを生成することは可能だ、というのだ。

AI「脱獄」の深刻度分類を提案

アンソロピックはまた、アマゾン、マイクロソフト、グーグルなどのパートナー企業とともに、AIの脱獄行為の深刻度を評価するための共通フレームワークの策定にも乗り出している。

これは、4月に発表された「プロジェクト・グラスウィング」の一環だ。同プロジェクトは、AIを悪用したサイバーセキュリティ上の脅威を防ぐための協業枠組みである。

Anthropic’s cybersecurity safety classifiers and how jailbreaks interact with safety classifiers. Source: Anthropic

同社はさらに、AIモデルのテストと安全対策をめぐる米政府との連携も拡大していく方針だ。

「これには、評価目的でのモデルおよび安全対策へのリリース前アクセス、脱獄や不正利用に関する情報共有、共同研究のための専用リソースが含まれる」

アンソロピックはそう述べている。

なお、ある著名なAI研究者は、政府による規制が入る前の6月、フェイブル5の公開から48時間以内に同モデルの脱獄に成功したと主張。安全ガードレールを回避した様子を示すスクリーンショットも共有していた。