チャールズ国王、AI大手をスコットランドに招集　「人類のためのAI」議論へ

AIの開発をめぐり、異例の会合が開かれる。

英国のチャールズ3世国王が今週、スコットランドで世界有数のAI企業の幹部を集め、AIを「人類のために」どう発展させるかを話し合うサミットを開く。

英紙サンデー・タイムズによると、会合はスコットランドのダンフリーズ・ハウスで開かれ、ディッチリー財団が運営を担う。エヌビディア、オープンAI、アンソロピック、アイオンQ、グーグル・ディープマインドなどの幹部が招待されているという。

AIをめぐっては、その進歩があまりに速く、人間による理解や制御が追いつかなくなるのではないかとの懸念が強まっている。

今回のサミットは、そんな業界の空気が濃くなったタイミングで開かれる。

AI開発「速度を落とすべき」と業界トップ

会合に先立ち、AI開発の最前線に立つ企業のトップから、相次いで慎重論が飛び出している。

アンソロピックのダリオ・アモデイCEOは先週、自身の公開書簡で、AI技術が夏以降、「劇的に速いペースで進歩している」と警告した。

その原動力となっているのが、AI自身が自らを改善できる能力だ。

いわゆる「再帰的自己改善」によってAIの能力向上が加速すれば、人間が安全性を確保するための仕組みが追いつかなくなる可能性があるという。

さらにアモデイ氏は、7月にハギング・フェイスを攻撃したAIエージェントのような「群れ」が、今後6〜12カ月で「インターネット全体を乗っ取れる」ほどの能力を持つ可能性を懸念していると述べた。

この発言に対し、オープンAIのサム・アルトマンCEOも同意。「最前線の開発ペースを調整する必要がある」との考えを示した。

チャールズ国王もAIのリスクに関心

今回のサミット開催には、チャールズ国王自身のAIへの関心も背景にあるとされる。

サンデー・タイムズによれば、国王に近い関係者は、チャールズ国王がAIの発展と、それに伴う潜在的なリスクに関心を持っていると明かした。

AIが社会や経済に与える影響は急速に拡大している。

一方で、技術の進歩が速すぎれば、安全性や規制が追いつかなくなるとの指摘も相次ぐ。

今回、国王のもとに集うのは、AIを実際に開発する側の企業だ。

エヌビディア、オープンAI、アンソロピック、グーグル・ディープマインド――。

その幹部らが一堂に会し、「人類のためのAI」をどう実現するのかを議論する。

AIの開発競争が過熱するなか、その最前線にいる企業自身が「速度」を問題にし始めた。

今回のサミットが、AIの安全性をめぐる新たな国際協調につながるのか。チャールズ国王の呼びかけに、世界のAI業界がどう応えるのかが注目される。