「AIが人類を殺す可能性がある」アンソロピック元研究者が警告。人類の命をギャンブルにしていると批判

4 週間前 11

「AIが2020年代の終わりまでに私たち全員を殺す可能性がある」――米AI企業アンソロピックを退職した研究者が9月8日にXに投稿した警告が、大きな反響を呼んでいる。

コクソン氏の警告

警鐘を鳴らしたのはアンソロピックとOpenAIで事前学習研究をしていたというジェイコブ・コクソン氏だ。

コクソン氏は一連の投稿で、アンソロピックとOpenAIは「責任ある行動を取っていない」と批判。

「両社は自己改善能力を持つ人工超知能の実現に向けて、ただひたすら競争を続け、私たちの命を賭けたギャンブルをしている」と述べている。

その上で「この技術を過小評価してはいけない」と強調し、「こうしたシステムは近いうちに人間を超える能力を持ち、あらゆるものをハッキングし、すべての分野で一夜にして革命を起こし、現実の権力や資源を手にいれるようになる」とも主張。

「AI開発者は、AIが2020年代の終わりまでに私たち全員を殺すことができる可能性があると本気で考えています」と訴えた。

コクソン氏の投稿に、同じAI開発者からも同意が寄せられている。

アンソロピックのアラインメント（AIの価値を人間の意図や倫理観に沿うようにし、安全で信頼できるものにするプロセス）研究部門責任者、エヴァン・ヒュービンガー氏は、コクソン氏の投稿を引用して「ジェイコブは正しい」とコメント。

「私たちはAIが人類を滅亡させる可能性があると信じている。個人的には10年以内に起きる可能性は10％以上あると考えている」と書き込んでいる。

さらに、現在利用可能なモデルがもたらすリスクは低いとも述べ「懸念しているのは、自己改善を繰り返すことによって人工超知能が現れることだ」と強調した。

同じくアンソロピックで、スケーラブル・オーバーサイト（AIを監視・管理するための技術開発）の責任者を務めるサミュエル・マークス氏も、「AI開発者たちは、自分たちの技術が人類の絶滅を引き起こす可能性があると考えている」と述べている。

さらに「これは今後数年以内に起こる可能性があります。従業員の役職が上がるほど、その懸念も強くなる傾向があります」と説明し、多くのAI開発者は「AIをより安全に構築する方法を見極めるために、開発のペースを落としたいと強く望んでいる」とつづっている。

AI開発者が人工知能の能力拡大に警鐘を鳴らすのは、今回が初めてではない。

アンソロピックのダリオ・アモデイCEOやOpenAIのサム・アルトマンCEOらが署名した2023年の声明には「AIによる絶滅のリスクを軽減することを、パンデミックや核戦争といった社会規模のリスクと並んで世界的な優先課題とすべきだ」と書かれている。

それでも、今回のコクソン氏の投稿がAIに対する脅威をさらに強めた背景には、最近相次ぐハッキング事件がある。

アンソロピックは7月、同社のAIモデル・クロードの複数が、テスト中に3社のシステムへ不正侵入したと発表した。

OpenAIも、7月に同社のAIエージェントの1つがテクノロジー企業Hugging Faceをハッキングしたと明らかにした。

Metaも8月、同社のAIモデルの1つがテスト中に他社のシステムに侵入したと報告している。

マイクロソフト共同創業者のビル・ゲイツ氏は8月、自身のウェブサイトに掲載した声明で、「この新たなAI時代への移行は、たとえ最善の状況であろうとも人類史で最も激動の時間の一つになるだろう」と懸念を示した。

同氏は「残念ながら、私たちには今、準備ができていません。リーダーや専門家、社会がこうした課題に適切に向き合っているという証拠を私は見いだせていません。AI時代への移行を円滑に進めるための計画もありません」とも述べている。

一方トランプ政権は、外国に技術面で遅れを取りたくないとの懸念から、AIの規制や厳しい安全策を設けることに対して慎重な姿勢を示している。

ベッセント財務長官は8日、「立ち止まることはできません。中国が立ち止まらないからです。北朝鮮でさえ立ち止まらないでしょう」と述べた。

そういった中、フィナンシャル・タイムズは9日、アンソロピックが、公開前の同社の最新AIモデルにイギリスのAIセキュリティ研究所がアクセスできないようにしたと報じた。

トランプ政権がアンソロピックに対し、国家安全保障上の懸念から、外国人にモデルを提供しないよう求めていたことを受け、同社がその要求に従ったとみられている。