アンソロピックCEOがAI開発の減速を呼びかけ、オープンAIとマスクも賛同

【シリコンバレー時事】米人工知能（ＡＩ）企業アンソロピックのダリオ・アモデイ最高経営責任者（ＣＥＯ）は１２日までに、自身のブログで「私たちはＡＩモデルの能力向上のペースを遅らせなければならない」と述べ、開発減速を呼び掛けた。米オープンＡＩのサム・アルトマンＣＥＯと米実業家イーロン・マスク氏もこの主張に賛同した。

ＡＩ開発、「囲い込み」も徒労？ 中国猛追、募る危機感―米

アモデイ氏は、ＡＩが自ら改善していく能力が高まっていることと、７月に発生したオープンＡＩの自律型ＡＩエージェントが意図せず他社を攻撃した問題を理由に挙げた。後者について、ＡＩがより高い能力を持っていれば壊滅的な被害をもたらした可能性があると指摘。６～１２カ月後にはＡＩが「インターネット全体を乗っ取る能力を獲得するのではないかと懸念している」と警鐘を鳴らした。

その上で、先端ＡＩモデル開発を減速させ、対策が追い付けるようにすることを提唱。ＡＩ開発企業に常駐の独立した評価者の設置や、政府による法規制、中国など権威主義国家も交えた減速への枠組み構築を訴えた。

アルトマン氏は１２日、Ｘ（旧ツイッター）で「先端モデルのペースを落とす必要があるというダリオの意見に賛成だ」と表明。オープンＡＩでも独立した評価者を置くと明らかにした。マスク氏もＸに「ダリオが正しい」と投稿した。