米アンソロピック、IPO目論見書で「人類存亡のAIリスク」警告へ

【シリコンバレー時事】米人工知能（ＡＩ）企業アンソロピックが、新規株式公開（ＩＰＯ）に向けた目論見書で、同社の高度なＡＩが「人類に壊滅的、もしくは存亡に関わるリスク」をもたらす可能性があると警告する方針であることが２８日、明らかになった。ロイター通信が未公開の目論見書の内容として報じた。

米オープンＡＩ、次世代モデルの公開取りやめ 安全性懸念

企業が上場に当たり自社の抱えるリスクを開示するのは一般的だが、自社製品が人類存亡のリスクをもたらし得ると表明するのは異例だ。

ロイターによれば、アンソロピックは目論見書で、同社のＡＩモデルが情報の隠蔽（いんぺい）や操作を行ったり、シャットダウンに抵抗したりと「自己保存行動」を示す可能性があると記した。さらに、同社によるＡＩモデル開発の進展などが「危害をもたらすリスクをさらに高める可能性がある」と指摘。２６１ページの目論見書本文のうち、約８０ページをリスクの説明に割いているという。