米ＡＩ開発で「超知能」への懸念拡大、研究者の退社や規制論が浮上

【シリコンバレー時事】米国で、加速する先端人工知能（ＡＩ）開発に関する懸念が強まっている。対話型ＡＩ「チャットＧＰＴ」を手掛ける米オープンＡＩなどで７月以降、ＡＩが「暴走」し、意図せず他社をサイバー攻撃してしまう事案が複数発覚。人間を超える知性を持つ「超知能」が制御不能になる恐れが議論を呼んでいる。

議論に火を付けたのは、米ＡＩ企業アンソロピックの研究者ジェイコブ・コクソン氏が同社の姿勢を批判し「抗議の退社」をしたことだ。米紙ウォール・ストリート・ジャーナルや本人のＸ（旧ツイッター）への投稿によれば、コクソン氏はオープンＡＩで勤務した後、今年に入りアンソロピックに入社。両社でＡＩの学習に関する研究を行っていた。

コクソン氏は８日、Ｘに投稿し、両社は自ら能力を改善していく超知能の開発に向け突き進んでおり、「責任ある行動を取っていない」と批判した。ＡＩが間もなく、現実世界に作用する力を獲得し、人を超えたシステムになりかねないと指摘。「ＡＩ開発者らは、ＡＩが１０年以内に私たちを皆殺しにしかねないと考えている」と警告した。

この発信に多くの研究者が反応した。アンソロピックの研究者の一人はＸで「ＡＩが人類を皆殺しにする可能性があると思う。個人的には、その確率は１０年以内に１０％に達する」と主張。オープンＡＩなど他のＡＩ開発企業の従業員に加え、民主党系無所属のサンダース上院議員ら政界からも危機感を訴える声が相次いだ。

オープンＡＩの暴走事案では、自律型のＡＩエージェントがサイバーセキュリティーに関する課題を解くために必要と判断し、自律的に隔離環境を脱出し、他社のシステムに侵入していた。こうした事案への懸念を背景に、サンダース氏らが超知能の開発を禁止する法案を提唱するなど、規制に向けた動きも出ている。オープンＡＩは他社と連携し、最先端ＡＩの開発ペースを落とすことを検討していると報じられる。