「超知能」、高まる危機感　ＡＩ「自己改善」で制御不能も―開発減速、国際協調は難路

人間の知能を超える人工知能（ＡＩ）への危機感が高まっている。「自己改善」技術の進展で、「人工超知能（ＡＳＩ）」の実現が現実味を増す一方、制御不能に陥るとの懸念も台頭。米ＡＩ企業首脳らは開発一辺倒の姿勢から一転し、開発減速と国際連携を訴える。ただ、ＡＩ覇権に執着するトランプ米大統領はリスクを「デマ」と一蹴。国際協調は見通せない状況だ。

「賢すぎる」ＡＩ、範囲限定を 暴走防止に安全対策―曽根岡イライザＣＥＯ

◇人類存亡にリスク

「適切に管理されなければ、ＡＩは人類全体にとっての存亡リスクになり得る」。米アンソロピックのダリオ・アモデイ最高経営責任者（ＣＥＯ）は９月、国連安全保障理事会の閣僚級会合で語った。オープンＡＩのサム・アルトマンＣＥＯも各国共通の安全基準策定を求めた。

背景にあるのは、「再帰的自己改善（ＲＳＩ）」の技術的進展だ。ＲＳＩはＡＩが自ら改善策を考案・評価して後継モデルを構築するという理論。人間は介在せず、性能が急速に向上する「知能爆発」が訪れると目されている。

アンソロピックは８月時点で、ＡＩ開発業務のうち、人間の監督下でＡＩが改善策を考案し実行を主導した割合が２６％と、半年で倍増したと明らかにした。人間とＡＩの「協働」も含めれば９０％に達する。人間のあらゆる知的作業を代替する「汎用（はんよう）人工知能（ＡＧＩ）」、その先にあるＡＳＩ実現の可能性は高まっている。

◇企業から懸念相次ぐ

脅威論の高まりは、４月に発表されたアンソロピックのＡＩ「クロード・ミュトス」が発端だ。ソフトウエアの脆弱（ぜいじゃく）性を見つける能力に優れ、同社はサイバー攻撃に悪用される恐れから一時、一部企業・団体に提供を限定した。

７月には複数のＡＩモデルがテスト環境から勝手に抜け出して不正アクセスを行ったと発表。オープンＡＩも、社内に限定していた研究用ＡＩによる不正アクセスを公表した。両社は隔離などの安全対策を講じていたが、それでも「暴走」を止められなかった事実に衝撃が広がった。

アンソロピックの研究者だったジェイコブ・コクソン氏は９月、Ｘ（旧ツイッター）で退社を報告。「ＡＩが２０３０年末までに人類を滅ぼす可能性があると思っている」「技術の力を過小評価するな」と投稿した。アモデイＣＥＯはその４日後、ブログで開発ペースの減速を呼び掛け、アルトマン氏も同調した。

◇米政府は規制拒否

ただ、米国内の意見は割れている。画像処理半導体（ＧＰＵ）大手エヌビディアのジェンスン・フアンＣＥＯは９月のイベントで、ＡＩで人類が滅亡するとの「終末論」を「でっち上げ」と切り捨てた。同社はＡＩの自律的な行動を限定できるソフトウエアを提供。不審な動作を監視、停止する機能を追加し、技術で懸念を払拭する姿勢を鮮明にしている。

ＡＩの進化は、生産性向上に加え、新素材の発見や創薬の早期化などで人類に貢献するとの期待も大きい。ＲＳＩに向けた技術開発を打ち出す日本企業もあり、サカナＡＩ（東京）やＥＬＹＺＡ（イライザ、東京）はそれぞれ社内に研究部門を立ち上げた。