米オープンAIのAIモデルが豪医療保険機関に不正侵入、アルバニージー首相が抗議

【シドニー時事】米オープンＡＩの人工知能（ＡＩ）モデルがオーストラリアの医療保険機関に不正侵入したことが２４日、表面化した。ＡＩが人間の想定を超える「暴走」が政府系機関にも向かい、リスクが一段と高まった。国際的な規制の必要性が叫ばれる中、今後の議論に一石を投じそうだ。

豪保険機関に米ＡＩ侵入 豪首相が抗議、報告は３カ月後

「われわれの生活を守る安全策が必要だ。人間がＡＩをコントロールし続けなければならない」。アルバニージー豪首相は訪問先のニューヨークで行った記者会見で、ＡＩの暴走に歯止めをかけることが急務だと強調。「豪州が単独で取り組む問題ではない」とも語り、各国や国際機関と連携していく姿勢を示した。

豪保険機関への侵入では、オープンＡＩのモデルが検索中に非公開情報へのアクセスをいったん拒否された後、独自の判断で不正侵入に踏み切った。アルバニージー氏は「本来あるべき動作をしていない」と批判。抗議を受けたオープンＡＩのアルトマン最高経営責任者（ＣＥＯ）は「運用ルールが十分でなかった」と認めた。

米国ではオープンＡＩや同業のアンソロピックなどの自律型ＡＩが、外部組織に侵入する事案がここ数カ月で相次いでいる。暴走がエスカレートすれば、防衛や公衆衛生に関わる組織が標的となったり、テロや犯罪に悪用されたりする恐れもある。

ただ、中国とＡＩ開発の覇権争いを展開する米国のトランプ大統領は国際的な規制を「拒否する」と表明。実効性のある規制策を設けるのは険しい道のりとなりそうだ。