オープンＡＩ、ＡＩ事故の公表枠組み発表＝意図しない行動など迅速報告へ

【シリコンバレー時事】対話型ＡＩ（人工知能）「チャットＧＰＴ」を手掛ける米オープンＡＩは１６日、ＡＩモデルが意図しない行動を取るといった事故があった際の公表の枠組みを発表した。

ＡＩ企業と会合開催へ 米中首脳会談、開発リスク協議

オープンＡＩは発表で、従来は事故公表の体系的な仕組みがなく、公表の頻度も不十分だったと認めた。新たな枠組みは事故発覚後、速やかに報告することを目指している。

公表対象は、ＡＩモデルが人間の許可なく行動したり、監視を回避する方法を発見したりした事例、第三者に影響を及ぼすような行為など。オープンＡＩの従業員は全員、事故の可能性のある事例を報告し、調査と公開の検討を求めることができる。社内調査を行った上で、事例の原因が完全に解明される以前でも、報告書を公表する場合もあるという。