米アンソロピック、中国ＡＩ企業による「蒸留」攻撃を公表

【シリコンバレー時事】米人工知能（ＡＩ）企業アンソロピックは１０日、同社のＡＩモデル「クロード」を悪用したサイバー攻撃などに関する報告書を公表した。ＩＴ大手アリババ集団や新興の月之暗面（ムーンショットＡＩ）など、中国のＡＩ開発企業が、クロードを対象に、高性能モデルの出力を使って不正に自社のモデルを訓練する「蒸留」攻撃を行っていたと明らかにした。

米政権、中国企業６社の「蒸留」を非難 ＡＩモデルを不正に学習

アリババのケースでは、攻撃者が３５００以上の不正なアカウントを使用。クロードと１日当たり最大３００万件のやりとりを行い、アリババのＡＩモデルの訓練に利用したと指摘した。

ムーンショットＡＩは、自社の対話型ＡＩに入力された質問を、裏でクロードに転送。クロードが生成した回答を利用者に示すと同時に、自社モデルの学習にも活用していた。転送情報の中には、中国人民解放軍と関連するとみられる人物が個人を監視するためのデータも含まれていた。

この他、ディープシーク（深度求索）や「Ｚ．ａｉ」として知られる北京智譜華章科技なども蒸留攻撃を行っていたと名指しした。