TikTok、AI生成動画対策を強化 新検出システム導入とリテラシー教育推進を発表

生成人工知能（AI）で作られた本物と見分けがつかない動画のSNS投稿が相次ぐ中、動画投稿アプリ「TikTok（ティックトック）」は14日、「AIの透明性」と題したオンライン説明会を開催。AIで生成された動画を見分け、理解するための取り組みとして、新しい検出システムの導入、来歴情報の標準化団体への運営参画、AIリテラシー教育への投資を行うと発表した。TikTokのAI部門の担当者は「動画にAIが使用されているか識別できることが重要だ」と話した。

TikTokの日本での利用者は、関連アプリを含め月間4950万人に上り、生成AIを活用した動画も数多く投稿されている。TikTokは写実的なAI生成コンテンツ（AIGC）を投稿する際に「AI生成コンテンツ」のラベルを付けることを義務付けているが、選挙や災害などを巡り、本物と区別が困難な「ディープフェイク」と呼ばれる偽動画の拡散が問題となっている。

TikTokは、1日に1億本以上投稿される動画から、AIスパム（迷惑）アカウントによるものを排除するため、新しい検出システムを導入すると発表。社会の信頼や安全、健康に影響を及ぼす可能性があるジャンルとして、政治や時事問題、金融に関するアドバイス、歴史的な残虐行為、医療コンテンツなどを扱うアカウントを対象とする。スパムアカウントを検出、削除することで、オリジナルの動画を投稿するユーザーの露出機会を確保する狙いがある。

TikTokのグローバル公共政策本部でAI部門の責任者を務めるトム・ヴァルギス氏は、「スパム的なAIGCの投稿に特化したアカウントをより簡単に見つけて削除できるようにする」と述べた。スパムアカウントの検出テストを行った後、今後数週間をめどに導入するとしている。

デジタルコンテンツの来歴と信頼性に関する対策を標準化する国際団体「C2PA」の運営委員会への参加も発表した。人間の目では視認できない「電子透かし（インビジブル・ウォーターマーク）」の技術などを用いて、SNSを横断して投稿されるAIコンテンツを追跡、検出する取り組みも強化する。

また、AIリテラシー教育にも積極的に投資し、昨年11月に設立した「AIリテラシー基金」を400万ドル（約6億5000万円）に倍増させるという。TikTokアプリ内に「AIリテラシーハブ」を開設し、専門家と連携して、ユーザーが安全にAIを利用するための教育コンテンツを提供する。説明会では、アプリに表示されるAI生成コンテンツの量を自ら調整できる機能を紹介した。

ヴァルギス氏は、複合的な取り組みが重要だとし、「AIリテラシーは、プラットフォーム、ポリシー、また技術の標準化だけで獲得できるものではない。（利用者も含め）全員が一緒になって取り組む必要がある」と強調した。

TikTokのAIGCを巡っては、人気声優の津田健次郎さんが自身の声を無断で模倣した動画が公開されているとして、同社を提訴するなどのトラブルが起きている。

開催中のサッカーのワールドカップ（W杯）では、ノルウェー代表のFWアーリング・ハーランド選手の生成AIによるディープフェイク動画が拡散。中国発祥のAIを使ったファンアートとして楽しむ人がいる一方、本物の動画だと信じてコメントを書き込んだユーザーも多数確認されている。

ヴァルギス氏は、産経新聞の質問に対し、「（生成AIラベル付与の）規則に例外はない。ラベルがなければ、私たちがラベルを付ける。C2PAの技術、インビジブル・ウォーターマークを使用して、検出可能にする」と回答。人気を集めたハーランド選手の動画のようなユーモラスなネットミームにもAIラベルは必要だとし、「この問題に対するアプローチは極めて明確だ」と述べた。TikTokは、これまでに30億本以上の動画にラベルが付与されたとしている。