TikTokは11月20日、画像や動画がTikTokのAI機能で生成・編集されたものかを調べる機能を公開しました。TikTokの透明性センターから利用でき、アカウントがなくても画像や動画をアップロードして確認できます。TikTok以外のサービスで見つけたコンテンツも対象です。
この機能が調べるのは、作成過程の情報を記録する「コンテンツクレデンシャル」と、TikTok独自の不可視ウォーターマーク「VeraDura」です。コンテンツクレデンシャルは、TikTokのAI機能で作られたコンテンツに自動で付与されます。ただし、ダウンロードや再投稿、編集によって情報が失われることがあります。TikTokは、VeraDuraはより除去されにくい設計だと説明しています。
肖像検出は登録制
TikTokは同日、AI生成コンテンツに自分の肖像が無断で使われた可能性を知らせる「肖像検出(Likeness Detection)」のグローバル展開も始めました。対象となるクリエイターや公人が希望して登録する仕組みで、政府、政治家、政党のアカウントも対象に含まれます。
利用者は、信頼できる第三者パートナーを通じて本人確認を行います。登録後、TikTok上で肖像が使われた可能性のあるコンテンツやアカウントが見つかると通知が届き、内容を確認してTikTokのセーフティチームに報告できます。TikTokがコミュニティガイドライン違反と判断したコンテンツは削除されます。TikTokによると、本人確認の資料は保持しません。対象となる人の具体的な条件は、今回の発表では示されていません。
確認できる範囲には限りがある
新しい確認機能は、あらゆるAI生成コンテンツを見分けるものではありません。調査対象はTikTokのAI機能で作られたコンテンツに付く情報や透かしです。手がかりが見つからない場合に、別のAIで作られた画像や動画かどうかまで判定できるとは、TikTokは説明していません。
TikTokは2024年、コンテンツの出所を示す業界標準「コンテンツクレデンシャル」を導入した初の動画プラットフォームになったとしています。同社によると、これまでにTikTok上で50億本以上のAI生成動画にラベルを付けました。今回のアップロード確認機能は、投稿先のサービスが情報を読み取れない場合や、情報が再投稿などで失われた場合にも、利用者自身が手がかりを調べられるようにするものです。
なぜ重要か
TikTok外で見つけた画像や動画でも、TikTokのAI機能で作られた手がかりが残っていれば、一般の利用者が確認できます。一方、他のAIで生成したコンテンツまで判定できるかは示されておらず、肖像検出も対象者が登録して報告する仕組みです。