さらに問題を複雑化させているのが、生成AI技術との悪魔的な融合だ。無断転載されたTikTokの動画データは、単にそのまま掲載されるだけではない。最新の顔差し替え技術や音声合成AIを使い、性的なコンテンツや架空の詐欺広告へ改ざんされる事案が多発している。
サイバー犯罪に詳しい専門家は、「元動画の解像度が高ければ高いほど、AIによる改ざんの精度が上がってしまう。日常の何気ないダンス動画やトーク動画が、一夜にして悪質なディープフェイク素材へと変貌するリスクがある」と警鐘を鳴らす。投稿者自身が全く身に覚えのない形でネット上の不名誉なコンテンツと紐付けられる被害は、被害者の精神を酷く苛んでいる。