情報セキュリティの第一線で活躍する専門家は、生成AIや自動最適化アルゴリズムのバグが原因である可能性を指摘する。現代のWeb広告やコンテンツ配信システムは、人間には理解できない独自の最適化ロジックで動いている。そのAIが、特定の条件を満たしたユーザーに対してこの文字列を「最もエンゲージメントが高いコンテンツ」と誤認して配信し続けた結果ではないかというのだ。
「AIが自己学習の過程で生み出した『死にコード』が、SNSのレコメンドエンジンをハッキングした形に近い」と、都内のセキュリティ企業に勤めるチーフアナリストは語る。もしこれが事実であれば、私たちが日常的に依存しているアルゴリズムの脆弱性を浮き彫りにした形になる。
