フェイスブックにポストされたこの写真には「1943年11月 - ポーランド、ワルシャワ・ゲットー 崩れかけた壁に囲まれたゲットー内で、ミリアム・ゴールドという教師が20人の子供たちを古い学校の地下室に隠した。毎夜、彼女は星たちについての童話を語った――それぞれの星が再び輝くのを待つ子どもたちだと。ナチスに発見された時、彼女は去ることを拒んだ。目撃者によれば、彼女は最後まで子どもたちの手を握り、そっと歌い続けたという。戦後、生き残った一人の子どもが戻り、彼女が最後に座った壁に星を刻んだ。今もそこにある――勇気の静かな星座としてという説明がついていた。フェイスブックのフィードをスクロールすると、ホロコースト犠牲者とされる人物の写真（名前、年齢、悲劇的な運命まで記載）が目に留まり、これらの犠牲者が追悼されていると思い込むことがよくある。しかしロシア語のファクトチェックサイト「プロベレノ・メディア」の調査によると、多くの場合、これらの画像や経歴は AI によって生成され、捏造されているとのことである。こうした投稿の拡散はフェイスブックのコンテンツ収益化機能によって促進されているとみられ、アウシュヴィッツ=ビルケナウ博物館はこれを「ナチスの絶滅収容所で苦しみ、殺害された人々の記憶に対する重大な無礼行為」だと非難している。イスラエルのロシア語ニュースサイト "Newsru.Co.Il" は、ホロコースト関連の疑わしい投稿の急増を調査した。そのほとんどは、犠牲者とされる人物の顔写真と短い経歴が掲載されていた。その多くは「ヴァイオリンを愛していた」や「弟に子守唄を歌っていた」といった感情的な内容を含んでおり、その真偽を検証するのは極めて困難で、おそらく不可能だろう。投稿の背後にあるグループの名前を明らかにしていないが、プロベレノは、ホロコースト犠牲者とされる人物のAIによって生成された架空の伝記を掲載している10以上の ページを特定したという。これらのページはMetaの招待制「パフォーマンスボーナス」プログラムを通じて収益を得ている可能性がある。公開投稿へのエンゲージメントに対してクリエイターに報酬を与えるものだ。
プロベレノは「90年代の歴史」ページから AI が生成したホロコーストに関する投稿1件は9,600件の「いいね！」1,300件のコメント、そして約1,000件のシェアを獲得しており、最小限の制作コストで約77ドルの収益を生み出すことができたと推定している。アウシュヴィッツ博物館は声明を発表し、これらの投稿が「歴史的真実の完全性」「特に問題なのは、彼らの投稿が実際のコンテンツをコピーしたもので、当館の投稿から直接引用されているにもかかわらず、その情報を AI が生成した捏造画像と組み合わせて閲覧者に誤解を招いていることです」と博物館は述べた。「私たちはこのような行為を強く非難し、アウシュヴィッツの記憶を保存することに尽力するすべての人に対し、情報源を検証し、操作された、あるいは誤解を招くような歴史的コンテンツの拡散に断固として反対するよう強く求めます」を損なうものだと非難した。アウシュヴィッツ=ビルケナウ博物館博物館は声明の中で、「90年代の歴史」を AI 生成のホロコースト関連コンテンツを拡散しているページの一つとして挙げた。類似のページである「歴史的スナップショット」は、どちらも米国登録企業である "Star Groups LLC" と "Being Master LLC" によって管理されていると主張しています。しかし、プロベレノはこれらの企業の米国商業登記簿上の記録を発見できなかった。実際「歴史的スナップショット」はミャンマーから管理されているようだ。それにもかかわらず、両ページはフェイスブックの親会社であるMetaから「認証済み」ステータスを受けており、同社の審査プロセスに疑問が生じている。一方 Meta は米国でのサードパーティのファクトチェックプログラムを段階的に廃止し、X（旧Twitter）の「コミュニティノート」モデルに似たシステムに置き換えると発表している。下記リンク先は英国 BBC 放送のクリスティーナ・ヴォルクとケビン・グエンによる2025年8月29日付記事「BBC が AI ホロコースト画像で利益を上げるスパマーのネットワークを暴露する」です。
Facebook spammers profiting from AI Holocaust images by Kristina Völk & Kevin Nguyen
0 件のコメント:
コメントを投稿