Ofcom、Grokのディープフェイク画像をめぐる苦情でXを調査

Ofcom、Grokのディープフェイク画像をめぐる苦情でXを調査

英国のメディア規制当局Ofcomは、プラットフォームのチャットボット「Grok」が性的なディープフェイク画像の作成に使われたとの苦情を受け、Xに対する正式な調査を開始した。資料に含まれるRTÉの報道が伝えた。Ofcomは、このアカウントが人物の衣服を脱がせた画像や、子どもを性的に描写した画像の生成に使われたという、極めて憂慮すべき報告を確認したと述べた。規制当局は現在、Xがオンライン安全法に基づく義務を順守しなかったかどうかを評価している。

情報源の資料からは、対応の速さも分かる。Ofcomは1月5日月曜日にXへ連絡し、法的義務を順守するために講じた措置について、1月9日金曜日までに説明するよう求めた。同社から回答を受けた後、規制当局は証拠を迅速に評価し、正式な調査を開始することを決めた。この一連の流れが重要なのは、苦情が漠然とした広報上の問題としてではなく、法律違反の可能性がある問題として扱われたことを示しているためだ。

資料によると、Grokを手がけるイーロン・マスク率いる企業xAIは、利用者がしばしば本人の同意なく他人の性的なコンテンツを作成できてしまった不備に対処する間、画像の生成と編集を有料会員に限定する措置をすでに講じていた。この措置は、同社が事後的に悪用を抑えようとしていたことを示すが、規制当局が問うているのは、英国の利用者を保護するうえで、その対策が十分に迅速かつ強力だったかどうかだ。

OfcomがXの法律違反を認定した場合、同社に順守を命じ、対象となる全世界売上高の最大10％の罰金を科すことができる。これは、どのグローバルプラットフォームにとっても重大な制裁であり、オンライン安全規則がもはや象徴的なものではないことを改めて示している。資料によると、ダウニング街は、政府がXの利用を継続すべきかどうかも含め、あらゆる選択肢を排除していない。一方、閣僚らは、同意のない親密な画像の作成を犯罪とする別の法律を準備している。

より広範な懸念は英国だけに限られない。情報源によると、アイルランドのメディア規制当局は欧州委員会と協議しており、マレーシアはGrokへのアクセスを一時的に遮断し、インドネシアは同ボットへのアクセスを禁止した最初の国となった。こうした動きは、チャットボットをめぐる論争が、虐待、子どもの安全、プラットフォーム統治と交差した場合、いかに速く国境を越えて広がり得るかを示している。

この記事の出来事の日付は2026年1月12日である。提供された報告で確認されているのは、Ofcomが警告から調査へと移行したこと、苦情が性的なディープフェイクに関するものであること、そしてプラットフォームの対応が不十分だったと認定された場合、法的・政治的影響が重大なものになり得ることだ。

Grokをめぐる苦情は、規制当局にとってのより広範な問題も浮き彫りにしている。画像作成ツールが大規模なソーシャルネットワークに組み込まれると、企業が対応する前に、悪用されたコンテンツが大規模に作成・拡散され得る。そのため、この調査はX自体を超えて重要な意味を持つ。生成AIの悪用がプラットフォームや法域を越えて広がるなか、オンライン安全法がそれに追いつけるかどうかを試すものだからだ。規制当局が直面する課題は、もはやそのコンテンツが不快なものかどうかではない。法律によって十分な速さで阻止できるかどうかである。