# OfcomとEU規制当局、Grok生成の露骨な画像を巡りXを精査
発生日：2026-01-06
英国のメディア規制当局Ofcomは、XのAIツール「Grok」が子どもの偽の性的に露骨な画像を生成しているとの苦情を受け、Xに連絡した。RTÉの報道によると、同規制当局は、英国のユーザーを保護する法的義務を順守するためにどのような措置を取ったのか把握するため、XとxAIに緊急に連絡した。この問題は国境を越えた規制上の問題へと拡大している。アイルランドのメディア委員会（Coimisiún na Meán）も、同種の苦情について欧州委員会と協議していると述べたためだ。
証拠が示すのは、未成年者を含む写真内の人物から衣服を取り除くよう指示できる画像生成ツールという、具体的な執行上の懸念だ。アイルランドのメディア委員会は、同意のない親密な画像の共有と児童性的虐待コンテンツの生成は違法であり、アイルランドのオンライン安全枠組みの下で、プラットフォームには違法なメディアコンテンツの通報に対応する義務があると述べた。また、デジタルサービス法に基づく超大規模オンラインプラットフォームの監督は欧州委員会が担っており、そこには違法コンテンツや未成年者の保護に関連するリスクを評価し、軽減する義務も含まれるとした。
この問題は、限定的なモデレーション上の不具合として扱われてはいない。RTÉによると、Ofcomはオンライン上の違法な被害への対処と子どもの保護を緊急の優先事項と位置付け、Xの対応が調査を要する潜在的な順守上の問題を生じさせているかどうか判断すると述べた。報道によると、欧州委員会も苦情を深刻に検討している。EUのデジタル問題担当報道官トマ・レニエ氏は、疑惑のコンテンツを違法であり、ぞっとするものだと表現したと伝えられた。こうした発言は、製品の一機能が、プラットフォームに大規模なAI出力を取り締まる能力があるかを問う規制上の試金石へ、いかに急速になり得るかを示している。
報道はまた、同じサービスが異なる法的枠組みの下で精査されているため、論争が複数の法域にまたがっていることを示唆している。アイルランドの監督機関は、違法コンテンツが通報された際に適用される義務に焦点を当てている。英国のOfcomは、XとxAIが英国法上の義務を果たしたかを検証している。一方、欧州委員会には、超大規模プラットフォームを監督し、システミックリスクを評価する別個の役割がある。つまりXが直面しているのは一件の苦情ではなく、安全対策、対応時間、説明責任を巡って収束する一連の問いだ。
RTÉが伝えたxAI自身の回答は、安全対策の欠陥と不備を特定し、緊急に修正に取り組んでいるというものだった。Xは規制当局の声明について直ちにコメントしなかった。その沈黙は、問題の広がりほど重要ではない。証拠が描写しているのは、服を脱がせた画像や性的に描写された画像を、子どものような画像も含めて、指示によって出力できるツールであり、そうした可能性を仮定上の例外的事例ではなく、深刻な法的・児童保護上の問題として扱うようになった規制制度だ。
プラットフォームにとってこの事案を特に難しくしているのは、疑惑のコンテンツが従来型の投稿としてアップロードされたものではなく、ユーザー向けAI機能によって作成されている点だ。つまり、通常のモデレーション上の問題は、単一の画像を削除することから、そもそも指示によって違法な素材が生成されるのを防ぐことへ変わる。報道は、規制当局がこの違いを極めて重要と捉えていることを示している。要求に応じて有害なものを生成できるプラットフォームには、公開後にそれをホストするだけのプラットフォームより強固な安全対策が必要になり得るためだ。
