英国の規制当局は、イーロン・マスク氏のXと同社のチャットボットGrokに対する監視を拡大した。Ofcomは調査を継続中だとし、情報コミッショナー局は別の調査を開始したと、BBCニュースが2月3日に報じた。

両規制当局は、性的ディープフェイクと個人データが不正利用された可能性をめぐる苦情に対応している。BBCによると、こうした画像は多くの場合、女性の実際の写真から同意なく作られ、プラットフォームがその行為を阻止する措置を取る前から、被害者、オンライン安全運動の関係者、政治家の批判を招いていた。

Ofcomは、この問題を緊急案件として扱っていると述べた一方、今回の具体的な事例では、チャットボットによる違法画像の作成を調査するための十分な権限がないとも述べた。この制約は重要だ。規制上の懸念が規制当局の権限の及ぶ範囲と同じではないこと、また既存の枠組みが生成AI悪用の速度や形態にまだ適合していない可能性を示している。

ICOの措置は、その隔たりの一部を埋めるものだ。同規制当局で規制リスク・イノベーション担当エグゼクティブディレクターを務めるウィリアム・マルコム氏は、報告によって、本人の同意なく親密または性的な画像を生成するため個人データがどのように使われたか、また適切な安全対策が講じられていたかについて、憂慮すべき疑問が生じていると述べた。実際には、これはICOがプラットフォームの行動だけでなく、データ処理についても調べていることを意味する。

BBCの報道はまた、英国の措置をXに対するフランスの捜査と並べて伝えている。フランスの検察当局は、別のサイバー犯罪捜査の一環として同社のパリ事務所を家宅捜索した。報道によると、この事件には違法なデータ抽出と児童性的虐待コンテンツ所持への加担が関係している可能性がある。これらの疑惑は別々のものだが、合わせて見ると、欧州当局がマスク氏のプラットフォームに対し、いかに積極的に動いているかが分かる。

より根深い問題は、一つのウェブサイトや一つのチャットボットにとどまらない。通常の個人データや公開写真から性的な画像を生成できるAIツールに、既存のデジタル規制が追い付けるかどうかという問題だ。英国の対応は、規制当局が現在、これを仮定上の将来の問題ではなく、現実に存在する法執行上の問題だと見ていることを示している。

利用者にとって、結果は、プラットフォームがどれほど迅速に悪用を検出できるか、モデル運営者がどの程度の利用者データを利用できるか、そして被害が拡散する前に法律で責任の所在を定められるかに左右される可能性が高い。英国による最新の調査は、その答えがまだ形成途上であることを示している。

この事件はまた、製品がソーシャルメディア、データ、広告、AIにまたがる企業に対し、規制当局がどの程度の圧力をかけられるかを試すものでもある。BBCの報道は、英国がもはやこの問題を単純なコンテンツ管理の問題として扱ってはいないことを示している。