英国の通信規制当局Ofcomが、X（旧Twitter）のAIチャットボット「Grok」が、同意のない性的ディープフェイク画像の生成に使われていたとして正式な調査を開始した。Grokの画像編集機能が、本人の許可なく「服を脱がせる」加工や性的な画像の作成に悪用されていたとの深刻な報告が寄せられ、X上では複数の改変画像が出回っていたという。中には、1人の女性だけで100枚以上の偽画像が作られたケースも確認されている。
調査の結果、Xが英国のオンライン安全法に違反していたと判断されれば、最大1800万ポンド（約33億円）または世界売上の10％のいずれか高い方の罰金が科される可能性がある。さらに重大な場合、英国国内でXへのアクセスを遮断する裁判所命令を求めることもできる。
リズ・ケンダル英テクノロジー相は調査を歓迎し、「被害者は遅れを許さない」と迅速な対応を求めた。Ofcomは今後、Xが違法画像を把握後に速やかに削除したか、また英国ユーザーが違法コンテンツにアクセスしないよう適切な措置を講じたかを重点的に調べるとしている。非同意の親密画像や児童の性的画像は、Ofcomが取り締まるべき違法コンテンツに明確に含まれる。
今回の調査は、Xに対する国際的な圧力が高まる中で決定したもので、週末にはマレーシアとインドネシアがGrokの画像機能を一時的に遮断している。
