XでGrok画像編集の悪用が相次ぐ　マスク氏が違法コンテンツに警告、当局との連携も

X（Twitter）に統合されているxAIのAI「Grok」を使い、第三者が他人の画像を性的・不適切な内容に加工する事例が相次いでいます。

これに対してイーロン・マスク氏とXの公式アカウントは、Grokを使用して違法コンテンツを作成すると違法コンテンツをアップロードした場合と同じ結果になると警告しました。

Grokの画像編集機能を悪用した被害が相次ぐ

XにはxAIが開発したAI「Grok」が組み込まれており、ポスト内で@grokとメンションすることで、Grokとテキストでやり取りしたり画像を生成・編集したりできます。

最近ではXに投稿した画像の上に、Grokで画像を編集するボタンが表示されるようになっています。

X（Twitter）、他人の画像をGrokで編集できるボタンを追加　アプリに続いてWebでも

Web版のX（Twitter）で、自分の投稿した画像か他人の投稿した画像かを問わず、xAIの開発したAI「Grok」で画像を編集できるボタンが追加されました。Xのスマホアプリでは遅くとも今年4月の時点で、ポストに添付されている画像を長押しして表示されるメニューから、Grokを使って画像を編集できる機能が実装されていました。

2025年12月24日

ここ数日、Xにアップロードされた画像に対して第三者が無断でGrokにメンションし、性的または不適切な画像に編集する被害が相次いでいます。

DogeDesigner氏の「ペンの比喩」投稿に、マスク氏とX公式アカウントが反応

UI/UXデザイナーとして知られるDogeDesigner氏は、Grokを使った不適切な画像の生成をめぐる批判について、「何が書かれるかはペンが決めるのではなく、それをもつ人が決める」という旨のポストを投稿しました。

これに対し、イーロン・マスク氏は「Grokを使用して違法コンテンツを作成すると、違法コンテンツをアップロードした場合と同じ結果に陥ります」と返信しました。

安全性関連のXの公式アカウント（@Safety）はマスク氏の投稿を引用し、児童の性的虐待コンテンツ（CSAM）を含むコンテンツに対して、削除、アカウントの永久停止、必要に応じた当局との連携などの措置を講じていると投稿しました。

さらに、マスク氏と同様に「Grokを使用して違法コンテンツを作成したり、Grokを誘導して違法コンテンツを作成したりすると、違法コンテンツをアップロードした場合と同じ結果に陥ります」と強調しました。

同アカウントは併せて、Xのルールに関するヘルプページと、強制的対応の適用レベルと適用範囲に関するヘルプページを案内しています。

1月15日から適用されるXの新しい利用規約とプライバシーポリシーでは、AIでユーザーが作成したコンテンツの責任はユーザー自身が負うことが明確化されています。

Xの利用規約が改定　AIの責任やTwitter名称の権利を明確化

X（Twitter）は、利用規約とプライバシーポリシーを改定し、2026年1月15日から変更が適用されると発表しました。この記事では、利用規約の変更について詳しく解説します。

2025年12月18日

1月1日にイーロン・マスク氏は、Grokを使って自身のビキニの画像を生成して「Perfect 👌」と投稿していました。