ろぼいんブログ
AIGrokSNSX（Twitter）xAIニュースプライバシー

【速報】X、Grokによる不適切な画像生成への対策を実装

サムネイル

X（Twitter）に搭載されているAI「Grok」を悪用して、ほかのユーザーが投稿した写真に対して性的または不適切な編集を加える事例が相次いでいる件について、Xは実在の人物の画像を露出度の高い画像に編集できないよう対策を実施したと発表しました。

Xは、児童の性的虐待コンテンツ（CSAM）や非同意のヌード、望まれない性的コンテンツを容認せず、ルールに違反するアカウントに対して適切な措置を講じるとともに、必要に応じて法執行機関に報告するとの方針を強調しました。

サムネイル
XでGrok画像編集の悪用が相次ぐ　マスク氏が違法コンテンツに警告、当局との連携も
X（Twitter）に統合されているxAIのAI「Grok」を使い、第三者が他人の画像を性的・不適切な内容に加工する事例が相次いでいます。これに対して、イーロン・マスク氏とXの公式アカウントは、Grokを使用して違法コンテンツを作成すると違法コンテンツをアップロードした場合と同じ結果になると警告しました。

その上で、X上に@grokとメンションしてポストすることでGrokで画像を生成・編集できる機能について、ビキニなどの露出度の高い服装をした実在の人物の画像の編集を禁止する技術的措置を実装したとしています。

広告

@grokによる画像生成・編集はXの有料サブスクリプションサービス「X Premium」の加入者のみがりようできるように変更されていますが、新たに適用した技術的措置はすべてのユーザーに適用されるとのことです。

Grokアカウントによる画像生成・編集を有料ユーザーに制限することで、法令やXのポリシーに違反する目的でGrokアカウントを悪用しようとする個人について、責任を追及できるとしています。

またXは、GrokアカウントとX内のGrokを通じて、ビキニや下着などの姿の実在の人物の画像を生成する機能が違法となる地域では、それらの機能を利用できないようジオブロックを適用しているとのことです。

参考リンク

記事をシェア

Xに共有するBlueskyに共有するMisskeyに共有するLINEに共有するThreadsに共有する

フォローして最新情報を入手

Googleの優先ソースに追加すると、このサイトの記事をGoogleで見つけやすくなります。また、ぜひXやRSSフィードもフォローしてください。

Googleの優先ソースとして追加するGoogleの優先ソースとして追加するXのロゴ

次の記事

著者のアイコン画像
ろぼいん
XMisskeyGitHubQiita

生まれた時から、母国語よりも先にJavaScriptを使っていました。ネットの海のどこにもいなくてどこにでもいます。

Webフロントエンドプログラマーとして、TypeScriptを用いたWebアプリやブラウザー拡張機能を制作。Xのシャドウバン検知ツール「Shadowban Scanner」やリンクカード復活ツール「Restore Link Card」を公開し、国内外のメディアで紹介されました。iGEM 2023ではJapan-UnitedチームのWikiを制作してGrand Prizeの獲得に貢献。ブログではXやSNSの最新ニュース、不具合の検証と対処法、フロントエンド開発の知見を発信しています。