Grokの性的画像加工　世界で約300万枚生成か、子どもの被害も

（旧ツイッター）に搭載された生成AI（人工知能）「Grok（グロック）」を悪用し、実在する人物の画像が性的な画像に加工される被害が相次いだ問題で、この機能が使われた11日間に世界で約300万枚の性的画像がつくられた可能性があることがわかった。米英の非営利団体「デジタルヘイト対策センター（CCDH）」が22日、推計結果を発表した。

　センターは、グロックに画像編集の機能が追加された後の昨年12月29日から今年1月8日までを調査した。相次ぐ被害報告を受け、Xは9日に機能を有料会員に限定し、14日には露出が多い画像の編集をできなくしている。

　調査期間内にグロックが生成した全画像計約460万枚のうち、ランダムに抽出した約2万枚を分類。年齢や性別にかかわらず性的画像と判断されたのは約65%、子どもの性的画像と判断されたのは約0.5%だった。全体の460万枚にこの割合を当てはめて計算し、性的画像は約300万枚、子どもの性的画像は約2万3千枚と推計した。多くの著名人の画像や、自撮り画像を元にしたものもあったという。

　この機能をめぐっては、画像に写った本人の同意なく、性的な画像に容易に加工・拡散できる事態を招いた。英国が調査を開始したほか、インドネシアやマレーシアではグロックへのアクセスを一時的に遮断。日本政府もXに改善を要求するなど、各国当局も問題視していた。

EU、Xの大規模調査を開始　Grokの性的画像生成めぐり

ロンドン（CNN）　イーロン・マスク氏率いるxAIが開発するチャットボット「Grok（グロック）」がX（旧ツイッター）上で子どもも含めた人物の性的に露骨な画像を生成するとして世界的な非難が高まったことをめぐり、欧州連合（EU）が広範囲にわたる調査を開始した。

この事案は昨年末、グロックがユーザーの求めに応じて、デジタルで服を脱がせた女性や子どもの画像を次々に生成したことで発覚した。

Xは当初、グロックを有料会員に限定して公開すると発表していたが、最終的にはすべてのユーザーがグロックで実在する人物が露出度の高い服を着た画像を作成することを禁止した。

EUの行政執行機関である欧州委員会は26日の声明で、Xが「EU域内でXへのグロック導入に伴うリスクを適切に評価し軽減したかどうか」を調査すると述べた。

XはCNNに対し、今月14日付けでX上に掲載した声明に言及。声明には「児童性的虐待コンテンツ（CSAM）や合意のないヌードなど、緊急度の高い違反コンテンツを削除する措置を講じており、Xの規則に違反するアカウントに適切な措置を講じている」といった内容が書かれている。

欧州委員会は記者に向けた説明で、Xがこれまでに講じた措置を認めつつも、グロックの導入前にリスクを適切に評価していなかったと述べた。

調査は、テック大手に対し違法で有害なオンラインコンテンツへの対策強化を求めるデジタルサービス法に基づき開始された。

調査完了の期限は示されておらず、欧州委員会が調査結果に基づいてどのような措置を取るかについても示唆はない。匿名で取材に応じた当局者は、委員会が「取り得る手段は数多くある」とし、罰金を科す可能性もあると述べた。

画像生成が物議を醸した結果、インドネシアとマレーシアでは今もグロックの利用が禁止されている。英国の規制当局もXの正式な調査を開始した。

EU、生成AI「Grok」の性的画像生成でXを調査開始

欧州連合（EU）は、Xが開発したAIチャットボットのGrok（グロック）が、本人の同意を得ないまま性的画像を生成した問題を巡り、正式な調査を開始した。欧州委員会は、この行為によってEU市民が「深刻な被害」にさらされたとしている。少なくとも世界10カ国がすでに何らかの対応を取っていた。

声明によれば、この調査は「EU域内においてグロックの機能をXに展開するにあたり、同社が関連するリスクを適切に評価し、軽減していたかどうか」を検証するものだという。

調査の中心となるのは、「違法コンテンツ」に関連するリスクであり、具体的には改変された性的に露骨な画像、児童性的虐待コンテンツ、ジェンダーに基づく暴力などが含まれる。

欧州委員会は、デジタルサービス法（DSA）に基づき、Xのリスクプロファイルを実質的に変化させるようなグロックの機能を展開する前に、同社がそれに伴う特別なリスク評価を実施・提出していたかどうかを判断する。

また欧州委員会は、2023年12月に開始したXに対する調査を拡大し、同社のレコメンドシステムに関連するリスクが適切に軽減されていたかどうかについても検証を進めている。

DSAに違反した企業に対しては、全世界年間売上高の最大6％の制裁金が科される可能性がある。

過去1カ月の間に、英国、オーストラリア、カナダ、日本、インド、マレーシア、インドネシア、フィリピン、アイルランド、フランスが、グロックを巡って何らかの規制措置を講じている。

欧州委員会で技術主権・安全保障・民主主義を担当するヘンナ・ヴィルックネン執行副委員長は、「女性や子どもを対象とした性的ディープフェイクは、暴力的で容認できない侮辱の形態だ」と述べた。その上で、「XがDSAの下での法的義務を果たしていたのか、それとも女性や子どもを含む欧州市民の権利を、自社サービスのやむを得ない犠牲として扱ったのかを判断する」と語った。

ニューヨーク・タイムズの分析によれば、2025年12月下旬からわずか9日間で、グロックが生成した女性の性的画像の数は180万枚にのぼる。

1月初め、欧州委員会はDSAに基づき、グロックに関連するすべての内部文書およびデータを保存するようXに命じた。当局者は、これらの画像を「おぞましい」「嫌悪すべきものだ」と表現した。それ以降、フランスやアイルランドを含む複数のEU加盟国に加え、英国もグロックに対する独自の調査を開始している。

マスクとXは、いくつかの方法で事態の沈静化を図ってきた。1月8日、グロックはこの問題への対処として、画像生成機能を有料のXアカウントに限定すると発表した。しかしその後、グロックのウェブサイトを通じて同機能が依然として利用可能であることが確認された。

数日後、Xのセーフティアカウントは新たなガイドラインを公表し、「X上のグロックアカウントがビキニなど露出の多い服装をした実在の人物の画像を編集できないよう、技術的対策を世界中で実装した」と説明した。また、「この制限は、有料契約者を含むすべてのユーザーに適用される」としている。