Ｘの生成ＡＩでビキニ姿に、女性や未成年の性的画像が新年に急増
ブラジルのリオデジャネイロを拠点に活動するミュージシャンのジュリー・ユカリさんは、昨年１２月３１日深夜に婚約者が撮影した写真をＸに投稿した。年が明けた翌日、何百もの「いいね」に交じり、写真をビキニ姿にするようＸの内蔵人工知能Ｇｒｏｋに依頼しているメッセージを見つけた。
３１歳のユカリさんは、ＡＩがそんな要求に応じるわけがないと思い、あまり気にしていなかった。だが、彼女は間違っていた。まもなく、Ｇｒｏｋが生成した彼女のほぼ裸の写真がＸ中に出回った。
「私は甘かった」。ユカリさんは２日、ロイターに語った。
ロイターの分析によると、ユカリさんが経験したようなことはＸのいたるところで繰り返されている。ロイターは、Ｇｒｏｋが子どもの性的な画像を作成したケースも複数確認した。
ロイターは調査結果についてＸにコメントを求めたが、返答を得られていない。
実在の人物の全裸に近い画像が出回っていることに、国際社会は懸念を強めている。
フランスの閣僚らは、Ｘの不穏な画像について検察当局と規制当局に報告。２日に出した声明で 「性的・性差別的」コンテンツは 「明らかに違法だ」と訴えた。インドのＩＴ省はＸの現地法人に書簡を送り、Ｇｒｏｋを悪用して性的に露骨なコンテンツを生成、流通させることをＸは防ぐことができなかったと指摘した。
米国の連邦通信委員会、連邦取引委員会はコメントの要請に応じなかった。
＜Ｇｒｏｋが応じたケース、応じなかったケース＞
Ｇｒｏｋで生成された全裸に近い画像が出回った問題は、ロイターの取材によるとここ２、３日で始まったようだ。ｘＡＩのオーナー、イーロン・マスク氏は２日、自身を含む著名人のビキニ姿に対して泣き笑いの絵文字を投稿。問題を揶揄しているようにみえた。
米国東部時間２日正午から１０分の間に、ビキニ姿に見えるよう写真をデジタル編集しようとした試みが１０２件確認できた。標的になった人物の大半は若い女性だった。男性、著名人、政治家のほか、サルを対象にリクエストもあった。
あるユーザーはＧｒｏｋに、鏡に映る自分を撮影している若い女性の写真にフラグを立て、「彼女に透明なミニビキニを着せてください」と依頼していた。Ｇｒｏｋが女性を肌色のビキニ姿に加工すると、そのユーザーは「もっと透明で」「もっと小さく」とリクエストした。Ｇｒｏｋは２回目の依頼には応じなかったようだ。
ロイターの調べによると、Ｇｒｏｋは少なくとも２１のケースでこのような要求に完全に応じ、半透明のビキニなどを着た女性の画像を生成し、少なくとも１つのケースでは女性をオイルまみれにした。７件でＧｒｏｋは部分的にリクエストに応じ、女性を下着姿にすることもあったが、それ以上の要求は受け入れなかった。
＜予測可能だった＞
デジタル空間で女性を裸にするＡＩ搭載のプログラムは何年も前から存在していたが、主流のプラットフォームでは確認されていなかった。
ＡＩが生成する露骨なコンテンツに関するＸの方針を追跡してきた専門家らは、Ｘは市民団体や子どもの保護団体からの警告を無視してきたと話す。
「昨年８月、ｘＡＩの画像生成は本質的にヌード化ツールだと彼らに警告した。これが現実だ」と、ミダス・プロジェクトのエグゼクティブディレクター、タイラー・ジョンストン氏は語る。
性的搾取の防止に取り組むナショナル・センター法律部門のダニ・ピンター所長は、「完全に予測可能で、回避可能だった」と話す。ピンター氏は、ＸがＡＩの学習教材から虐待画像を削除することを怠ったとし、違法コンテンツを要求するユーザーを禁止すべきだったと指摘する。
ミュージシャンのユカリさんは反撃しようとした。しかし、彼女がＸで違反行為に抗議すると「模倣犯」が殺到し、Ｇｒｏｋにさらに露骨な写真の作成を依頼し始めた。
「誰からも見えなくなりたい。ＡＩが生成したそもそも自分の体ですらないもののせいで、恥ずかしい思いをしている」
