広がるAI使った性的偽画像被害、狙われる卒アルの個人写真　載せない学校増える可能性も

卒業アルバム（卒アル）の写真などを生成人工知能（AI）で性的な画像や動画に加工する「ディープフェイクポルノ」の被害が国内外で広がっている。特に卒アルに掲載された生徒の〝個人写真〟が加工素材として狙われ、SNSなどで拡散されるケースが目立つ。少子高齢化で卒アルへの個人写真掲載が定番化している中、こうした事態を受けて、載せない学校が増える可能性も出てきた。

■求められる流出対策

「卒アルは（生徒の在学を証明するツールでもあり）、卒業生の個人写真を載せてこそ意味がある」

東京都葛飾区で50年以上、卒アル制作を担ってきたキョーコロの柏木和也取締役はこう強調する。現状、同社と取り引のある学校では卒アルに個人写真の掲載を取りやめる動きは顕在化していないと話す。

ただ、個人情報流出の不安に加え、不登校の生徒が増えていることもあり、地域や学校によっては卒アルに個人写真の掲載を取りやめる動きもにわかに散見されるという。

同社にも、卒アルからの個人情報の流出対策を求める声は増えている。抜本的な対策は見いだせておらず、柏木氏は「卒アルは個人情報を含むものという意識を持ってもらうため、取り扱いの注意を喚起する紙を同封するなどの提案くらいしかできていない」と頭を抱える。

■紙の卒アルから流出防げず

技術的な対策も難しい。写真販売システムを運営するITベンチャー「エグゼック」（東京）の山中淑史取締役は、「デジタル画像ならば、不正コピーを防ぐ『電子透かし』の利用やパスワード管理などで一定程度流出を防ぐ方法はあるが、製本された紙の卒アルからスキャンされた画像の流出は防ぎようがない」と説明。「紙幣に使われているようなコピー防止機能を卒アルに施す手法も考えられるが、コスト面を考えると現実的ではない」と指摘する。

同社は生徒の顔をAIで選別する技術を活用し、卒アルに登場する生徒の回数調整を効率化するサービスを提供している。山中氏は「AIの活用はさまざまな面で大きな恩恵を与える一方で、同じくらい悪用されるリスクもある。使い方はモラルに依存する部分が大きすぎる」と警鐘を鳴らす。

■4年間で被害は5・5倍に

AI技術の加速度的な進歩により、ディープフェイクポルノは容易かつ精巧に作ることが可能になり、最近では偽物がどうか見極めるのが困難になっている。

その技術革新によって、ディープフェイクポルノの被害も拡大の一途をたどる。米セキュリティー会社「セキュリティー・ヒーロー」によると、2023年にネット上で確認されたディープフェイクポルノ動画は9万5820件で、19年と比べて5・5倍に増えた。国籍別の被害で日本は全体の10％を占め、韓国（53％）、米国（20％）に次いで3番目に多い。

被害が集中する韓国では今年5月、ソウル大の卒業生の男らが、同窓生を含む60人以上の女性の顔写真を利用した画像を流布したとして起訴され、被害の実態が表面化した。使われた素材の多くは、卒業アルバムやプロフィル写真など、入手が容易な写真だった。

韓国や米国ではディープフェイクを直接規制する法律の整備が進むが、日本では明確に規制する法律はないのが現状だ。

中高生さらに小学生も被害に"生成AIでわずか30秒　性的な画像作成も"「性的ディープフェイク」の実態

今、急増しているディープフェイクによる性的被害。

見ず知らずのうちに写真が悪用され、生成AIにより、性的な映像や画像が作られるケースが相次いでいます。

■【動画で見る】30秒で生成できてしまう「性的ディープフェイク」

体操服を着た幼さが残る少女たち。性的ディープフェイクにより下半身が露出したように加工されたり…

なかには卒業アルバムの写真を悪用されるケースも…

生成AIによりいとも簡単に作成され、誰もが被害者になりうる性的ディープフェイク。

卑劣な実態を取材しました。

■性的ディープフェイクの相談・通報は100件超えた

先月、こども家庭庁が開いたあるワーキンググループでは、生成AI技術などを悪用し実在する児童、女性などを性的に加工した画像や動画「性的ディープフェイク」について議論されていました。

【三原じゅん子こども政策担当相】「生成AI技術を悪用した児童の性的ディープフェイクについては、だれでも簡単に被害者にも加害者にもなってしまう」

警察庁によると、性的ディープフェイクに関する全国の相談や通報は、去年100件を超えました。

■中高生や小学生まで　未成年がターゲットになっている「性的ディープフェイク」

一体、どのような実態があるのか。

ネットパトロールやデジタル性暴力の通報活動を行う「ひいらぎネット」代表の永守すみれさんに聞きました。

性的ディープフェイクは近年、未成年者がターゲットになっていると指摘します。

【ひいらぎネット　永守すみれ代表】「数年前までは有名人の方が被害に遭っていることが多かったんですけれども、最近では一般の中高生、もっと小さいと小学生も性的ディープフェイクの被害に遭ってしまっている現状があります」

「ひいらぎネット」の調査によると、未成年者の性的ディープフェイクがことし3月～6月で252件、SNS上などで確認されたということです。

【ひいらぎネット　永守すみれ代表】「ヌードに加工されているものがもっとも多いんですけど、性的な行為をしているものもありました」

そしていま悪用されているのが卒業アルバムです。

【ひいらぎネット　永守すみれ代表】「とくに3～4月くらいにかけて卒業アルバムが配布されてすぐくらいのタイミングというのは卒業アルバムを使った画像加工の被害というのが大変多かった」

被害者の知らないところで卒業アルバムの写真を悪用。

性的な画像や動画に変えられ、誰でも見られるSNSなどに投稿されているといいます。

実際に、コミュニケーションアプリを見てみると…「#卒アル晒し」という名前が付けられた項目が。

そして卒業アルバムとみられる名前が入った写真がずらりと投稿されています。

【ひいらぎネット　永守すみれ代表】「自分で衣服をはだけて胸をあらわにするようなもの、おそらく小学生だと思うが服を脱がされているようなものになります」

なんと小学生とみられる少女の写真を性的な動画に変えているものやSNSに投稿した写真を悪用され下半身に何も着けていないかのように加工された画像も。

驚くのは作成の依頼者が「同級生」の可能性もあるといいます。

【ひいらぎネット　永守すみれ代表】「例えば、同級生を名乗る人が『自分の同級生の画像を加工してください」というふうに書いて、元画像をあげている」

■服を着た記者の写真が30秒ほどで裸に…

性的ディープフェイクはどのようにして作られてしまうのか。

記者の写真を使用し実際に作成してみると…

【ひいらぎネット　永守すみれ代表】「今開いているページは、ヌードフェイクが作れるサービスへのリンクがずらっと貼られているところ」

コミュニケーションアプリに貼られた多くのURL。このURLに飛ぶと簡単に作成できるといいます。

記者の証明写真をアップしてみると、作成サイトには、「胸の大きさ」を選ぶ機能もありました。

そして、作成ボタンを押すと…

【ひいらぎネット　永守すみれ代表】「『26秒でできます』と書いています」

【記者】「服が脱がされています」

わずか30秒ほどで、記者が着ていたはずの服が消えています。

【記者】「違和感ない。ここまで精度があるんですね」

【ひいらぎネット　永守すみれ代表】「本当に言われなかったらAIで脱がされたものってわからない。普通にこういう写真がもともとあったのかなって思うようなものが簡単に作れてしまうんですね」

■「個人での対策は難しい」性的ディープフェイク

AIの技術向上により誰でも簡単に作ることができ、一見しただけでは、真偽の判断が難しくなってきているといいます。

被害者の知らないところで作成・投稿されている性的ディープフェイク。

永守さんは、「個人での対策は難しい」と指摘します。

【ひいらぎネット　永守すみれ代表】「卒業アルバムとか、学校行事の写真っていうのは、自分の管理ができる範囲外にあるので、正直に言って完全な自衛というのはもはや不可能。国がしっかりと対策をしていくべき」

■「個人と名前が一致しない」卒業アルバムを作成する学校も

卒業アルバムが悪用される現状に若者は…

【高校生】「悪用されるのは悲しいし、怖いなって思います」

【高校生】「3年間とか6年間の思い出があると思うので残してほしいと思うけど変な風には扱ってほしくない」

卒業アルバムが悪用される問題について大阪市にあるアルバムメーカーはどのように思っているのでしょうか。

【株式会社ダイビ　前田哲治社長】「卒業アルバムがディープフェイクに関わるような伝わり方をしていると不本意」

この会社では、昨年度2230校分のアルバムを作りましたが近年、中身にある変化が…

【株式会社ダイビ前田哲治社長】「個人情報の繋がりかねないデータに関しては掲載しない傾向。個人と名前が一致しないように写真だけにする、数は少ないが出てきている」

個人情報保護のため、変わりゆくアルバムのカタチ。

しかし卒業アルバムをめぐってはことし4月、仙台市の印刷会社がサイバー攻撃をうけたと発表。

全国の小中学校などおよそ17万3000人の個人情報が流出した可能性があるということです。

こうした漏洩を防ぐため、この会社では最高水準のセキュリティ対策をしているといいます。

【株式会社ダイビ前田哲治社長】「卒業アルバムは人の人生において学生時代の記憶の象徴、誰にとっても大事なアイテム。我々もプライドを持って仕事をさせてもらっている。モノ作りをするまでは我々の責任。生徒の手に渡った先は関与できないので…」

誰もが被害者になりうる性的ディープフェイク。

大切な写真が悪用されないために早急な対策が求められます。

■鳥取県では条例も

「ひいらぎネット」の永守すみれ代表によると、保育園の写真購入サイトからIDやパスワードが流出し、そこから写真を取って、悪用されるケースや投稿したウェディングフォトがディープフェイクの被害に遭うこともあるそうです。

日本には、現段階で性的ディープフェイクに特化した法律がありません。

しかし自治体が対策に動き始めていて、鳥取県は、児童ポルノ（ディープフェイク含む）の作成・提供を禁止する条例を今年の4月に施行しました。来月から以下の罰則が強化されるということです。

・5万円以下の過料

・画像の廃棄・削除の命令

従わない場合には…

・追加で5万円以下の過料

・氏名の公表も

■EUでは人権侵害の画像はAI開発企業に対しても制裁金をかけている

この問題について、犬山紙子さんは、「国が対策をすべき」と提言します。

【犬山紙子さん】「国が対策していくべきだと思うんですよね。AIを規制する方向ではなくて、児童ポルノとしてどう罰していくか。同級生による（依頼）もあるとお話ありましたけれども、こいつ気に入らないからディープフェイクで（生成AIに）してもらおう（という発想）にもなり得る。教師による盗撮も話題になっていますが、自分の教師がそれを（ディープフェイク画像生成を）やっているけど罰せられないのは違うと思うんですよね」

【関西テレビ・神崎博報道デスク】「鳥取県のような取り組みが本当に国レベルでやればいいんですけれども、例えば海外の人に（法律の範囲が）及ぶのかなど（の課題が）ありますし、AIそのものの規制は難しいんですけど、EU・ヨーロッパでは、 AI自体を規制し、性的なものを含めて人権侵害するものであれば、AIを開発した企業に対しても制裁金をかけるという形で動いている国もあります」

一方、大阪大学大学院・安田洋祐教授は、国が規制をかけることで、「他の技術革新を阻害してしまう可能性もあるのでは」と、「技術革新」と規制の両立の難しさを指摘しました。

【大阪大学大学院・安田洋祐教授】「規制が実効性を持つかという点も難しいですし、ポルノ対策でかけた規制が他の技術革新を阻害してしまうかもしれない。こういった動機でAIを使う人は、多数派ではないと思う。守るべきものは守るけれども、社会を便利にしていくイノベーションを削がない形のルール作りができるかですね」

「服が脱がされている」生成AIで30秒ほどで裸に　“性的ディープフェイク”の実態　卒アルの写真を悪用も　「個人と名前が一致しない」卒業アルバムを作成する学校も

「卒業アルバム」がなくなる日　性的加工、情報流出リスク　存続求める声強く、進化模索も

卒業アルバム（卒アル）が存続の危機に直面している。最近は、卒アルに掲載された写真が生成人工知能（AI）で性的な画像に加工されSNSで拡散されたり、卒アル制作の関連会社がサイバー攻撃を受ける被害も相次ぐ。こうしたリスクの回避や教師の負担軽減の観点から、一部で卒アル廃止を検討する動きが出始めているという。学校生活を振り返る卒アルという文化を守っていくには、リスクへの対策が欠かせない状況だ。

■水面下でサイバー攻撃被害

4月から5月にかけ、関東や東北地方を中心に卒アルの印刷などを請け負う制作会社がサイバー攻撃を受け、卒業生らの個人情報が流出した可能性がある被害が続発した。写真関連事業者などでつくる日本写真館協会の隈川英孝専務理事は「特定の標的を定めず、広く浅く攻撃する巡回型サイバー攻撃とみられる」と分析。現時点で情報流出といった二次被害は確認されていないと強調する。

とはいえ、今回の一連の被害については、「プライバシーマーク（Pマーク）」取得事業者からの報告のみで、被害の全容は解明されていないのが実情だ。適切に個人情報を取り扱う事業者に付与される「Pマーク」を取得していれば、個人情報に関する事故が発生した場合、Pマーク審査機関に報告する義務があるが、それ以外の事業者は報告義務がない。そのため、隈川氏は「実際にはものすごい数の被害があるのではないか」とみる。

■「情報保護」対策進むも…

写真事業者側も対策を怠ってきたわけではない。同協会は、2013年に写真館向けの個人情報保護を目的とした自主的な資格認定制度「フォトセキュリティマイスターシステム（PSMS）」を導入。同協会主催の講習会を受講し、個人情報保護に関する知識や理解度を確認する試験などを経て認定される制度で、同協会会員のうち「約4割が認定資格を取得している」と隈川氏は説明する。

また、同協会ではサイバー攻撃を受けた際の損害などを補償する保険やトラブル時に対応できる顧問弁護士を用意しており、「サイバーセキュリティーに関しては、業界ではかなり細かく対策を実施している」と胸を張る。

ただ、「企業規模によって危機意識や対応にも差がある」と隈川氏。中小や零細の写真事業者では、セキュリティーが脆弱化するサーバーの交換やメンテナンス時にサイバー攻撃を受ける被害も散見されるという。

■教師による盗撮事件も影響か

一方で、写真の取り扱いに関する著しいモラルの低下も大きな課題だ。

今年7月には、卒アルに載っている生徒の写真を悪用し、性的に加工された252人分の画像や動画がSNS上に投稿されていることが民間団体の調査で判明。さらには、教員らが女子児童を盗撮しSNSのグループチャットで画像を共有したとされる事件も明らかになった。

「こうした事件が報じられる度に、卒アルを廃止しようという議論が巻き起こるのではないかと危惧している」。そう話すのは、写真販売システムを運営するITベンチャー「エグゼック」（東京）の古田貴也社長だ。「過重労働が指摘される教師の業務改善の観点もあり、卒アルの廃止や製本された卒アルの代替としてフォトブックのような簡易的なもので済ませようとする動きもある」という。

■卒アルにおけるAIの功罪

卒アル制作に伴う教師の負担軽減を図ろうと、同社は生徒の顔をAIで選別する技術を活用し、卒アルに登場する生徒の回数調整を効率化するサービス「アルバムスクラム」を提供している。7月現在で全国3000を超える小中学校で採用され、卒アル制作の時間の大幅短縮に寄与するなど成果をあげている。

だが一方で、そのAI技術の進歩で、容易かつ精巧な画像加工が可能になり、SNSの普及で性的に加工された画像の拡散する範囲や速度が急激に増し、被害が拡大した側面もある。

制作現場では、画像データの不正コピーを防ぐ「電子透かし」の利用やパスワード管理などで一定程度の流出を防ぐ対策が模索される。ただ、製本された紙の卒アルからスキャンされた画像の対策は難しいという。紙幣に使われているようなコピー防止機能を卒アルに施す手法も考えられるが、手間やコスト面が課題となっている。

■「欲しい」と思われるものに

少子化に加え、学校行事などを撮影するカメラマンの不足や物価高の影響を受け、卒アル制作の単価は上昇傾向にある。地域によっては1冊3万円以上に値上がりしており、東京都などの一部では卒アルの購入負担を軽減するための補助金を支給する自治体もある。

さまざまな逆風にさらされる卒アルだが、依然、存続を求める声は多い。同社が昨年度に小中学校に通う子供の保護者約２万人に実施した卒アルに関するアンケート調査では、81・7％が「なくならないでほしい」と回答。「なくなってもよい」と回答したのはわずか6・1％で、卒アルの文化を残したい意向の強さを反映した結果となった。

一方で、「分からない」との回答が12・2％を占めたが、古田氏は「無視できない数字」と危機感を募らす。「卒アルからの性的な画像加工や情報流出などのリスクがさらに高まれば、『なくなってもよい』との判断に変わる可能性がある人たちが約1割もいるということ」と分析する。

「卒アルを存続させるためには、単純に生徒から『欲しい』と思われるものに仕上げるべく、進化させないといけない」と古田氏。最近では、付加価値を高めるため、小中学校で卒アル作りを授業に取り入れるよう働きかける活動を積極化させている。これまで一部の教師や児童・生徒のみが携わっていた編集・制作に卒業生全員が関わるようにすることで、より思い出に残る卒アルに仕上げる狙いだ。