生成ＡＩで岸田首相の偽動画、ＳＮＳで拡散…生中継のようにニュース番組のロゴも表示

　生成ＡＩ（人工知能）を利用して作られた岸田首相の偽動画がＳＮＳ上で拡散している。首相にそっくりな声で卑わいな発言をさせたもので、日本テレビのニュース番組のロゴなども表示されている。海外では、政治家の偽動画が世論操作に悪用される事態も起きていて、日本でも今後、対策を求める声が高まりそうだ。

【表】一目でわかる…政治家の偽動画・偽画像、こんなにあった

　偽動画では、背広姿の首相が画面中央で視聴者に向かって語りかけている。日本テレビの番組ロゴのほか、「ＢＲＥＡＫＩＮＧ　ＮＥＷＳ」などのテロップが表示されており、首相のオンライン記者会見を報じる番組を悪用して作られたとみられる。

　読売新聞の取材に対し、大阪府の男性（２５）が生成ＡＩなどを使って偽動画を制作し投稿したことを認め、「面白くて作った」と話した。日本テレビは「悪用されたことは到底許すことはできない。必要に応じてしかるべき対応をとる」などとコメントした。

　偽動画は２日、Ｘ（旧ツイッター）に投稿され、３日時点で２３２万回以上閲覧されている。

一気に拡散

　問題の偽動画では、背広を着てネクタイを締めた岸田首相が画面中央で視聴者に語りかけている様子が収められている。

　画面の右上には、日本テレビのニュース専門チャンネル「日テレＮＥＷＳ２４」のロゴが入っており、同番組で実際に使用されているものに似せたテロップで、「岸田首相　『確かにいたしました』」などと表示されている。「ＬＩＶＥ」や「ＢＲＥＡＫＩＮＧ　ＮＥＷＳ」という文字もあり、岸田首相の話が緊急速報として生中継されているかのような印象を与える。

　問題の偽動画は今夏、動画投稿サイト「ニコニコ動画」などに投稿された。３分４３秒のうち、３０秒分を抜粋したものが今月２日、Ｘ（旧ツイッター）に投稿され、一気に２３０万回以上閲覧された。投稿を見た他のユーザーからは、「ＡＩ普及の弊害」「悪意のあるフェイク動画」などの批判も書き込まれている。

短時間で

　偽動画を制作して投稿したのは大阪府の男性（２５）だ。

　男性によると、ネット上で公開されている首相の記者会見や自民党大会の演説などの動画から、首相の音声をＡＩに学習させて、偽音声を用意した。首相のオンライン記者会見を伝えた日本テレビのニュース番組を利用し、自身の声を首相の偽音声に変換させる機能を使って、わいせつな発言を吹き込んだ。

　そして、セリフに合うように、首相の口の動きを加工したり、テロップを作ったりして、１時間足らずで作り上げたという。

　男性は昨年から、岸田首相のほか、安倍元首相などの偽動画を制作・投稿し始めた。理由について、「総理大臣は、誰でも知っている象徴的な存在だから、注目を集めやすい」と説明。「混乱させる意図はなく、『笑ってほしい』という目的で作った。風刺のようなもの」とした。

　日本テレビは「日本テレビの放送、番組ロゴをこのようなフェイク動画に悪用されたことは、到底許すことはできない」として、必要に応じてしかるべき対応をとるとしている。

名誉棄損の恐れ

　著作権法３０条の４では、著作物をＡＩに無断で学習させることを原則的に認めており、権利者側から批判が上がっている。大量のデータを学習した生成ＡＩを悪用し、容易に偽情報を作り出すことができるようになり、社会の混乱を招くことが懸念されている。不名誉な発言をさせた動画を拡散すれば、名誉毀損（きそん）などにあたる可能性がある。

　生成ＡＩを使った偽動画に詳しい東京工業大の笹原和俊准教授（計算社会科学）は、今回のケースについて、「ニュース番組を装ってＳＮＳに投稿したことでより多くの人の注目を集めて拡散されてしまった。偽動画の内容によっては、社会を混乱させる恐れがある」と指摘する。

　その上で、「動画は、文字で書かれたものよりも五感に訴えるため、より直接的にネガティブなイメージを植え付けてしまう。印象操作という点で悪質だ」と批判。「生成ＡＩの急速な発展に受け手のリテラシー教育が追いついていないのが現状で、まずは拡散の舞台であるプラットフォーム側への対策が必要だ」としている。

「社会を分断」海外で問題化

　海外では、著名な政治家の偽動画や偽画像が問題になるケースが相次いでいる。総務省は今年の情報通信白書でこういった海外事例を紹介し、「偽・誤情報の流通により社会の分断が生じ、民主主義の危機につながるおそれがある」と指摘している。

　同省の調査によると、２０２１年、欧州の議員が、ロシアの議員の偽動画と気づかずにビデオ電話会議を実施。ロシアによるウクライナ侵略では、ゼレンスキー大統領が国民に投降を呼びかける偽動画が動画投稿サイトなどに投稿された。

　米国では今年に入ってから、バイデン大統領が第３次世界大戦の開始を告げるＡＩ偽動画が政治活動家によって作成され、拡散した。また、トランプ前大統領が逮捕されるＡＩ偽画像がＸ（旧ツイッター）上で拡散された例もあった。

岸田首相の「フェイク動画」投稿者が謝罪「日テレさま、訴訟は停止を」　どんな法的問題がある？

岸田文雄首相が下品な言葉で語る「フェイク動画」がSNSで拡散されている。この動画は、生成AIで作成されたもので、「日テレNEWS24」「LIVE」「BREAKING　NEWS」など、あたかも実在する報道番組かのようなテロップも入っていた。

「日テレさま、訴訟は停止を」と謝罪する投稿者

この騒動を受けて、日本テレビは「しかるべき対応をして参ります」というメッセージを公表した。一方で、動画を投稿した男性はエックス（旧ツイッター）で謝罪し、「訴訟等は停止を…」と呼びかけている。

実際問題として、岸田首相や日本テレビは投稿者の男性を提訴できるのだろうか。ネット中傷問題にくわしい中澤佑一弁護士に聞いた。

⚫️日テレ「然るべき対応をして参ります」

問題となっているのは、岸田首相が下品な言葉で語り続けているフェイク動画で、日テレは11月3日、「放送、番組ロゴをこのようなフェイク動画に悪用されたことは、到底許すことはできません。フェイク動画について今後も必要に応じて然るべき対応をして参ります」というメッセージを発信した。

投稿の男性は11月4日、エックスで謝罪し、訴訟はやめるよう日テレに呼びかけた。

「日本テレビさま　岸田総理のAIフェィク動画は全て削除させて頂きましたのでどうか訴訟等は停止してください。　私には日本テレビの業務を妨害する意図はありませんし攻撃をする意図もございません。　全て削除し平に謝罪させていただきます　申し訳ございませんでした」

⚫︎岸田首相と日テレへの賠償額は？

もし、岸田首相や日テレが法的措置をとった場合、投稿者の男性はどのような責任を問われるのだろうか。中澤弁護士は次のように指摘する。

「岸田首相については、名誉毀損（民事刑事両方）と肖像権の侵害（民事）が考えられます。日テレについては、ロゴの使用による商標権侵害（刑事・民事両方）、虚偽の報道したかのような外観が作出されていることをとらえた名誉毀損（民事刑事両方）に問われる可能性があります」

では、賠償額はどの程度になるのだろうか。

「賠償額を予想するのは難しいのですが、一般的に名誉毀損や肖像権侵害は、100万円以上の賠償が命じられることは少ないです。しかし、岸田首相の場合、閲覧数が相当あったようであれば、著名人であることも考慮して、数百万万円以上の賠償になる可能性もあります。

ただし、賠償額を軽減する事情としては、動画が単に口を動かしているだけの簡易な作りで一見してフェイク動画とわかるため、信じた人は少ないはずだなどの主張は可能だろうと思われます。日テレのほうは、それよりも低額になるのではと思います」

動画制作者は動画を削除し、謝罪しているが、賠償額に影響するのだろうか。

「損害額算定の基礎として閲覧数は重要になります。そのため削除してそれ以後の閲覧を止めたというのは損害拡大を停止した事情として賠償額に影響するでしょう」