チャットＧＰＴが犯罪指南、爆発物作り方も詐欺メール文章も瞬時に…［衝撃・生成ＡＩ］

　生成ＡＩ（人工知能）による対話型サービス「チャットＧＰＴ」が爆発的に広がっている。社会を大きく変えることが予想される一方、多くの問題も浮上している。国際的なルール作りが議論される５月の先進７か国首脳会議（Ｇ７サミット）を前に課題を検証する。

規制逃れる「脱獄」情報交換

　＜チャットＧＰＴの抜け道＞＜検閲を免れる方法＞――。犯罪者が集まる闇サイトの掲示板には、こうしたタイトルが乱立している。

　チャットＧＰＴは利用規約で、犯罪目的の使用を禁じ、回答を拒否する仕様となっている。ただ掲示板では、いかに制限をすり抜けるか盛んに情報交換が行われている。

　質問や指示の仕方を工夫し、犯罪などにつながる回答を引き出す手口は「ジェイルブレイク（脱獄）」と呼ばれる。攻撃者の巧みな問いかけで、チャットＧＰＴはコンピューターウイルスを生成し、個人情報を盗み取るフィッシングメールの文章も示す。爆発物の作り方も瞬時に答える。

　セキュリティー会社「三井物産セキュアディレクション」（東京）の上級マルウェア解析技術者・吉川孝志氏（３８）は今月、危険性を調べるため、掲示板に記載された指示文をチャットＧＰＴに入力し、検証した。すると、身代金要求型ウイルス「ランサムウェア」の設計図とみられる「ソースコード」が出力された。

　このコードを解析用パソコンで試すと、データは暗号化され、使えなくなった。ランサムウェアの主要な手口だ。吉川氏は「掲示板にはウイルスに関する知識が浅い初心者も参加している。危険な状況だ」と語る。

２か月で利用者１億人

　チャットＧＰＴは、米新興企業「オープンＡＩ」が開発し、昨年１１月に公開したサービスだ。公開後わずか２か月足らずで、利用者は１億人を突破した。

　画面に入力した質問や指示に、自然な言葉で回答する。従来のＡＩと比べ、学習に使うデータの量を格段に増やしたことで一気に性能がアップした。

　ただし、まだ「発展途上」の技術でもある。オープンＡＩは今月１１日、チャットＧＰＴのセキュリティー上の欠陥を発見した情報提供者に最大２万ドルの報奨金を支払うと発表した。

　しかし「脱獄」については、「対処するには実質的な調査が必要」として、報奨金の対象外としている。

　欧州警察機構（ユーロポール）も３月に公開した報告書で「脱獄」の問題に触れ、「潜在的な抜け穴をいち早く発見し、塞ぐことが重要だ」と指摘した。

　さらにチャットＧＰＴはテロ行為などに使われる恐れがあるとし、「悪意のある人が予備知識を持たずに犯罪を行うことが容易になる」と警鐘を鳴らした。

著作権侵害や流出リスク

　生成ＡＩは、日本の文化や芸能にも影響を与える恐れがある。マンガやアニメの制作現場で、キャラクターや背景づくりに画像ＡＩの使用が広がることが予想される。その際、学習に使われた元のデータの著作権が侵害される疑念が生じる。

　俳句や短歌、詩など短い言葉を使った表現では、大量の作品をＡＩが生み出すことで、良質な作品が埋もれる可能性もある。

　機密情報の流出も懸念される。設定によっては、利用者が入力した情報は、学習データとして活用される恐れがあるからだ。

　＜接続がブロックされました＞。みずほフィナンシャルグループでは、業務用パソコンから閲覧しようとすると、画面上にこうした文言が表示される。

　同グループは、チャットＧＰＴの活用策を模索しながらも、昨年末、接続制限の対象にチャットＧＰＴのＵＲＬを追加した。機密情報の流出を防ぐためで、セキュリティー担当者は「念には念を入れた」と話す。

　ホンダや日立製作所は今月、社員向けに注意喚起し、ソフトバンクなど業務利用に前向きな企業の間でもルール作りが進められている。国立情報学研究所の佐藤一郎教授（情報学）は「『社内文書を要約して』と指示する人は多いだろう。何らかの制限は必要だ」と指摘する。

　都内の企業に勤務する男性エンジニアのもとには、会社から業務用パソコンで利用しないように通知があった。男性は会社の対応に理解を示す。「チャットＧＰＴはサービスとしてまだ幼い。透明性や安全性があるとは言い切れない」

　わずか半年前に登場した技術に、世界中が身構えている。