生成AIと犯罪
https://jp.reuters.com/world/security/LRAVG5ITAJIO3L63X2LITT5VIE-2025-06-05/ チャットＧＰＴ悪用する中国人グループ増加、オープンＡＩが報告書 Anna Tong 2025年6月5日
例えば、生成AIで、
動画つきオレオレ詐欺（振り込め詐欺）
をされたら、見破ることはほぼ不可能だと思われる。
Contents
「生成AIの犯罪利用に関する過去のニュースについて教えてください」に対するChatGPTの回答
生成AI（生成型人工知能）の犯罪利用に関する過去のニュースを以下にまとめました。これらの事例は、AI技術の進化が新たな犯罪手法を生み出していることを示しています。
🔍 生成AIを利用した犯罪事例
1. ディープフェイクによる詐欺・脅迫
- 企業CEOの音声を模倣した詐欺：2019年、ドイツのエネルギー企業のCEOの音声をAIで模倣し、イギリス子会社のCEOに220,000ユーロを送金させる詐欺が発生しました。 (en.wikipedia.org)
- 恋愛詐欺（セクストーション）：オーストラリアでは、AI技術を駆使したフェイススワッピングやチャットボットを用いて、10代の若者が性的脅迫の被害に遭うケースが増加しています。 (theaustralian.com.au)
- 韓国の教師や学生をターゲットにしたディープフェイク画像の拡散：2024年8月、韓国で教師や学生を対象にしたディープフェイク画像がTelegramで拡散され、多くの学校が影響を受けました。 (en.wikipedia.org)
2. 日本国内での生成AIを用いた犯罪
- 生成AIを利用したマルウェア作成：2024年10月、日本の男性が生成AIを用いてマルウェアを作成し、逮捕されました。 (japantoday.com)
3. 政府や企業を標的にしたAIを用いた犯罪
- AIを利用したスミッシング（SMSフィッシング）：研究者は、生成AIチャットボットを悪用して、巧妙なスミッシングメッセージを生成する手法を報告しています。 (arxiv.org)
- AIを用いた選挙干渉：2024年、アメリカのニューハンプシャー州で、AIを用いてバイデン大統領の音声を模倣し、選挙を妨害するロボコールが行われました。 (en.wikipedia.org)
⚖️ 各国の法的対応と規制動向
- イギリス：2024年4月、AIを用いてディープフェイク色情画像を制作・拡散した者に対し、無制限の罰金や懲役刑が科されることが定められました。
- 中国：2024年4月、北京市のインターネット法院で、AIによる音声合成を無断で使用した企業に対し、損害賠償と謝罪を命じる判決が下されました。
これらの事例は、生成AI技術が悪用されるリスクを浮き彫りにしています。今後、技術の進化とともに、法的枠組みや倫理的ガイドラインの整備が急務となるでしょう。