概要
生成AIの普及により、巧妙なディープフェイクや高度にパーソナライズされた詐欺が民主化される中、防御側もAIを活用した新たな対抗策を模索している。
詳細内容
生成AI（GenAI）の台頭は、オンライン詐欺の様相を劇的に変化させました。ダークウェブではAIエージェントに関する議論が急増し、2025年第1四半期だけでディープフェイクによる損害額は2億ドルを超えています。本記事では、不正の現状を以下の3点で解説しています。
1. **不正の民主化**: 専門知識のない攻撃者でも、AIを用いることでパーソナライズされたフィッシング、マルウェア作成、精巧な偽サイトの構築が可能になりました。ボットネットワークもAgentic AIにより進化し、CAPTCHAなどの従来の防御を回避しています。
2. **「サイドハッスル」化する不正**: 一般市民がAIを使用して偽の領収書や破損商品の画像を生成し、返金詐欺や保険金請求を行うなど、小規模な不正のハードルが下がっています。
3. **防御側の対抗策**: 不正対策チームもGenAIをリサーチ、データ分析、内部報告の効率化に活用し始めています。詐欺師が規制に縛られず迅速に技術を取り入れる中、防御側には部門を超えた連携とAI習得が不可欠です。
総じて、従来型のクレジットカード盗用から、合成IDやアカウント乗っ取りへと不正の主流がシフトしており、信頼の再構築が急務となっています。