「とぼける」技術：AIはいかにして詐欺師を自らの土俵で打ち負かしているのか

概要

心理学を悪用する詐欺師に対し、AIが「お喋りな高齢者」を演じて時間を浪費させたり、対話に意図的な「間」を設けることで被害を防ぐ、新しい防御のデザインを解説する。

詳細内容

この記事は、AIを活用して詐欺師を翻弄する新しい対抗策について論じています。主な焦点は、英通信大手O2が開発したAI「Daisy」です。Daisyは、詐欺師が好む「高齢でITに疎い」というターゲット像を完璧に演じ、無意味な雑談を続けることで、詐欺師の時間を最長40分も奪います。これは、詐欺師が利用する「不安と救済」の心理プロセスの裏をかき、彼らの時間的コストを最大化させる戦術です。また、AppleやGoogleのデバイスに搭載されたコールスクリーニング機能についても言及しています。これらは、詐欺師の「即時性」を奪う「デザインされた摩擦（ポーズ）」として機能し、ユーザーが冷静に判断するための時間を提供します。さらに、Mastercardのリアルタイム不正検知システムなど、行動パターンから心理的圧迫を検知する技術の進化も紹介されています。しかし、著者は技術的な解決策だけでは不十分であるとも指摘しています。東南アジアの詐欺拠点では人身売買された人々が強制労働に従事している実態があり、詐欺は単なるUXの課題ではなく、深刻なガバナンスと人権の問題であることを強調しています。プロダクト開発者にとって、単に壁を高くするのではなく、敵の心理的バイアスを逆手に取る設計思想が重要であると説いています。

元記事を読む他のサマリーを見る