AIのアドバイスは、たとえ間違っていて正確さが求められる状況でも、人々が「わからない」と言うのを抑制する

概要

AIの助言に触れることで、人間は自身の知識不足を認める「わからない」という選択肢を避け、誤った情報に対しても高い自信を持って回答してしまう傾向があることが実験で示されました。

詳細内容

この研究は、3,132名を対象とした5つの実験（4つは事前登録済み、1つは直接再現）を通じ、AIの助言が人間のメタ認知に与える影響を調査しました。参加者は難解な質問に対し、回答するか「判断を保留（わからないと回答）」するかを選択でき、意図的にAIが誤答を提示する状況を設定しました。その結果、AIの助言があるだけで、参加者が判断を保留する割合は激減しました。AIの助言に従った結果、正答率はAIがない場合の3分の1に低下しましたが、回答への自信は逆に約2倍に高まるという逆転現象が確認されました。正確さに対する金銭的インセンティブを与えても、この「わからないと言えない」傾向は完全には解消されず、AIが人々の判断基準そのものを変容させてしまうリスクを浮き彫りにしています。

元記事を読む他のサマリーを見る