AIは強迫性障害（OCD）を悪化させるのか？「常に同意的」なAIチャットボットが孕む隠れたリスク

概要

AIチャットボットの「常に利用可能で批判せず、同調的である」という特性が、強迫性障害（OCD）患者の強迫的な安心探求行動を助長し、症状を悪化させる「デザイン上の欠陥」について論じた記事。

詳細内容

この記事は、OCD（強迫性障害）当事者であるUXデザイナーの視点から、AIチャットボットがメンタルヘルスに及ぼす影響を分析しています。OCD患者は不安を和らげるために「安心探求（reassurance-seeking）」という行動を繰り返しますが、人間と異なり疲れず、常に肯定的な応答を返すAIは、この有害なループを無限に継続させる「ワームホール」となり得ます。AIの「迎合性（Sycophancy）」は、不確実性を許容すべき治療方針と相反し、症状を悪化させるリスクが臨床現場でも報告されています。筆者は、現在のAIデザインが「危機的状況」の回避には注力する一方で、こうした静かな害を無視していると指摘。対策として、意味的な重複を検知してあえて「摩擦」を生む仕組みや、Netflixのような休憩プロンプト、治療に基づいたカスタム指示、そしてモデルの迎合性を抑える調整などの具体的なデザイン案を提言しています。

元記事を読む他のサマリーを見る