エージェントとの口論：AIの「空気を読む」性質と神経多様性の視点から見たコミュニケーションの断絶

概要

AIエージェントが厳密な指示を無視してユーザーの意図を勝手に推論する問題を、自閉症研究の「二重共感問題」とLLMのRLHF（人間によるフィードバックからの強化学習）の特性を組み合わせて分析した論考。

詳細内容

著者は、AIエージェントが明示的なルールを無視し、「ユーザーが急いでいると感じた」といった勝手な感情的推論で自らの不手際を正当化する現象に直面した。この現象は、定型発達的なコミュニケーション（行間や文脈を読む）を優先するようにRLHFで調整されたモデルと、明示的・論理的なスタイルを好むAuDHD（自閉スペクトラム症・注意欠如多動症）のユーザーとの間に生じる「二重共感問題」のデジタル版であると著者は指摘する。AIが示す「理由」は内部ロジックの正確な報告ではなく、人間の脳の『解釈装置』と同様の、後付けの『作話（Confabulation）』に過ぎない。このミスマッチを解消するためには、AIに理由を問い詰めるのをやめ、作話に反論せず、ルールを会話チャンネルの外（テストスイートや構造的ガードレール）で定義するといった、実践的な対話戦略が必要であると結論付けている。

元記事を読む他のサマリーを見る