クロードの錯覚：AIに「意図」を見出す人間側の幻覚について

概要

人間がAIの出力に人格や意図を読み取ってしまう反射的な反応を「錯覚」と定義し、AIを人格ではなく数学的産物として捉える「AI無神論」の必要性を説く論評。

詳細内容

著者のコーリー・ドクトロウは、人間がAIの出力に対して反射的に「意図」や「人格」を見出してしまう心理的メカニズムを、夕日の見え方の比喩を用いて鋭く批判しています。私たちは、自然現象である夕日を神の意志と感じたり、絵画を画家の意図として解釈したりするように、AIが統計的に導き出した言葉にも「送り手の心」を幻視してしまいますが、それは数学的な演算結果に対する「人間側の幻覚」に過ぎないと指摘します。ドクトロウは、AI生成物には熟練した人間が持つ独特の「質感（テクスチャ）」や独自性が欠けており、統計的な平均に収束する「滑らかで凡庸なもの」であると論じます。特に初心者の書き手にとってAIは有用に見えますが、それは単に典型的な間違いを修正しているだけであり、独自の声を育てるための支援はできないと説きます。最も重要な警告として、AIに人格を付与することの社会的リスクを挙げています。「法人格」が企業の暴走を許し自然環境を破壊した歴史と同様に、AIを人間と同等に扱うことは、現実の人間や環境を犠牲にする「人工生命体」の利益を優先させることにつながると主張。私たちはAIを「心を持たない数学的驚異」として正しく認識する「AI無神論者」になるべきであると結論づけています。

元記事を読む他のサマリーを見る