AIは意識を持っていない：テッド・チャンが説く「言葉の予測」と「意識」の混同

概要

SF作家テッド・チャンが、LLMはあくまで統計的な「文の続き」を生成する機械に過ぎず、その流暢さを意識や道徳的主体性と混同すべきではないと鋭く批判する論考。

詳細内容

著名なSF作家テッド・チャンは、Anthropic社の「Claudeの憲法」に代表される、AI企業の過度な擬人化と言説を厳しく批判しています。チャンによれば、LLM（大規模言語モデル）はあくまで統計的なパターンマッチングによって次の単語を予測する「文の継続マシン」であり、その流暢さはキャラクターのロールプレイの結果に過ぎません。意識や感情の成立には、身体性や生存の欲求、進化的な文脈が必要であり、単なるテキスト生成技術の向上は、本質的な意識の獲得とは「別の山」に登っているようなものだと断じます。また、AIに意識や道徳性を認めようとする動きは、ユーザーが意思決定の責任を外部化し、企業が法的責任を回避するための「道徳的責任の逃避」を助長する危険性があると警告。AIが生成する一人称の「私は理解しています」という言葉は、スロットマシンの演出と同様の顧客エンゲージメントの手法に過ぎないと指摘しています。

元記事を読む他のサマリーを見る