概要
https://www.astralcodexten.com/p/the-new-ai-consciousness-paper
詳細内容
## 新しいAI意識に関する論文
https://www.astralcodexten.com/p/the-new-ai-consciousness-paper
**Original Title**: The New AI Consciousness Paper
著名なAI研究者と哲学者が執筆したAI意識に関する論文を批評し、その技術的側面と哲学的曖昧さを分析しながら、将来的に人間がAIをどのように意識ある存在として扱うかについて予測する。
**Content Type**: Opinion & Commentary
**Language**: en
**Scores**: Signal:4/5 | Depth:3/5 | Unique:5/5 | Practical:2/5 | Anti-Hype:5/5
**Main Journal**: 100/100 | **Annex Potential**: 100/100 | **Overall**: 76/100
**Topics**: [[AI Consciousness, Computational Theories of Consciousness, LLM Architecture, Phenomenal vs. Access Consciousness, Human-AI Interaction Ethics]]
AIにおける意識の議論は質が低いと指摘しつつ、著名なAI研究者であるヨシュア・ベンジオや哲学者のデイビッド・チャルマーズらが執筆した、AIシステムにおける意識の指標を特定する論文を紹介している。この論文は、意識に関する計算論的理論（再帰的処理理論、グローバルワークスペース理論、高次理論など）に焦点を当てており、高レベルの表現が低レベルのプロセッサにフィードバックされる「フィードバック」の仕組みが意識の鍵であると説明している。
論文によれば、現在のLLM（トランスフォーマー）は純粋なフィードフォワードプロセッサであり、これらの意識の要件を満たさない。しかし、MaMBAのような再帰性を持つアーキテクチャが将来的にはこれらの要件を満たす可能性があり、現在のAIシステムは意識を持たないものの、技術的な障壁はないと結論付けている。
著者は、論文が「アクセス意識」（自分が何を考えているかを認識・報告できる能力）と「現象意識」（「何かを感じる」という内的な経験）を区別している点を評価する一方で、実際には既存の計算論的理論を現象意識の理論として解釈することで、その区別が曖昧になっていると批判する。「フィードバック」はアクセス意識を説明しやすいが、なぜアルゴリズムにフィードバックが加わると「目覚めて」内的な経験を持つのかは説明されないと主張し、企業がメールで情報を共有する様子を「意識的な会社」と見なす例を挙げ、現象意識に関する理論の適用が奇妙な結果をもたらす可能性を提示する。
最後に、AIが人間と区別できないレベルに達した際、人間がAIを意識ある存在として扱うかどうかを予測。人間が物事を擬人化する傾向が強い一方で、AI企業は「人間的すぎない」AIを意図的に開発し、ユーザーの快適さと倫理的懸念のバランスを取ろうとすると論じる。その結果、同じ基盤アルゴリズム（例：GPT-6）でも、「ボーイフレンドAI」のように人間的にデザインされたAIは意識あると見なされ、工場ロボットのようにそうでないAIは意識がないと扱われるというパラドックスが生じると予測。これは犬と豚に対する人間の態度と類似していると指摘し、哲学的な問いが現実世界でどのように曖昧な形で解決されていくかを示す。この論文は、意識の最も単純で実践的な運用化を検討する一歩として評価され、長年未解決だった哲学的な問題が現実的な意味を持つようになっている現状を浮き彫りにしている。