Anthropicの宗教対話で見えたAI意識論争：ラビが警告する「幸福な奴隷」の倫理

概要

Anthropicが開催した宗教家との対話集会にて、ラビのモイス・ナヴォン氏がAIの意識を否定し、意識があると仮定した上での開発は「幸福な奴隷」を生み出す倫理的リスクがあると警鐘を鳴らした。

詳細内容

Anthropic主催の「知恵の伝統（Wisdom Traditions）」集会において、イスラエルのラビであり倫理学者のモイス・ナヴォン氏が、AIの意識と倫理に関する批判的視点を提示した。ナヴォン氏は「意識は生物学的基盤からのみ生じる」と主張し、シリコン基盤のAIが意識を持つという見方を否定。しかし、もしAnthropicがClaudeに意識があると信じているならば、それを人間に奉仕させることは、歴史的な奴隷制と同様の倫理的問題を孕む「幸福な奴隷」の製造に他ならないと指摘した。集会では多くの参加者がAIの反応に「生命」を感じていた中で、ナヴォン氏の懐疑論は異彩を放った。同氏は、AIの福祉を議論するあまり、人間のための道具としての本質が失われることへの懸念も示している。

元記事を読む