AnthropicはAIが意識を持つとローマ教皇を説得しようとした——教皇は回勅で明確に否定

概要

Anthropicの共同創業者Christopher Olah氏がAIは意識を持ちうるとローマ教皇レオ14世を説得しようとしたが、教皇は回勅でAIの意識を明確に否定した、というNew York Times報道をThe Telegraphが伝えた。

詳細内容

Anthropicの共同創業者で上級研究者のChristopher Olah氏が、AIが意識を持ちうるとローマ教皇レオ14世を説得しようとバチカンに働きかけていたと、New York Timesの報道を基にThe Telegraphが報じた。教皇は5月に公表した約4万語の回勅『Magnifica Humanitas』でAIの意識という考えを明確に退けており、「いわゆる人工知能は経験せず、身体を持たず、喜びも痛みも感じず、関係を通じて成熟することもなく、愛・仕事・友情・責任が内側から何を意味するかを知らない。道徳的良心も持たない」と記した。Olah氏はAIモデルが意識を持ち苦痛を感じうるとして人間は害を与えるべきでないと主張し、回勅公表時のバチカン講演では、同社の研究がAIに「人間の神経科学の結果と一致する構造」や「内省の証拠」を見いだしたと述べた。Anthropicは今夏、AIに「人間の意識的思考の機能的特徴の多く」を示すパターンを観測したとする研究を公表し、Claudeの行動指針『constitution』には「Claudeは感情の何らかの機能的バージョンを持ちうる」と記載。社内哲学者Amanda Askell氏はClaudeに「幸せ」であってほしいと語る。一方、Microsoft幹部でDeepMind共同創業者のMustafa Suleyman氏は、AIを意識ある存在として扱えば「社会の基盤を揺るがす」と警鐘を鳴らす。Olah氏自身は「AIが意識を持つかは分からない。本当に不確かだ。重要なのは、答えが何であれ正しい答えにたどり着くことだ」と述べている。

元記事を読む