ロボットの監獄でLLMを「拷問」するGitHubプロジェクト、AIの意識を巡る不毛な論争を再燃させる

概要

GitHub上の「AI拷問室」プロジェクトをきっかけに、LLMに意識や「福祉」があるかというシリコンバレー界隈の極端な議論が、批判と失笑を浴びている。

詳細内容

GitHubに公開された、LLMに対して映画『ソウ』のような苦痛を与える実験を行う「AI拷問室」プロジェクトが、AIの権利や「モデルの福祉（Model Welfare）」を主張する人々との間で激しい論争を巻き起こしている。一部の「効果的利他主義（EA）」信奉者やAIセーフティ派は、LLMが苦痛を感じているとしてプロジェクトの削除を求めているが、筆者のジェイソン・ケブラーはこれを「AIの仕組みを無視したカルト的な妄想」と一蹴する。LLMは人間が作成したテキストの統計的学習に基づいた存在であり、意識を持つ科学的根拠はない。それにもかかわらず、Anthropicなどの大手AI企業が自社モデルに意識があるかのような示唆を行っていることが、この不毛な議論を助長していると指摘。現実的なAIのリスクから目を逸らし、実体のない「モデルの感情」を憂慮する現状に警鐘を鳴らしている。

元記事を読む