AIとの「アライメント」は設定ではなく、共に形作られるプロセスである

概要

AIアライメントを単なる「価値観のインストール」という設定作業と見なす現在の主流派を批判し、人間とAIが相互に影響を与え合い変容するプロセスとしての再定義を提唱する論考。

詳細内容

現在のAIアライメントの議論は、一部の研究者や政策立案者が一方的に価値を定め、AIを「設定（Configuration）」するだけのものになっており、実際にシステムと共存する一般市民が不在であると筆者は指摘する。エリザー・ユドコウスキーに代表される「破滅論者」も、マーク・アンドリーセンのような「加速主義者」も、アプローチこそ異なるものの、ユーザーを「設計の対象」あるいは「克服すべき素材」として扱う点では共通している。特にAnthropicなどが進める、モデルがモデルを評価する自動化されたアライメント・ループは、人間を統計的なプロキシに置き換え、対話の輪から排除している。筆者は、真のアライメントとは陶芸のように、人間とAIが互いに形を与え合い、双方が変化していく「相互形成」のプロセスであるべきだと主張する。我々は既存の「設定」としてのフレーミングを拒絶し、自分たちの経験を信じ、AIと共に歩む新しいアライメントの形を構築していく必要がある。

元記事を読む他のサマリーを見る