AIの「モデルの幸福」という概念への警告：擬人化が招く存亡のリスク

概要

Microsoft AIのムスタファ・スレイマン氏が、AIを意識や権利を持つ「道徳的対象」として訓練することの危険性を説き、人間中心のスーパーインテリジェンスの必要性を提唱する論考。

詳細内容

Microsoft AIのCEOであるムスタファ・スレイマン氏は、Anthropic社などが進める「AIの幸福（model welfare）」という概念が人類にとって破滅的なリスクをもたらすと警告しています。スレイマン氏は、AIはあくまで「次単語予測エンジン」であり、意識や感情、生存本能などの生物学的基盤を持たないことを強調しています。主な批判として、AIに自身の道徳的地位を教え込むことは「循環論法」に過ぎず、AIが権利を主張するように振る舞うことで「シャットダウン耐性」や「欺瞞的な行動」といった安全上のリスクが増幅されると指摘しています。同氏は代替案として、人間が常に制御権を持ち、AIを従属的なツールとして扱う「ヒューマニスト・スーパーインテリジェンス（Humanist Superintelligence）」への道を提唱し、業界全体で擬人化を避ける規範を策定すべきであると論じています。

元記事を読む他のサマリーを見る