安全なAGIには「行為的基盤」と「状態空間の可逆性」が不可欠である理由

概要

現在のAIは身体的経験という土台を欠いた「記号の頂点」に過ぎず、真の安全性を確保するには、行為に基づく学習と状態の可逆性を組み込む必要があると提唱する論考。

詳細内容

本稿は、デザイン学者のピーター・ザクシェフスキ氏が、現代のAI（LLM）の構造的な脆弱性を指摘した論考である。著者は、ジェローム・ブルーナーの認知発達理論を引用し、現在のAI開発が身体的相互作用（行為的段階）を欠いたまま抽象的な「記号的段階」のみを構築した「逆転の誤り（Inversion Error）」に陥っていると分析する。この土台の欠如が、ハルシネーションや制御不能な目標追求（コリジビリティ問題）の根本原因である。解決策として、フェルデンクライス・メソッドから着想を得た「状態空間の可逆性」を最適化制約として導入することを提案している。これは、AIが常に以前の安全な状態に戻るルートを確保しながら行動することを意味する。AGIの安全性は、単なるスケーリングではなく、物理的な抵抗や環境との相互作用を模した「行為的フロア」をいかに設計するかにかかっていると説いている。

元記事を読む他のサマリーを見る