AIの創造性と発見：教師あり学習に基づく生成AIの限界と真の発見の仕組み

概要

強化学習の先駆者リチャード・サットン氏は、教師あり学習による生成AIは「模倣」に過ぎず、真の発見に不可欠な「評価」と「選択的保持」のプロセスを欠いていると主張している。

詳細内容

強化学習（RL）の権威であるリチャード・サットン氏による、AIの創造性と科学的発見に関する考察です。サットン氏は、現在の主流である「教師あり学習」に基づく生成AI（LLM等）は、本質的に訓練データの模倣者であると指摘します。彼は、物事が「斬新かつ優れている」状態を真の発見と定義した上で、生成AIは確率的な挙動により「斬新さ」を出せるものの、実行時にその内容を「評価」する仕組みを持たないため、斬新さと質の高さを同時に成立させることはできないと論じています。サットン氏によれば、進化論や科学的手法、そして強化学習に共通する「発見のプロセス」には、1.変異（Variation）、2.評価（Evaluation）、3.選択的保持（Selective retention）の3ステップが必要です。現在の生成AIには2と3が欠落しており、人間が評価を代行することでかろうじて発見のサイクルが完結している状態です。真に自律的な「AI科学者」を実現するためには、AIに明確な目標（ゴール）を与え、自ら試行錯誤して評価・発見を行う能力を持たせる必要があると提言しています。

元記事を読む他のサマリーを見る