概要
最新の調査により、AIエージェントは高度なエンジニアリングタスクはこなせるものの、独創的な研究に必要な「判断力」や「創造性」を欠いており、再帰的自己改善の実現にはまだ遠いことが示された。
詳細内容
プリンストン大学の研究チームが実施した最新の「シャドウ評価」研究により、AIエージェントが自律的にAI研究を推進し、自己改善を繰り返すというシナリオの難しさが浮き彫りになった。研究では、Claude Opus 4.8等のエージェントに対し、トップレベルの国際会議（NeurIPS）に投稿された未公開論文の課題を解かせ、その成果を査読した。
AIはコードの記述や実験の実施、文献レビューといったエンジニアリング的な作業においては高い能力を発揮した。しかし、有望な仮説の選定、不適切なアプローチからの撤退、独創的な洞察の導出といった「オープンエンドな思考」においては致命的に失敗しており、提出された成果物は専門家から「リジェクト（不採用）」レベルと判定された。
この結果は、AIが既知のベンチマークやチェック可能なタスク（強化学習が適用しやすい領域）では進化できても、正解のない科学的探求に必要な「直感的な創造性」が欠如していることを示唆している。OpenAIやAnthropicが掲げる「AIがAIを作る」タイムラインに対し、現在のモデルはまだ定型的な思考の域を出ていないという悲観的なシグナルとなっている。