概要
https://karpathy.bearblog.dev/verifiability/
詳細内容
## 検証可能性
https://karpathy.bearblog.dev/verifiability/
**Original Title**: Verifiability
Andrej Karpathyは、AIを新たなコンピューティングパラダイムと位置づけ、その自動化の可能性を解き明かす鍵として「検証可能性」という概念を提示します。
**Content Type**: Research & Analysis
**Language**: en
**Scores**: Signal:5/5 | Depth:4/5 | Unique:5/5 | Practical:4/5 | Anti-Hype:5/5
**Main Journal**: 91/100 | **Annex Potential**: 93/100 | **Overall**: 92/100
**Topics**: [[AIパラダイム, Software 1.0, Software 2.0, 検証可能性, LLMの進化]]
著名なAI研究者であるAndrej Karpathyは、AIを電気や産業革命ではなく、情報処理の自動化という点で「新しいコンピューティングパラダイム」と捉えるべきだと主張しています。1980年代のSoftware 1.0（手書きプログラム）の時代において、仕事が自動化可能かどうかを予測する最も重要な特徴は「仕様可能性」（定型的な情報変換をアルゴリズムで記述できるか）でした。
しかし、Karpathy氏が以前に提唱したSoftware 2.0（目的関数を指定し、勾配降下法でニューラルネットワークを学習させるプログラミング）の時代では、この予測特性が「検証可能性」に変わったと述べています。筆者によれば、AIによる自動化の可能性は、そのタスクがどれだけ「検証可能」であるかに直接関係します。検証可能なタスクとは、AIが「練習」できる環境を持つものであり、具体的には以下の3つの条件を満たす必要があります。
1. **リセット可能**: 新しい試行をいつでも開始できる。
2. **効率的**: 多数の試行を迅速に行える。
3. **報酬可能**: 各試行の良し悪しを自動的に評価し、報酬を与えられる。
この検証可能性の度合いこそが、LLM（大規模言語モデル）の進歩における「ギザギザのフロンティア」を形成する要因であるとKarpathy氏は説明します。数学、コード生成、パズルの解答といった「正解」が明確で検証しやすいタスクは、AIが急速に進歩し、人間の専門家を凌駕する可能性さえあります。一方で、創造性、戦略的思考、現実世界の知識や文脈、常識を組み合わせるような検証が困難なタスクは、AIの汎化能力に頼るか、模倣学習といった限定的な手段に留まるため、進歩が遅れがちです。
結論として、Software 1.0が「仕様できるもの」を容易に自動化したのに対し、Software 2.0は「検証できるもの」を容易に自動化すると、Karpathy氏は強く主張しています。この洞察は、AIの現在の能力と将来の発展、そしてウェブアプリケーションエンジニアがAIを活用する上でどのタスクに焦点を当てるべきかを理解するための重要な枠組みを提供します。