概要
https://research.roundtable.ai/capabilities-humanness/
詳細内容
## AIの能力は人間らしさとは異なる
https://research.roundtable.ai/capabilities-humanness/
**Original Title**: AI Capability isn't Humanness
表面的な類似性にもかかわらず、AI（LLM）と人間は根本的に異なる制約とアルゴリズムで動作しており、AIのスケーリングはこの隔たりを広げるだけだと著者は主張します。
**Content Type**: 🔬 Research & Analysis
**Language**: en
**Scores**: Signal:4/5 | Depth:4/5 | Unique:4/5 | Practical:3/5 | Anti-Hype:5/5
**Main Journal**: 80/100 | **Annex Potential**: 81/100 | **Overall**: 80/100
**Topics**: [[LLMの挙動, 人間とAIの違い, AIの限界, AIアラインメント, 認知科学]]
Roundtable Researchは、AIの能力と人間らしさの間の根源的な違いを強調し、現在のAIシステムが人間らしく見えるのは表面的なものに過ぎないと論じています。LLMはスケールが拡大し能力が向上するほど、人間らしさから遠ざかる可能性があり、これはAIのアラインメントや解釈可能性において重要な意味を持つと指摘しています。
この記事は、人間とLLMが根本的に異なる計算アーキテクチャを持ち、それぞれが独自の制約とアルゴリズムの下で動作していることを詳細なフレームワークで説明します。
1. **計算上の制約**: 人間は限られた計算資源で「十分良い」意思決定を行うよう最適化されています。脳のパラメーターは膨大でも、瞬間的に使える計算能力には代謝や信号伝達のボトルネックがあります。一方、LLMは生物学的制約を受けず、パラメーター、学習計算量、深さをほぼ任意にスケールアップできます。
2. **データ上の制約**: 人間は絶え間ない感覚入力から、生存や社会的文脈に関連するごく一部しか処理・記憶できません。対照的に、LLMは数十億のテキストデータで学習されており、人間が経験するよりもはるかに広範かつ均一な情報にアクセスします。
3. **時間上の制約**: 人間は危険や社会的な状況において、迅速な行動が求められます。しかしLLMは、ユーザーを待たせない程度の応答速度があればよく、生物学的な反応時間よりもはるかに緩やかな時間的制約の下で動作します。
4. **アルゴリズム上の違い**: 人間は逐次的に少数の情報に注意を向け、限られたワーキングメモリに頼ります。LLMは情報を並列処理し、数十億の重みに分散された「記憶」からパターンマッチングによって情報を検索します。
これらの根本的な違いを踏まえ、著者はAIの「スケール」と「アラインメント」がLLMをより人間らしくするのかという問いに疑問を投げかけます。モデルの規模拡大や学習データの増加は、LLMの基礎となる情報処理メカニズムを変えるものではなく、複数の研究がスケールが人間らしさを増さないことを示しています。また、RLHFなどのアラインメント手法は、モデルが人間のように「考える」方法ではなく、表面的な「振る舞い」を調整するに過ぎず、モデルの内部的な因果モデルを構築する人間の学習とは根本的に異なると主張します。これにより、モデルは慣れない状況で予測不能な挙動を示す可能性があります。
真にLLMの人間らしさを評価するには、表面的な回答の一致だけでなく、意思決定プロセス、信念の更新、不確実性への対応を明らかにする必要があります。計算認知科学の手法を応用し、中間ステップを追跡したり、曖昧さや新規性、動的なフィードバックを伴うタスクを用いる「行動サンドボックス」の構築が提案されています。
結論として、LLMが内部的に人間から遠ざかるとしても、それが不透明になったり制御不能になったりするわけではありません。Roundtable社は、これらの知見を活用し、人間の身元を継続的に検証する「Proof of Human」というAPIを開発していると述べています。これは、AIシステムの設計において、その本質的な特性を理解することがいかに重要であるかを示唆しています。