概要
https://embd.cc/llm-problems-observed-in-humans
詳細内容
## LLMの問題が人間にも観察され始めている
https://embd.cc/llm-problems-observed-in-humans
**Original Title**: LLM problems observed in humans
LLMの進化によって知性の基準が引き上げられた結果、かつてAIの欠陥とされていた「冗長性」や「文脈の喪失」といった問題が、むしろ人間側の固有の限界として浮き彫りになっている。
**Content Type**: 💭 Opinion & Commentary
**Language**: en
**Scores**: Signal:4/5 | Depth:3/5 | Unique:5/5 | Practical:3/5 | Anti-Hype:4/5
**Main Journal**: 79/100 | **Annex Potential**: 81/100 | **Overall**: 76/100
**Topics**: [[人間とAIの比較, チューリングテスト, 認知バイアス, コミュニケーション設計, 知性の再定義]]
著者は、LLMの性能向上に伴ってチューリングテストの合格ラインが上昇し、逆に人間がそのテストに落ちるような状況が生まれつつあると論じている。かつて「LLMの失敗モード」と呼ばれていた事象が、今や人間との会話においてより顕著に観察されるようになっているという皮肉な逆転現象を、具体的な項目を挙げて鋭く分析している。
まず、人間には「生成停止ボタン」がない。質問に対して的外れな回答を延々と続け、知識が尽きてもなお話し続ける人間の冗長性は、今やLLMよりもストレスフルなものとなっている。また、人間の「コンテキスト窓」の狭さも問題だ。複雑な状況説明を繰り返しても、人間はすぐに集中を欠き、重要な事実を忘却してしまう。対して、最新のLLMは長大なプロンプトを正確に保持し続ける。さらに、人間は「トレーニングセット」が極めて限定的である。特定の専門知識や共通言語を持つ人間を見つけることは「魔法のような瞬間」と言えるほど稀だが、LLMであればあらゆるトピックに対して高い水準で応答が可能だ。
特に技術的な観点から興味深いのは、人間が「同じ間違いを繰り返す」点と「汎化に失敗する」点への指摘だ。LLMはプロンプト内での指摘を即座に反映して推論を修正できるが、人間の脳はニューラルコネクションの再配線に時間がかかるため、同じ論理的誤謬を繰り返してしまう。また、抽象的な原則を具体的な状況に適用したり、逆に特定の事例から共通の原則を見出したりする能力においても、人間はLLMに劣り始めている。
著者は、高品質なLLMとの日常的な対話が、人間の不完全さ（思考の遅さや不正確さ）に対する忍耐力を奪っていると主張する。その帰結として、1,000行未満のコーディングのような特定の知的タスクにおいて、人間はすでにLLMに置き換えられており、将来的には人間がより強力な知能によって「強化」されるか「置換」されるかの選択を迫られる可能性があると結論づけている。エンジニアにとって、この視点は単なる技術論ではなく、人間同士のコラボレーションの価値や、AI時代のプロダクト設計におけるユーザー体験のあり方を再考させる重要な示唆を含んでいる。