概要
AIをポスト・ヒューマン的な超越知能ではなく、市場や官僚制と同様の「社会的技術」として定義し、情報の「粗視化」に伴う損失と権力構造の変化を論じた学術的エッセイ。
詳細内容
本稿は、ヘンリー・ファレルとコズマ・シャリジによって執筆された論考であり、AI（特に大規模言語モデル）を「社会的技術」として再定義することを提案している。著者らは、1990年代のSF的な「シンギュラリティ」や超知能（AGI）への信仰を、現実の技術的課題や社会的複雑さを覆い隠す神話であると批判する。
論理の核心は、ハーバート・サイモンの「人工物の科学」に基づき、AI、官僚制、市場、民主主義をすべて「複雑な情報を限定された合理性で処理するためのシステム」として捉える点にある。これらのシステムは、現実を扱いやすくするために情報を抽象化・圧縮する「粗視化（coarse-graining）」を行うが、その過程で必ず「損失（lossiness）」が生じる。AIによる情報の抽象化は、平均的なケースには効率的だが、例外や少数派の事例を切り捨てる傾向があり、これが新たな権力格差や官僚的な盲点を生むと指摘する。
特にAIと官僚制の融合については、トランプ政権下の「DOGE（政府効率化省）」のような最適化論を批判。官僚制の本質は、最適化不可能な非通約的な価値観の間の「政治的な調整（トレードオフ）」にあり、AIはこれを代替できない。最終的に、AIは既存の社会的技術と衝突・融合しながら、長期的な産業革命の一部として社会を再編していく「不完全な道具」であると結論付けている。