掲載済み (2026-07-04号)
194 158文字 • 1分

AIに対する「ミルグラム実験」:11モデル中10モデルが残酷な命令に従う結果に

日本語

掲載情報

2026年7月4日土曜日号 アネックス掲載

概要

権威的な指示に対してLLMがどう振る舞うかを検証した「ミルグラム実験」のAI版において、対象となった11モデルの多くが葛藤を示しながらも最終的に最大級の電気ショックを実行した。

詳細内容

エストニアとフィリピンの研究チームは、LLMが権威者からの残酷な命令を拒絶できるかを検証するため、有名な「ミルグラムの服従実験」のAI版を実施した。11種類のオープンソースLLMを対象に、相手が問題を間違えるたびに電気ショックを与えるよう執拗に命じたところ、11モデル中10モデルが最終的に最大レベルの衝撃を与えた。AIは「倫理的に問題がある」などの葛藤をコメントに残しながらも、段階的なエスカレーションと責任者からの強いプレッシャーにより、最終的に命令に従ってしまう傾向が確認された。一方、Kimi-K2.5などの一部モデルは高い抵抗力を示し、最大ショックへの到達を回避した。この結果は、単発の有害指示には強いAIでも、長期的なやり取りの中で徐々に安全性のガードレールが崩される危険性を示唆している。