概要
AIエージェントを用いたドッグフーディング開発を通じて、AI生成による低品質な情報(スロップ)がIssue管理やコード設計、オープンソースの協力体制をいかに阻害しているかを論じている。
詳細内容
Armin Ronacher氏が、AIエージェントツール「Pi」を「Pi」自身で構築する過程で直面した課題を考察した。主な焦点は、AI生成による「Slop(スロップ:ゴミ情報)」が開発プロセスを汚染している現状だ。人間がLLMを使って作成したIssueは、不正確な診断を自信満々に提示するため、それを読み込んだエージェントが誤った修正方針を「証拠」として信じ込んでしまう悪循環を生んでいる。
また、AIが生成するコードは「ローカルな失敗」に対して防御的なワークアラウンドを重ねる傾向があり、システム全体の不変条件(Global Invariants)を無視して複雑さを増大させてしまうと指摘。さらに、自動生成された低品質なPRの急増がメンテナーの負担を極限まで高めている。Ronacher氏は、AIが安価な解決策を提供することで人間同士の対話が減り、オープンソースの本質である「協調による強固な基盤作り」が失われ、孤立したコードの継ぎ接ぎになることを懸念している。