概要
https://martinfowler.com/articles/202508-ai-thoughts.html
詳細内容
## LLMとソフトウェア開発に関する考察
https://martinfowler.com/articles/202508-ai-thoughts.html
Martin FowlerがLLMとソフトウェア開発に関する考察を共有し、現状調査の限界、AIバブルの不可避性、幻覚を機能と捉える新視点、そしてセキュリティリスクへの注意を促します。
**Content Type**: 💭 Opinion & Commentary
**Scores**: Signal:5/5 | Depth:4/5 | Unique:4/5 | Practical:4/5 | Anti-Hype:5/5
**Main Journal**: 87/100 | **Annex Potential**: 87/100 | **Overall**: 88/100
**Topics**: [[LLM利用ワークフロー, AIの未来予測, AIバブル, LLMの幻覚, AIセキュリティ]]
Martin Fowler氏は、LLMとソフトウェア開発に関する彼の考察を共有しています。現状のLLM利用に関する調査が、単純なオートコンプリート（Copilotなど）と、LLMが直接コードファイルを読み書きしてタスクを実行するような、より高度なワークフローを区別していない点を問題視しています。後者のアプローチこそが真の価値を生み出すと指摘し、ウェブアプリケーションエンジニアはワークフローの違いを理解し、より効果的な利用法を探るべきだと示唆します。
プログラミングの未来については、「全く分からない」と断言し、安易な予測に警鐘を鳴らしつつ、自身での実験と経験の共有を促しています。これは、エンジニアが漠然とした不安や過度な期待に流されず、現実的な適応力を養うことの重要性を示しています。
また、現在のAIブームは「当然バブルである」と明言。過去の技術バブルと同様に破裂するものの、真に価値のある企業は生き残るとの見方を示し、エンジニアが市場の過熱感に惑わされず、本質的な価値を見極めることの重要性を説きます。
特に注目すべきは、LLMの「幻覚（ハルシネーション）」を「バグではなく機能である」と定義する視点です。LLMは常に幻覚を生み出しており、その一部が有用であるに過ぎないと述べます。この非決定的な特性を受け入れ、エンジニアは同じ質問を複数回行い回答を比較する、確定的な計算にはLLMを使用しないといった、従来のソフトウェア工学とは異なるアプローチが必要となるでしょう。
さらに、LLMはソフトウェアシステムの攻撃対象領域を大幅に拡大させると警告しています。Simon Willison氏の「致死的な三つの組み合わせ」（プライベートデータへのアクセス、信頼できないコンテンツへの露出、外部との通信能力）は、特にブラウザ上で動作するエージェントにおいて深刻な脅威となります。ウェブエンジニアは、AIエージェントの設計と利用において、悪意のある入力によってエージェントが機密情報を漏洩したり、不正な操作を行ったりするリスクを真剣に考慮する必要があります。これは、セキュアなシステム設計における新たな喫緊の課題です。