概要
https://algorithmicsuperintelligence.ai/blog/openevolve-overview/index.html
詳細内容
## OpenEvolve: 進化を通じてLLMにアルゴリズムを発見させる
https://algorithmicsuperintelligence.ai/blog/openevolve-overview/index.html
**Original Title**: OpenEvolve: Teaching LLMs to Discover Algorithms Through Evolution
OpenEvolveは、LLMと進化的フレームワークを組み合わせたオープンソースの進化型コーディングエージェントであり、アルゴリズムの発見を自動化する。
**Content Type**: ⚙️ Tools
**Language**: en
**Scores**: Signal:5/5 | Depth:5/5 | Unique:5/5 | Practical:4/5 | Anti-Hype:4/5
**Main Journal**: 92/100 | **Annex Potential**: 93/100 | **Overall**: 92/100
**Topics**: [[LLMを用いたアルゴリズム発見, 進化的計算, 品質多様性探索, GPUカーネル最適化, プロンプト最適化]]
ASI Labs Research Teamが発表したOpenEvolveは、大規模言語モデル(LLM)と進化的計算を統合し、アルゴリズム発見を自動化するオープンソースの進化型コーディングエージェントです。手作業のヒューリスティックや網羅的探索に依存する従来のアルゴリズム発見手法とは異なり、OpenEvolveはLLMの創造的可能性を品質多様性探索フレームワーク(MAP-Elites)内で活用することで、より高度なアルゴリズムの発見を目指します。
OpenEvolveの核となるのは、プロンプトサンプラー、LLMアンサンブル、評価器、プログラムデータベース、コントローラーからなる「進化ループ」です。プロンプトサンプラーは、親プログラムや高パフォーマンスの例、多様なサンプルなどから豊富なコンテキストプロンプトを構築し、LLMアンサンブルがdiffベースの編集または完全な書き換えを通じて候補コードを生成します。評価器はユーザー定義のメトリクスでプログラムを実行し、多段階のカスケード評価やLLMベースのフィードバックもサポート。プログラムデータベースはMAP-Elitesを用いて、複雑性や多様性といった特徴次元に沿って品質と多様性を維持し、コントローラーがこの進化プロセス全体を統括します。
主要な技術革新として、「アイランドベースの進化とレイジーマイグレーション」により、早すぎる収束を防ぎつつ並列探索を可能にします。「MAP-Elites」は、プログラムを特徴次元に沿って分類し、品質と多様性の両立を強制します。「カスケード評価」は、複数の段階で候補をチェックし、効率的にフィルタリングすることで評価コストを削減します。さらに、「ダブルセレクション戦略」では、高フィットネスのプログラムを親として選びつつ、LLMには多様なサンプルをインスピレーションとして与えることで、改善と探索の最適なバランスを実現します。
OpenEvolveは多岐にわたる応用例でその実用性と有効性を示しています。AlgoTuneベンチマークでは、JAX JITコンパイルの321倍、FFTベースの畳み込みの256倍といった劇的な速度向上を自動で発見しました。円充填問題では最先端の結果に匹敵する解を導き、GPUカーネル最適化ではApple Silicon上で8要素SIMDベクトル化や二段階オンラインsoftmaxといった非自明な最適化を実現し、100%の数値精度を維持しつつ性能を向上させました。また、LLMプロンプトの最適化にも応用可能で、HotpotQAベンチマークで+10.69%の精度向上を達成するなど、その汎用性を証明しています。これらの成果は、OpenEvolveが人間による介入なしに高度なアルゴリズムを発見し、多様なドメインで性能を大幅に改善する潜在能力を持つことを示しており、持続的な進化が複合的な利益を生むことが強調されています。本ツールはオープンソースで提供され、ライブラリまたはコマンドラインインターフェースとして利用可能です。