概要
https://www.technologyreview.jp/s/369941/microsoft-says-ai-can-create-zero-day-threats-in-biology/
詳細内容
## AIが危険タンパク質を「再設計」、DNA検査すり抜け＝MSが警鐘
https://www.technologyreview.jp/s/369941/microsoft-says-ai-can-create-zero-day-threats-in-biology/
マイクロソフトは、生成AIが既存のDNA合成スクリーニングを回避する危険なタンパク質の再設計に利用可能であることを実証し、バイオセキュリティの喫緊の強化を警告した。
**Content Type**: Research & Analysis
**Scores**: Signal:5/5 | Depth:4/5 | Unique:5/5 | Practical:3/5 | Anti-Hype:5/5
**Main Journal**: 89/100 | **Annex Potential**: 91/100 | **Overall**: 88/100
**Topics**: [[Generative AI Risks, Biosecurity, Dual-Use AI, Protein Design, AI Ethics]]
マイクロソフトの研究チームは、生成AIが既存のDNA合成スクリーニングシステムをすり抜ける危険なタンパク質の再設計に利用できることを実証し、バイオセキュリティの深刻な「ゼロデイ」脆弱性を明らかにしました。この発見は、AIが新薬開発といった有益な用途に活用される一方で、有害な分子を生成し得る「デュアルユース」の側面を持つという本質的な課題を浮き彫にしています。
チームは、自社開発のEvoDiffを含む生成AIアルゴリズムを用いて、毒素の構造を変更しながらもその致死的機能を維持させ、DNA合成ベンダーが使用するスクリーニングソフトウェアによる検出を回避する手法を開発しました。この実験はデジタル空間で完結し、実際に有害なタンパク質が合成されることはなかったものの、AIが悪意のある目的で利用された場合の潜在的リスクを鮮明に示しています。
記事は、米国政府やスクリーニングソフトウェア開発企業への警告後、システムにはパッチが適用されたものの、完全な防御は困難であり「軍拡競争のような状況」にあると指摘しています。これは、AIの進化が防御側の対策を常に上回り続ける可能性を意味し、持続的な警戒と対策の更新が不可欠であることを示唆しています。
ウェブアプリケーションエンジニアである私たちにとって、この問題は直接的なコーディングの課題ではないかもしれません。しかし、AI技術が多様な分野で活用される中で、その社会インフラや安全保障に与える潜在的リスクを深く理解することは極めて重要です。生成AIの急速な発展は、セキュリティの新たなフロンティアを切り開き、AIの倫理的利用、規制、そして開発者の責任に関する議論の必要性をこれまで以上に高めています。既存の防御が容易に破られる現状は、より根本的なAIシステム自体へのセキュリティ組み込みや、厳格な運用体制の必要性を示唆しており、将来のAI開発においてこの「デュアルユース」の側面を考慮に入れることが不可欠となるでしょう。