概要
AnthropicがAIによる生物兵器開発への悪用事例を報告したことを受け、専門家の間ではAIが物理的な実験の障壁を打破する脅威となるか、単なる過剰反応かについて激しい議論が交わされている。
詳細内容
Anthropic社が発表した最新の報告書では、同社のAI「Claude」が生物兵器に関連する可能性のある有害な研究に5回利用されようとした事例が詳述され、AIによるバイオリスクへの警告が発せられました。これに対し、科学コミュニティの反応は真っ二つに分かれています。
### 主な議論点
- **リスク肯定派**: AIが複雑な生物学的プロトコルを簡略化し、非専門家でも病原体の合成や改変に関する知識にアクセスしやすくなる「情報の民主化」による脅威を強調しています。
- **懐疑派**: フロンティアLLMの開発経験とウイルス合成の実務経験を併せ持つ専門家らは、バイオテクノロジーの本質的な難しさは「物理的な実験」にあると指摘。1億ドル規模の自動化ラボや高度な滅菌環境、熟練した手技、そして無数の試行錯誤が必要であり、AIが既存の論文情報を整理した程度ではこの壁を越えられないと主張しています。
- **社会的背景**: HNの議論では、大腸菌へのGFP（緑色蛍光タンパク質）導入のような教育レベルの実験と、実際の兵器化の間には巨大な技術的ギャップがあること、また「AI安全性」の議論が規制による市場独占（Regulatory Capture）に使われている可能性への批判も出ています。