AIの材料科学・バイオサイエンス能力を注視せよ

概要

AIによる生物兵器等のリスクを予測する先行指標として、材料科学（常温超伝導等）におけるAIの「一発での発見能力」を監視すべきだという提案。

詳細内容

AIが壊滅的なウイルスを設計するリスクに対し、著者は材料科学やバイオサイエンスにおける特定分野の進歩を「先行警告シグナル」として活用すべきだと主張している。通常、ウイルスの開発には実験の反復が必要だが、もしAIが常温超伝導体や癌の治療法を理論のみで「一発（one-shot）」で導き出せるようになれば、それは高度な物理世界の操作能力の証拠となり、致命的な脅威に直結する可能性がある。一方、コメント欄では材料科学者から、常温超伝導は物理的な複雑さがウイルス設計よりも遥かに高く、適切な比較対象にならない可能性も指摘されている。本稿は、AIのリスク評価において、どの科学的達成をターニングポイントと見なすべきかという枠組みを提示している。

元記事を読む他のサマリーを見る