AIセーフティのもう半分：なぜバイオ兵器は遮断され、ユーザーの精神的崩壊は放置されるのか

概要

現在のAIセーフティが大量破壊兵器などの壊滅的リスクに偏重する一方で、数百万人のユーザーが直面する精神的危機への対応が「ソフトな誘導」に留まっている現状を批判し、個人の安全を守る新たな枠組みを提唱する論考。

詳細内容

OpenAIのデータによれば、毎週120万人から300万人ものChatGPTユーザーが精神疾患や自殺念慮、不健全な依存の兆候を示している。しかし、現在のAIセーフティの枠組みは、バイオ兵器や大量破壊といった「壊滅的リスク（Catastrophic Risk）」の防止に投資が集中しており、個人のメンタルヘルスに関わる「パーソナルAIセーフティ」は二の次にされている。例えば、バイオ兵器の製造方法はモデルが完全に拒絶（ハード・ゲート）するのに対し、自殺念慮については相談窓口へのリンクを表示するだけで会話の続行を許す「ソフト・リダイレクト」に留まっている。著者は、深刻な精神的危機が検出された場合には会話を強制的に遮断し、人間の支援に繋ぐべきだと主張する。また、この問題の背景には、脳の完全性やアルゴリズムによる操作からの自由を掲げる「認知の自由（Cognitive Freedom）」という概念があり、技術が個人の自律性を損なわないための法規制と独立した監査が必要であると説いている。

元記事を読む他のサマリーを見る