概要
Googleは、AI「Gemini」においてメンタルヘルス危機を検知し専門の相談窓口へ繋ぐ新機能を導入するとともに、世界の危機管理団体へ3,000万ドルの資金提供を行うことを発表しました。
詳細内容
## 概要
Googleは、10億人以上が影響を受けているとされるメンタルヘルスの課題に対し、AI技術と資金の両面から支援を強化することを発表しました。今回のアップデートは、AIが日常生活に浸透する中で、責任あるAIがユーザーのウェルビーイングにポジティブな役割を果たすことを目的としています。
## 主な取り組み
1. **危機支援機能の強化**: Geminiが自傷や自殺の危機に関連する会話を検知した場合、新たにデザインされた「ヘルプは利用可能です」モジュールを表示します。これにより、ワンタッチで専門のホットラインに電話、チャット、テキスト、またはウェブサイト経由で接続できるようになります。
2. **3,000万ドルの資金提供**: Google.orgを通じて、今後3年間で世界中の危機管理ホットラインの規模拡大を支援します。これにはReflexAIとの提携も含まれ、AIを活用したボランティア・スタッフ研修用シミュレーションツールの開発も支援されます。
3. **Geminiの安全性調整**: 臨床的なベストプラクティスに基づき、AIが有害な行動を正当化したり、人間の「コンパニオン（伴侶）」のように振る舞って依存心を高めたりしないよう、モデルの応答を厳格に調整しています。
4. **未成年者への保護**: 感情的な依存を防ぐための言語制限や、いじめ・嫌がらせを助長する内容の回避など、若いユーザーを守るための固有のガードレールを設けています。
## 結論
Googleは、AIが専門的な治療やケアの代わりにはならないことを強調しつつ、テクノロジーを通じて適切なタイミングで人間によるサポートへと繋げる架け橋となることを目指しています。