最近、GoogleはAIモデルGeminiの一連のアップデートを発表し、ユーザーのメンタルヘルス関連の問い合わせに対する応答品質の向上を目指しています。この取り組みは、メンタルヘルスサポート分野でのAI活用が増加している傾向を反映しています。Googleによると、会話内容が自殺や自傷行為などの急性の危機信号に関連する可能性を検出した場合、Geminiは積極的に関与し、再設計された「Help is available」モジュールを提供して、ユーザーが現実世界のリソースを入手できるよう導きます。
具体的には、Geminiのアップデートには、会話中にユーザーがメンタルヘルスの緊急事態にあることを示す可能性のある手がかりを認識するようモデルを訓練することが含まれ、「ワンクリック」インターフェースを通じてホットラインリソースに迅速に接続し、電話、チャット、SMS、またはウェブサイトアクセスなど、複数の支援方法をサポートします。応答内容は慎重に設計されており、ユーザーに専門家の助けを求めるよう奨励すると同時に、有害な行動（自傷衝動など）を検証または強化することを避けます。さらに、Geminiは誤った信念を支持したり強化したりせず、主観的な体験と客観的事実を優しく区別するように訓練され、共感的かつ安全な応答を確保します。この計画には、400万ドルの直接資金支援も含まれ、GeminiをReflexAIのトレーニングスイートに統合して、応答能力をさらに最適化します。
