Googleは最近、人工知能モデル「Gemini」に対し、一連の重要な更新を行ったと発表しました。この更新は、メンタルヘルス関連の会話における応答能力の向上を目的としており、この分野でのAI活用が広がる中、技術を通じてユーザーにより迅速で効果的な支援を提供することを目指しています。
具体的には、会話の内容からユーザーが自殺や自傷行為などの急性の危機に直面している可能性が示唆される場合、Geminiが主動的に「ワンクリック」インターフェースを表示します。これにより、ユーザーはホットラインリソースに直接連絡が可能となり、選択肢には電話発信、オンラインチャット、メッセージ送信、関連ウェブサイトへのアクセスが含まれます。会話のシグナルがユーザーにメンタルヘルス情報が必要であることを示す場合、Geminiは再設計された「ヘルプ利用可能」モジュールを表示します。Googleは現在、Geminiモデルを潜在的なメンタルヘルス危機のシグナルを識別するように訓練し、ユーザーを現実世界の専門リソースへ誘導しています。その応答設計の核となるのは、支援を求める行為を促しつつ、有害な行動を肯定または助長することを避けることです。さらに、モデルは誤った信念を認めず、主観的感情と客観的事実を穏やかに区別するように訓練されています。
