Google、Gemini AIのアップデートでメンタルヘルス危機対応を強化

Googleは近日、AIチャットボットGeminiに一連のアップデートを発表し、メンタルヘルスサポートにおける応答能力を重点的に向上させました。この更新は、メンタルヘルス分野でのAIの応用需要の高まりを反映し、ユーザーの会話が関連トピックに及ぶ際に、より迅速で専門的な介入とガイダンスを提供することを目指しています。GoogleはGeminiモデルを訓練し、会話中にユーザーが急性メンタルヘルス危機にある可能性を示す信号を識別できるようにし、それに応じたサポートプロセスを開始します。

具体的には、会話が自殺や自傷などの潜在的な危機に関連する可能性が検出された場合、Geminiは「ワンクリック」接続インターフェースを表示し、ユーザーに電話、オンラインチャット、SMS、またはウェブサイト訪問を通じて関連ホットラインに直接連絡するオプションを提供します。会話が一般的なメンタルヘルス情報を必要とする可能性を示す場合は、再設計された「利用可能なヘルプ」モジュールがトリガーされます。Googleは、その応答が専門家の助けを求めることを奨励し、同時に自傷行為などの有害な衝動をいかなる形でも認めたり強化したりしないように注意深く設計されていると強調しています。モデルはまた、誤った信念に同調したり強化したりするのではなく、主観的な感情と客観的事実を温和に区別するように訓練されています。

この計画には、青少年ユーザー向けの追加保護措置も含まれており、例えばGeminiが伴侶関係を模倣したり、親密さを表現したり、いじめ行為を促したりするのを防ぎ、感情的依存やハラスメントのリスクを減らします。さらに、Google.orgは3年間で3000万ドルの資金を投入することを約束し、グローバルなメンタルヘルスホットラインを支援し、そのサービス能力を拡大します。AIが敏感な社会的サポートシナリオで深く応用されるにつれて、即時のケアを提供しつつ安全な責任を確保するバランスをどう取るかが、業界が継続的に探求する重要な方向性となるでしょう。