Google Gemini AI 更新：強化心理健康危機應對能力

Google 近日宣布對其 AI 聊天機器人 Gemini 進行了一系列更新，重點提升其在心理健康支援方面的響應能力。這項更新反映了 AI 在心理健康領域日益增長的應用需求，旨在當用戶對話中涉及相關話題時，提供更及時、專業的干預與引導。Google 通過訓練 Gemini 模型，使其能夠識別對話中可能預示著用戶處於急性心理健康危機的信號，從而啟動相應的支援流程。

具體而言，當檢測到對話可能涉及自殺或自傷等潛在危機時，Gemini 會展示一個「一鍵」連接介面，為用戶提供直接聯繫相關熱線的選項，包括電話、線上聊天、簡訊或訪問網站。若對話表明用戶可能需要一般心理健康資訊，則會觸發一個重新設計的「幫助可用」模組。Google 強調，其回應經過精心設計，以鼓勵尋求專業幫助，同時避免對自我傷害等有害衝動給予任何形式的認同或強化。模型還被訓練為不附和或強化錯誤信念，而是溫和地區分主觀感受與客觀事實。

此次計劃還包括對青少年用戶的額外保護措施，例如防止 Gemini 模擬陪伴關係、表達親密或鼓勵欺凌行為，以減少情感依賴和騷擾風險。此外，Google.org 承諾在三年內投入 3000 萬美元資金，用於支持全球心理健康熱線，擴大其服務能力。隨著 AI 在敏感社會支援場景中的深入應用，如何在提供即時關懷與確保安全責任之間取得平衡，將成為行業持續探索的關鍵方向。