Google Gemini AI 重大更新：強化心理健康危機支援機制

Google 近日宣布對其人工智慧模型 Gemini 進行一系列重要更新，旨在提升其在心理健康相關對話中的回應能力。這反映出 AI 在該領域的應用日益普及，Google 期望透過技術為用戶提供更及時、有效的支援。

具體而言，當對話內容暗示使用者可能面臨自殺或自殘等急性危機時，Gemini 將主動顯示「一鍵式」介面，方便使用者直接聯繫熱線資源，選項包括撥打電話、線上聊天、傳送簡訊或造訪相關網站。如果對話訊號表明使用者可能需要心理健康資訊，Gemini 則會展示重新設計的「幫助可用」模組。Google 正訓練 Gemini 模型識別潛在的心理健康危機訊號，並引導使用者轉向現實世界的專業資源。其回應設計核心是鼓勵求助，同時避免驗證或強化有害行為。此外，模型被訓練為不認同錯誤信念，而是溫和地區分主觀感受與客觀事實。

這項倡議還包括400 萬美元的直接資金支持，以及將 Gemini 整合至 ReflexAI 的訓練套件中。此次更新凸顯科技公司在部署 AI 時對社會責任與安全倫理的重視，有望為需要心理支援的使用者提供更可靠的第一時間回應。