谷歌近日宣布对其人工智能模型Gemini进行一系列重要更新，旨在提升其在心理健康相关对话中的回应能力。这反映出AI在该领域的应用正日益普遍，谷歌希望通过技术手段为用户提供更及时、有效的支持。
具体而言，当对话内容暗示用户可能面临自杀或自残等急性危机时，Gemini将主动显示一个“一键式”界面，方便用户直接联系热线资源，选项包括拨打电话、在线聊天、发送短信或访问相关网站。如果对话信号表明用户可能需要心理健康信息，Gemini则会展示重新设计的“帮助可用”模块。谷歌正训练Gemini模型识别潜在的心理健康危机信号，并引导用户转向现实世界的专业资源。其回应设计核心是鼓励求助，同时避免验证或强化有害行为。此外，模型被训练不认同错误信念，而是温和地区分主观感受与客观事实。
