Google更新Gemini AI，强化心理健康危机响应能力

谷歌近日宣布对其AI聊天机器人Gemini进行了一系列更新，重点提升其在心理健康支持方面的响应能力。这项更新反映了AI在心理健康领域日益增长的应用需求，旨在当用户对话中涉及相关话题时，提供更及时、专业的干预与引导。谷歌通过训练Gemini模型，使其能够识别对话中可能预示着用户处于急性心理健康危机的信号，从而启动相应的支持流程。

具体而言，当检测到对话可能涉及自杀或自伤等潜在危机时，Gemini会展示一个“一键”连接界面，为用户提供直接联系相关热线的选项，包括电话、在线聊天、短信或访问网站。若对话表明用户可能需要一般心理健康信息，则会触发一个重新设计的“帮助可用”模块。谷歌强调，其回应经过精心设计，以鼓励寻求专业帮助，同时避免对自我伤害等有害冲动给予任何形式的认同或强化。模型还被训练为不附和或强化错误信念，而是温和地区分主观感受与客观事实。

此次计划还包括对青少年用户的额外保护措施，例如防止Gemini模拟陪伴关系、表达亲密或鼓励欺凌行为，以减少情感依赖和骚扰风险。此外，Google.org承诺在三年内投入3000万美元资金，用于支持全球心理健康热线，扩大其服务能力。随着AI在敏感社会支持场景中的深入应用，如何在提供即时关怀与确保安全责任之间取得平衡，将成为行业持续探索的关键方向。