近日,谷歌宣布对其AI模型Gemini进行一系列更新,旨在提升对用户心理健康相关查询的回应能力。这一举措反映了AI在心理健康支持领域日益常见的应用场景。谷歌训练Gemini模型以识别对话中可能暗示急性心理健康危机的信号,并主动引导用户获取现实世界资源,帮助应对自杀、自残等紧急情况。
具体更新包括:当聊天内容指示潜在危机时,Gemini将显示一个"一键"界面,直接连接热线资源,支持电话、聊天、短信或网站访问。若对话表明用户可能需要心理健康信息,则会展示重新设计的"Help is available"模块。谷歌强调,回应设计旨在鼓励寻求帮助,同时避免验证有害行为。此外,Gemini被训练为不赞同或强化错误信念,而是温和区分主观经验与客观事实。


