近日，Google宣布对其AI模型Gemini进行一系列更新，旨在提升对用户心理健康相关查询的回应质量。这一举措反映了AI在心理健康支持领域日益增长的应用趋势。Google表示，当检测到对话内容可能涉及自杀、自残等急性危机信号时，Gemini将主动介入，提供重新设计的“Help is available”模块，以引导用户获取现实世界资源。
具体而言，Gemini的更新包括训练模型识别对话中可能暗示用户处于心理健康紧急状况的线索，并通过“一键式”界面快速连接热线资源，支持电话、聊天、短信或网站访问等多种求助方式。回应内容经过精心设计，鼓励用户寻求专业帮助，同时避免对有害行为（如自残冲动）进行验证或强化。此外，Gemini被训练为不赞同或强化错误信念，而是温柔地区分主观体验与客观事实，确保回应既 empathetic 又安全。该计划还包括400万美元的直接资金支持，并将Gemini集成到ReflexAI的训练套件中，以进一步优化响应能力。
