Google ha anunciado recientemente una serie de actualizaciones para su chatbot de IA Gemini, centradas en mejorar su capacidad de respuesta en el apoyo a la salud mental. Esta actualización refleja la creciente demanda de aplicaciones de IA en el ámbito de la salud mental y tiene como objetivo proporcionar intervenciones y orientación más oportunas y profesionales cuando los usuarios aborden temas relacionados en sus conversaciones. Mediante el entrenamiento del modelo Gemini, Google le permite identificar señales en los diálogos que podrían indicar que un usuario está experimentando una crisis aguda de salud mental, activando así los procesos de apoyo correspondientes.
En concreto, cuando detecta que una conversación puede involucrar crisis potenciales como el suicidio o la autolesión, Gemini muestra una interfaz de conexión "con un clic", ofreciendo a los usuarios opciones para contactar directamente líneas de ayuda relevantes, incluyendo teléfono, chat en línea, mensajes de texto o acceso a sitios web. Si el diálogo sugiere que el usuario podría necesitar información general sobre salud mental, se activa un módulo rediseñado de "ayuda disponible". Google enfatiza que sus respuestas están diseñadas cuidadosamente para fomentar la búsqueda de ayuda profesional, evitando al mismo tiempo cualquier forma de validación o refuerzo de impulsos dañinos como la autolesión. El modelo también ha sido entrenado para no reforzar creencias erróneas, sino para distinguir suavemente entre sentimientos subjetivos y hechos objetivos.
