Recientemente, Google anunció una serie de actualizaciones para su modelo de IA Gemini, diseñadas para mejorar su capacidad de respuesta a consultas relacionadas con la salud mental de los usuarios. Esta iniciativa refleja el uso cada vez más común de la IA en el ámbito del apoyo en salud mental. Google ha entrenado al modelo Gemini para identificar señales en las conversaciones que puedan sugerir una crisis de salud mental aguda y dirigir proactivamente a los usuarios hacia recursos del mundo real, ayudando en situaciones de emergencia como riesgo de suicidio o autolesión.
Las actualizaciones específicas incluyen: cuando el contenido de la conversación indica una crisis potencial, Gemini mostrará una interfaz de "un clic" que conecta directamente con recursos de líneas de ayuda, ofreciendo soporte por teléfono, chat, mensaje de texto o sitio web. Si la conversación sugiere que el usuario puede necesitar información sobre salud mental, se mostrará un rediseñado módulo de "Help is available" (La ayuda está disponible). Google enfatiza que el diseño de las respuestas tiene como objetivo fomentar la búsqueda de ayuda profesional, evitando al mismo tiempo validar comportamientos nocivos. Además, Gemini ha sido entrenado para no aprobar ni reforzar creencias erróneas, sino para distinguir suavemente entre la experiencia subjetiva y los hechos objetivos.
