Google ha anunciado una serie de actualizaciones en su modelo de IA Gemini, diseñadas para mejorar la calidad de sus respuestas a consultas relacionadas con la salud mental. Este movimiento refleja la creciente aplicación de la IA en el ámbito del apoyo psicológico. La compañía indica que, al detectar en una conversación posibles señales de crisis aguda como ideación suicida o autolesión, Gemini intervendrá de forma proactiva ofreciendo un módulo rediseñado de "Hay ayuda disponible", que guía al usuario hacia recursos del mundo real.
En concreto, las actualizaciones incluyen entrenar al modelo para reconocer indicios que sugieran una emergencia de salud mental en el diálogo y proporcionar una interfaz de "un clic" que conecta rápidamente con líneas de ayuda, admitiendo múltiples vías como llamadas, chat, mensajes de texto o acceso a sitios web. Las respuestas han sido cuidadosamente diseñadas para alentar la búsqueda de ayuda profesional, evitando validar o reforzar conductas dañinas (como impulsos autolesivos). Además, Gemini ha sido entrenado para no respaldar ni reforzar creencias erróneas, sino para distinguir con delicadeza la experiencia subjetiva de los hechos objetivos, asegurando respuestas empáticas y seguras. El plan también contempla una financiación directa de 4 millones de dólares e integrará Gemini en el kit de entrenamiento de ReflexAI para optimizar aún más su capacidad de respuesta.
