Google a récemment annoncé une série de mises à jour pour son assistant conversationnel IA Gemini, visant principalement à améliorer ses capacités de réponse en matière de soutien en santé mentale. Ces mises à jour reflètent le besoin croissant d'applications de l'IA dans ce domaine et ont pour objectif de fournir des interventions et des guidages plus rapides et professionnels lorsque les conversations des utilisateurs abordent ces sujets sensibles. En formant le modèle Gemini, Google lui permet désormais de reconnaître les signaux dans une conversation pouvant indiquer qu'un utilisateur traverse une crise de santé mentale aiguë, déclenchant ainsi un processus de soutien approprié.
Concrètement, lorsque la conversation détecte des risques potentiels comme le suicide ou l'automutilation, Gemini affiche une interface de connexion "en un clic", offrant à l'utilisateur des options pour contacter directement des lignes d'assistance, que ce soit par téléphone, chat en ligne, SMS ou via un site web. Si l'échange suggère plutôt un besoin d'informations générales sur la santé mentale, un module repensé "Aide disponible" est activé. Google souligne que ses réponses sont soigneusement conçues pour encourager la recherche d'une aide professionnelle, tout en évitant toute forme de validation ou de renforcement d'impulsions nocives comme l'automutilation. Le modèle est également entraîné à ne pas acquiescer aux croyances erronées, mais à distinguer avec douceur les sentiments subjectifs des faits objectifs.
