Récemment, Google a annoncé une série de mises à jour pour son modèle d'IA Gemini, visant à améliorer sa capacité à répondre aux requêtes des utilisateurs concernant la santé mentale. Cette initiative reflète l'utilisation croissante de l'IA dans le domaine du soutien psychologique. Google a formé Gemini à identifier les signaux dans les conversations pouvant indiquer une crise de santé mentale aiguë, et à orienter activement les utilisateurs vers des ressources du monde réel, pour aider à faire face à des situations d'urgence comme le suicide ou l'automutilation.
Les mises à jour spécifiques incluent : lorsque le contenu d'une conversation indique une crise potentielle, Gemini affiche une interface "en un clic" qui connecte directement à des ressources d'assistance, prenant en charge les appels, les chats, les SMS ou les visites de sites. Si la conversation suggère qu'un utilisateur pourrait avoir besoin d'informations sur la santé mentale, un module repensé "L'aide est disponible" est présenté. Google souligne que les réponses sont conçues pour encourager la recherche d'aide, tout en évitant de valider des comportements nuisibles. De plus, Gemini est formé pour ne pas approuver ou renforcer des croyances erronées, mais pour distinguer doucement l'expérience subjective des faits objectifs.
