Google a récemment annoncé une série de mises à jour de son modèle d'IA Gemini, visant à améliorer la qualité de ses réponses aux requêtes liées à la santé mentale. Cette initiative reflète la tendance croissante de l'utilisation de l'IA dans le domaine du soutien psychologique. Google indique que lorsque le modèle détecte un contenu conversationnel pouvant impliquer des signaux de crise aiguë, comme des idées suicidaires ou d'automutilation, Gemini interviendra de manière proactive en proposant un module repensé "Help is available", afin de rediriger l'utilisateur vers des ressources dans le monde réel.
Concrètement, les mises à jour de Gemini incluent l'entraînement du modèle à reconnaître les indices dans une conversation pouvant suggérer qu'un utilisateur est en situation d'urgence psychologique, et à faciliter un accès rapide via une interface "en un clic" vers des lignes d'assistance, prenant en charge divers modes de contact (téléphone, chat, SMS ou site web). Les réponses sont conçues avec soin pour encourager les utilisateurs à rechercher une aide professionnelle, tout en évitant de valider ou de renforcer des comportements nocifs (comme des pulsions d'automutilation). De plus, Gemini a été entraîné à ne pas approuver ou renforcer de fausses croyances, mais à distinguer avec délicatesse l'expérience subjective des faits objectifs, garantissant ainsi des réponses à la fois empathiques et sûres. Le plan comprend également un soutien financier direct de 4 millions de dollars et l'intégration de Gemini dans la suite de formation de ReflexAI pour optimiser davantage ses capacités de réponse.
