Google gần đây đã công bố một loạt bản cập nhật cho chatbot AI Gemini của mình, tập trung vào việc nâng cao khả năng phản hồi trong lĩnh vực hỗ trợ sức khỏe tâm thần. Bản cập nhật này phản ánh nhu cầu ứng dụng ngày càng tăng của AI trong lĩnh vực sức khỏe tâm thần, nhằm cung cấp sự can thiệp và hướng dẫn kịp thời, chuyên nghiệp hơn khi cuộc trò chuyện của người dùng liên quan đến các chủ đề nhạy cảm. Google đã đào tạo mô hình Gemini để nhận biết các tín hiệu trong hội thoại có thể cho thấy người dùng đang trải qua khủng hoảng sức khỏe tâm thần cấp tính, từ đó kích hoạt quy trình hỗ trợ phù hợp.
Cụ thể, khi phát hiện cuộc trò chuyện có thể liên quan đến các cuộc khủng hoảng tiềm ẩn như tự tử hoặc tự gây thương tích, Gemini sẽ hiển thị giao diện kết nối "một cú nhấp chuột", cung cấp cho người dùng tùy chọn để liên hệ trực tiếp với các đường dây nóng liên quan, bao gồm qua điện thoại, trò chuyện trực tuyến, tin nhắn văn bản hoặc truy cập trang web. Nếu cuộc trò chuyện cho thấy người dùng có thể cần thông tin sức khỏe tâm thần chung, một mô-đun "Trợ giúp có sẵn" được thiết kế lại sẽ được kích hoạt. Google nhấn mạnh rằng các phản hồi được thiết kế cẩn thận để khuyến khích tìm kiếm sự giúp đỡ chuyên nghiệp, đồng thời tránh xác nhận hoặc củng cố bất kỳ hình thức nào của các xung động có hại như tự làm hại bản thân. Mô hình cũng được đào tạo để không đồng tình hoặc củng cố niềm tin sai lệch, mà thay vào đó, nhẹ nhàng phân biệt giữa cảm xúc chủ quan và thực tế khách quan.
