최근 구글은 AI 모델 Gemini에 대한 일련의 업데이트를 발표했으며, 이는 사용자의 정신 건강 관련 질의에 대한 응답 능력을 향상시키기 위함입니다. 이 조치는 정신 건강 지원 분야에서 AI가 점점 더 일반적으로 사용되고 있음을 반영합니다. 구글은 Gemini 모델이 대화에서 급성 정신 건강 위기를 암시할 수 있는 신호를 인식하고, 사용자가 자살, 자해와 같은 긴급 상황에 대처할 수 있도록 현실 세계 자원으로 적극적으로 안내하도록 훈련시켰습니다.
구체적인 업데이트로는 채팅 내용이 잠재적 위기를 나타낼 때, Gemini가 "원클릭" 인터페이스를 표시하여 핫라인 자원에 직접 연결하며, 전화, 채팅, 문자 메시지 또는 웹사이트 접근을 지원합니다. 대화가 사용자가 정신 건강 정보가 필요할 수 있음을 나타내면 재설계된 "Help is available" 모듈을 표시합니다. 구글은 응답 설계가 도움 요청을 장려하면서도 유해한 행동을 검증하지 않도록 강조합니다. 또한, Gemini는 잘못된 믿음을 승인하거나 강화하지 않고, 주관적 경험과 객관적 사실을 온화하게 구분하도록 훈련되었습니다.
