최근 Google은 AI 모델 Gemini에 대한 일련의 업데이트를 발표했으며, 이는 사용자의 정신 건강 관련 질의에 대한 응답 품질을 향상시키기 위한 것입니다. 이 조치는 AI가 정신 건강 지원 분야에서 증가하는 적용 추세를 반영합니다. Google은 대화 내용이 자살, 자해 등의 급성 위기 신호를 포함할 가능성이 감지되면 Gemini가 적극적으로 개입하여, 재설계된 'Help is available' 모듈을 제공하여 사용자가 현실 세계 자원을 얻도록 안내한다고 밝혔습니다.
구체적으로, Gemini의 업데이트에는 모델이 대화에서 사용자가 정신 건강 비상 상황에 처해 있을 가능성을 시사하는 단서를 인식하도록 훈련하는 것이 포함되며, '원클릭' 인터페이스를 통해 핫라인 자원에 빠르게 연결하여 전화, 채팅, 문자 메시지 또는 웹사이트 방문 등 다양한 도움 방식을 지원합니다. 응답 내용은 신중하게 설계되어, 사용자가 전문적인 도움을 구하도록 장려하면서도 해로운 행동(예: 자해 충동)을 검증하거나 강화하는 것을 피합니다. 또한, Gemini는 잘못된 믿음을 승인하거나 강화하지 않고, 부드럽게 주관적 경험과 객관적 사실을 구분하도록 훈련되어, 공감적이면서도 안전한 응답을 보장합니다. 이 계획에는 400만 달러의 직접 자금 지원이 포함되며, Gemini를 ReflexAI의 훈련 세트에 통합하여 응답 능력을 더욱 최적화합니다.
