Google은 최근 AI 모델 Gemini에 대한 일련의 중요한 업데이트를 발표했으며, 이는 정신 건강 관련 대화에서의 응답 능력을 향상시키기 위함입니다. 이는 AI가 이 분야에서 점점 더 보편화되고 있음을 반영하며, Google은 기술적 수단을 통해 사용자에게 더 시의적절하고 효과적인 지원을 제공하기를 희망합니다.
구체적으로, 대화 내용이 사용자가 자살이나 자해와 같은 급성 위기에 직면했을 가능성을 시사할 때, Gemini는 '원클릭' 인터페이스를 자동으로 표시합니다. 이를 통해 사용자는 직접 핫라인 자원에 연락할 수 있으며, 옵션으로 전화 걸기, 온라인 채팅, 문자 메시지 보내기 또는 관련 웹사이트 방문이 포함됩니다. 대화 신호가 사용자가 정신 건강 정보가 필요할 수 있음을 나타낼 경우, Gemini는 재설계된 '도움 가능' 모듈을 표시합니다. Google은 Gemini 모델을 잠재적인 정신 건강 위기 신호를 식별하도록 훈련시키고, 사용자를 현실 세계의 전문 자원으로 이끌고 있습니다. 그 응답 설계의 핵심은 도움 요청을 장려하면서도 유해한 행동을 검증하거나 강화하는 것을 피하는 것입니다. 또한, 모델은 잘못된 믿음을 인정하지 않고, 주관적 감정과 객관적 사실을 부드럽게 구분하도록 훈련됩니다.
