Google недавно объявил о серии обновлений для своего AI-чат-бота Gemini, направленных на повышение способности реагировать на поддержку психического здоровья. Это обновление отражает растущую потребность в применении AI в сфере психического здоровья и призвано обеспечить более своевременное и профессиональное вмешательство, когда диалоги пользователей затрагивают соответствующие темы. Google обучил модель Gemini, чтобы она могла распознавать сигналы в диалогах, которые могут указывать на острый кризис психического здоровья у пользователя, тем самым запуская соответствующие процессы поддержки.
Конкретно, когда обнаружено, что разговор может касаться потенциальных кризисов, таких как суицид или самоповреждение, Gemini показывает интерфейс «одного клика» для подключения, предоставляя пользователю возможность напрямую связаться с соответствующими горячими линиями, включая телефон, онлайн-чат, SMS или посещение веб-сайта. Если диалог указывает, что пользователю может потребоваться общая информация о психическом здоровье, активируется переработанный модуль «Помощь доступна». Google подчеркивает, что его ответы тщательно разработаны, чтобы поощрять обращение за профессиональной помощью, избегая при этом любого одобрения или усиления вредных импульсов, таких как самоповреждение. Модель также обучена не поддерживать или усиливать ошибочные убеждения, а мягко различать субъективные чувства и объективные факты.
