OpenAI недавно опубликовала на своей официальной странице вакансий заметное объявление о найме старшего исследователя в команду Preparedness Safety Team. Задача — противодействие потенциальным рискам, связанным с «рекурсивным самосовершенствованием». По сообщению Business Insider, годовая зарплата на этой должности составляет от 295 000 до 445 000 долларов США. В описании вакансии чётко указано требование: «обладать сильными техническими навыками для поддержки подготовки к рекурсивному самосовершенствованию». Это говорит о том, что OpenAI заранее выстраивает систему безопасности для нового поколения ИИ-систем, способных самостоятельно обучаться и оптимизировать себя.
Под «рекурсивным самосовершенствованием» понимается способность ИИ-систем самостоятельно исследовать и итеративно улучшать собственные алгоритмы, что приводит к экспоненциальному росту их возможностей. OpenAI уже назвала создание ИИ-инструментов, способных исследовать собственное улучшение, одной из своих ключевых целей. Тем временем лаборатория METR, специализирующаяся на оценке возможностей моделей, в марте опубликовала отчёт, согласно которому сложность задач, выполняемых передовыми ИИ-моделями, удваивается примерно каждые семь месяцев. Это означает, что потенциал ИИ для автономного выполнения длинных цепочек задач реализуется всё быстрее. Высокая зарплата, предлагаемая OpenAI для привлечения специалистов по безопасности, как раз направлена на создание механизмов контроля рисков до наступления технологического скачка.
