Selon des médias étrangers, OpenAI a publié ce mois-ci une offre d'emploi au sein de son « Preparedness safety team » à la recherche d'un chercheur en sécurité capable de faire face aux risques d'« auto-amélioration récursive ». Le salaire annuel proposé se situe entre 295 000 $ et 445 000 $, et le candidat idéal doit être un « exécutant technique puissant » pour soutenir les préparatifs de l'entreprise face à la possibilité que l'IA s'améliore d'elle-même. OpenAI a déjà clairement fixé l'objectif de créer des outils d'IA capables d'étudier leurs propres méthodes d'amélioration.
L'« auto-amélioration récursive » fait référence à la capacité d'un système d'IA à s'entraîner à produire une version améliorée de lui-même. Avec les progrès significatifs des outils de codage d'OpenAI et d'Anthropic au cours des six derniers mois, ce risque potentiel a attiré l'attention des leaders de l'industrie. En mars dernier, l'institut de recherche METR a publié un rapport indiquant que la durée des tâches que les modèles d'IA de pointe peuvent accomplir double environ tous les sept mois, ce qui signifie que ces modèles deviennent progressivement capables d'effectuer des travaux qui prennent beaucoup de temps aux humains. Ce recrutement d'OpenAI suggère que l'entreprise se prépare activement à l'arrivée d'une ère où les modèles d'IA évoluent rapidement par eux-mêmes.
