OpenAI ha publicado recientemente en su portal oficial de empleo una llamativa vacante: busca un investigador senior para su equipo "Preparedness safety team", dedicado a mitigar los riesgos asociados con la "auto-mejora recursiva" de la inteligencia artificial. Según informó Business Insider, el salario anual para este puesto oscila entre 295.000 y 445.000 dólares, y la descripción del cargo exige explícitamente "una sólida capacidad de ejecución técnica para respaldar los preparativos frente a la auto-mejora recursiva". Esto indica que OpenAI está estableciendo barreras de seguridad de forma anticipada para una nueva generación de sistemas de IA capaces de entrenarse y optimizarse a sí mismos.
El concepto de "auto-mejora recursiva" se refiere a sistemas de IA que investigan y mejoran sus propios algoritmos de forma iterativa, incrementando su capacidad a un ritmo exponencial. OpenAI ya ha incluido como uno de sus objetivos centrales la creación de herramientas de IA que estudien su propia mejora. Paralelamente, un informe de marzo del laboratorio METR, especializado en la evaluación de capacidades de modelos, señaló que la complejidad de las tareas que los modelos de IA de frontera pueden completar se duplica aproximadamente cada siete meses, lo que significa que el potencial de la IA para realizar trabajos largos de forma autónoma se está acelerando. Con esta contratación millonaria, OpenAI busca establecer mecanismos de control de riesgos antes de que ocurra un salto tecnológico.
