Según medios internacionales, OpenAI publicó este mes una oferta de empleo en su equipo “Preparedness safety team” en busca de investigadores de seguridad capaces de abordar el riesgo de “auto-mejora recursiva”. El salario anual para el puesto oscila entre 295.000 y 445.000 dólares, y se exige que el candidato sea un “ejecutor técnico sólido” para apoyar los preparativos de la empresa ante la posibilidad de que la IA logre mejorarse a sí misma. OpenAI ya ha dejado claro su objetivo: crear herramientas de IA que puedan investigar de forma autónoma sus propias mejoras.
La “auto-mejora recursiva” se refiere a la capacidad de un sistema de IA para entrenar versiones superiores de sí mismo sin intervención externa. Con el notable avance de las herramientas de codificación de OpenAI y Anthropic en los últimos seis meses, este riesgo potencial ha captado la atención de líderes del sector. El instituto de investigación METR publicó un informe en marzo de este año señalando que el tiempo que los modelos de IA de frontera pueden completar tareas se duplica aproximadamente cada siete meses, lo que indica que estos modelos están asumiendo gradualmente trabajos que para los humanos requieren largas horas. Esta contratación sugiere que OpenAI se está posicionando activamente para la era de la evolución rápida y autónoma de los modelos de IA.
