據外媒報導,OpenAI 本月在其「Preparedness safety team」發布一則招聘資訊,尋找能夠應對「遞迴自我改進」風險的安全研究員。該職位年薪範圍達295,000 美元至 445,000 美元,要求應徵者是「強有力的技術執行者」,以支持公司為 AI 可能實現自我改進所做的準備工作。OpenAI 此前已明確設定目標:打造能夠自主研究自身改進方法的 AI 工具。
「遞迴自我改進」指 AI 系統能自主訓練出更優版本自身的能力。隨著 OpenAI 與 Anthropic 的編碼工具在過去半年大幅進步,此一潛在風險已引起業界領袖高度關注。研究機構METR 今年 3 月發布報告指出,前沿 AI 模型能夠完成的任務時長大約每七個月翻一倍,這意味著這些模型正逐步勝任那些對人類而言耗時漫長的工作。OpenAI 此次招聘,暗示其正積極佈局 AI 模型快速自我進化時代的到來。

