OpenAI gần đây đã đăng tải một thông tin tuyển dụng đáng chú ý trên trang tuyển dụng chính thức của mình, tìm kiếm một nhà nghiên cứu cấp cao cho “Đội an toàn Preparedness”, chuyên đối phó với những rủi ro tiềm ẩn từ “tự cải thiện đệ quy”. Theo Business Insider, mức lương hàng năm cho vị trí này dao động từ 295.000 đến 445.000 USD, và mô tả công việc yêu cầu rõ ràng “có khả năng thực thi kỹ thuật mạnh mẽ để hỗ trợ công tác chuẩn bị cho tự cải thiện đệ quy”. Điều này cho thấy OpenAI đang xây dựng hàng rào an toàn từ sớm cho thế hệ hệ thống AI có thể tự huấn luyện và tối ưu hóa chính mình.
Khái niệm “tự cải thiện đệ quy” chỉ khả năng AI tự nghiên cứu và nâng cấp thuật toán của chính nó, từ đó cải thiện năng lực theo cấp số nhân. OpenAI đã đặt “tạo ra công cụ AI có thể nghiên cứu cách tự cải thiện” thành một trong những mục tiêu cốt lõi. Song song đó, phòng thí nghiệm METR – chuyên đánh giá năng lực mô hình – đã công bố báo cáo vào tháng 3 cho thấy độ phức tạp của các nhiệm vụ mà mô hình AI tiên tiến có thể hoàn thành tăng gấp đôi sau mỗi 7 tháng, đồng nghĩa với tiềm năng AI tự xử lý các chuỗi công việc dài ngày càng hiện thực hóa. Việc OpenAI trả lương cao để thu hút nhân tài an toàn lần này chính là nhằm thiết lập cơ chế kiểm soát rủi ro trước khi công nghệ có bước nhảy vọt.
