OpenAI เพิ่งโพสต์ตำแหน่งงานที่น่าจับตามองบนหน้ารับสมัครอย่างเป็นทางการ โดยเปิดรับนักวิจัยระดับสูงให้ร่วมงานกับทีม Preparedness Safety Team ซึ่งมีหน้าที่รับมือความเสี่ยงจาก “การปรับปรุงตัวเองแบบวนซ้ำ” (Recursive Self-Improvement) ตามรายงานของ Business Insider ช่วงเงินเดือนของตำแหน่งนี้อยู่ระหว่าง 295,000 ถึง 445,000 ดอลลาร์สหรัฐ ต่อปี และรายละเอียดงานระบุชัดเจนว่าต้องการ “ผู้มีความสามารถด้านเทคนิคที่แข็งแกร่งเพื่อสนับสนุนการเตรียมความพร้อมสำหรับการปรับปรุงตัวเองแบบวนซ้ำ” สะท้อนให้เห็นว่า OpenAI กำลังวางแนวป้องกันล่วงหน้าสำหรับระบบ AI รุ่นใหม่ที่สามารถฝึกฝนและปรับปรุงตัวเองได้โดยอัตโนมัติ
คำว่า “การปรับปรุงตัวเองแบบวนซ้ำ” หมายถึงความสามารถของระบบ AI ที่สามารถศึกษาและปรับอัลกอริทึมของตัวเองซ้ำแล้วซ้ำเล่า เพื่อเพิ่มขีดความสามารถในอัตราแบบทวีคูณ OpenAI ได้กำหนดให้ “การสร้างเครื่องมือ AI ที่สามารถวิจัยและปรับปรุงตัวเองได้” เป็นหนึ่งในเป้าหมายหลัก ขณะเดียวกัน METR Lab ซึ่งเชี่ยวชาญด้านการประเมินความสามารถของโมเดล ได้รายงานในเดือนมีนาคมว่า ความซับซ้อนของงานที่โมเดล AI ชั้นนำสามารถทำได้นั้นเพิ่มขึ้นเป็นสองเท่าทุก 7 เดือนโดยประมาณ หมายความว่าโอกาสที่ AI จะทำงานแบบห่วงโซ่ยาวได้ด้วยตัวเองกำลังจะเกิดขึ้นจริง การที่ OpenAI เปิดรับผู้เชี่ยวชาญด้านความปลอดภัยด้วยเงินเดือนสูงในครั้งนี้ก็เพื่อสร้างกลไกควบคุมความเสี่ยงก่อนที่เทคโนโลยีจะก้าวกระโดด
