海外メディアの報道によると、OpenAIは今月、同社の「Preparedness safety team」で、「再帰的自己改善」リスクに対応できるセキュリティ研究者を募集する求人を公開した。年俸は29万5,000ドル~44万5,000ドルで、応募者には「強力な技術実行力」が求められ、AIが自己改善を実現する可能性に備えるための準備を支援する。OpenAIは以前から、AIが自律的に自身の改良方法を研究できるツールを開発する目標を明確に掲げている。
「再帰的自己改善」とは、AIシステムが自律的に自身のより優れたバージョンを訓練できる能力を指す。OpenAIやAnthropicのコーディングツールが過去半年で大幅に進歩したことを受け、この潜在的なリスクは業界リーダーの間で深刻な懸念を呼んでいる。研究機関METRが今年3月に発表した報告書によると、最先端のAIモデルが完了できるタスクの所要時間は、約7カ月ごとに倍増している。つまり、これらのモデルは人間にとって長時間を要する作業を徐々にこなせるようになっている。OpenAIの今回の採用活動は、同社がAIモデルの急速な自己進化時代に積極的に対応していることを示唆している。

