OpenAI、高額報酬でAI自己改善の安全専門家を募集

OpenAIは最近、公式採用ページで注目すべき求人情報を公開しました。同社の「Preparedness Safety Team」向けに、「再帰的自己改善」に起因する潜在リスクに対応するシニアリサーチャーを募集しているものです。Business Insiderの報道によると、このポジションの年収は29.5万～44.5万ドル。職務内容には「再帰的自己改善の準備業務を支援するための、強力な技術実行能力」が明記されており、OpenAIが自律的に学習・最適化する次世代AIシステムに向けた安全策を先行的に整備しようとしている姿勢がうかがえます。

「再帰的自己改善」とは、AIシステムが自らの研究を通じてアルゴリズムを反復的にアップグレードし、指数関数的に能力を高めることを指します。OpenAIは「自身の改善を研究できるAIツールの開発」を中核目標の一つに掲げています。一方、モデル能力評価に特化したMETRラボが3月に発表したレポートによれば、最先端のAIモデルが処理できるタスクの複雑さは約7カ月ごとに倍増しており、AIが長期的な作業を自律的に完遂する可能性が急速に現実味を帯びています。OpenAIが今回高額報酬で安全人材を確保するのは、技術的飛躍が起こる前にリスク管理の仕組みを構築するためです。

考察：再帰的自己改善は汎用人工知能（AGI）への重要な道筋とされる一方、両刃の剣でもあります。OpenAIが技術爆発の直前で安全チームを強化したことは、業界のトップ企業が「まず実行、後から管理」から「実行しながら管理」へとシフトしていることを示しています。AIの自律学習能力が臨界点に近づくにつれ、業界内での安全研究者の争奪戦はさらに激化する可能性があります。