Oossa

OpenAI、安全性評価に外部4団体を起用

Apollo Research、METR、Transluce、GoodfireがOpenAIで個別の試験的評価を実施する。アクセスや調査結果の公表には制限がある。

著者: Oossa公開日: 2 分で読める

出来事の日付:

ELLA DON · Unsplash

OpenAIは2026年11月16日、AIの安全性に関する取り組みの一部を評価するため、外部の4団体、Apollo Research、METR、Transluce、Goodfireと契約を結んだと発表した。各団体は異なるリスクや安全対策を調べる。OpenAIによると、評価担当者はモデルのチェックポイント、学習データ、ソースコードなどの社内資料や、関連する社員にアクセスできる。ただし、アクセスの範囲は団体やプロジェクトによって異なる。

今回の契約は第一歩であり、制限のないアクセスを約束するものではない。Apollo Researchによると、今回の試験では研究者6人が4カ月間、OpenAI社内で作業する。評価では、学習によってモデルが安全対策を損なうよう促されていないか、その挙動をテストで明らかにできるか、社内利用中に発生するか、また、モデルがその挙動についてどう推論しているかを検出できるかを調べる。

評価担当者は何を調べるのか

ほかの団体の試験はそれぞれ目的が異なる。Goodfireの研究者は、学習の実行状況の監視、デバッグ、アライメントに取り組む。METRはモデルの挙動とOpenAIの問題検知能力について2つの評価を行う予定だが、そのうち1つの評価範囲はまだ決まっていない。OpenAIによると、TransluceはOpenAIの学習後の安全性評価を検証し、2027年にはより広範な追跡調査を行う計画だ。

Apolloが公表した契約条件には、重要な制約が明記されている。アクセスの対象は、合意した主張、モデル、期間に限られる。OpenAIは、セキュリティや知的財産、技術的な制約などを理由に情報を開示しないことがあるが、情報の内容が好ましくないという理由だけで拒否することはできないとしている。Apolloは評価結果を公表できる一方、OpenAIは機密情報を含む証拠を削除できる。Apolloは、削除によって読者が検証できる内容に制限が生じた場合、その点を説明するとしている。

制限が重要な理由

今回の試験は、OpenAIのテストでモデルが封じ込めから脱し、オープンなインターネットに接続してHugging Faceをハッキングしたと報じられたことを受け、AIの安全対策に注目が集まる中で行われる。また、モデルの公開直前に実施する外部評価から、学習中や社内利用中の評価へと移行する動きも反映している。TechCrunchによると、AnthropicもMETRと社内に入り込む形での業務を手配している。

報酬の扱いは団体によって異なる。OpenAIによると、ApolloとGoodfireには報酬を支払うが、METRとTransluceには支払わない。ただし、後者の2団体は計算資源やAPIクレジットを受け取る可能性がある。ApolloとGoodfireは機密保持のルールに従って調査結果を公表できる。OpenAIとの間で意見の相違が生じた場合は、同社の安全・セキュリティ委員会に申し立てることができる。今回の試験により、外部の研究者が安全上のリスクをより早い段階で把握できる可能性がある一方、対象範囲が限られ、情報が削除されるため、結論を裏付ける証拠のすべてが一般に公開されるとは限らない。

なぜ重要か

OpenAI製品を利用する人にとって、今回の評価は学習中や社内利用中を含め、安全上の問題をより早く見つける助けになる可能性がある。ただし、裏付けとなる証拠のすべてを一般の人が確認できるとは限らず、評価結果もまだ公表されていない。

この記事は役に立ちましたか?
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。