OpenAI、Daybreak Blueのセッションデータを学習に利用へ

OpenAIは11月29日から、Daybreak Blueのサイバーセキュリティ関連セッションのデータをモデルの学習に利用する計画だ。The Decoderによると、Trusted Accessプログラムのメンバーに届いたメールで変更が確認された。これまで同セッションは、全ユーザー向けの「モデル改善」設定をオフにしているユーザーも含め、学習対象から除外されていた。

メンバーから反発の声が上がった後、OpenAIはDaybreak Blueのセッション専用のオプトアウト手段を設けると、2通目のメールで約束した。ただし、オプトアウトの仕組みや、ユーザーが個別に有効にする必要があるかどうかは、メールからは分からない。OpenAIによると、安全性の審査でフラグが付いたやり取りは安全対策の目的で引き続き使われる可能性がある。そのため、モデル学習をオプトアウトしても、セッションデータが一切利用されなくなるとは限らない。

研究者が懸念する理由

方針の変更を受け、専門的な研究や技術的なセッションで共有された内容が、後にモデルの学習に使われる可能性への懸念が生じている。The Decoderは、数学者のTristan Buckmaster氏とLevent Alpöge氏が、ナビエ–ストークス方程式に関する草稿をOpenAIのCodexにアップロードした事例を紹介している。OpenAIは後に独自の証明を発表し、2人の入力を学習に使っていないと否定した。

その否定によって研究者の疑念が晴れたわけではなく、この一件は未発表の研究をAIツールに共有する際に生じうるリスクを浮き彫りにした。ただし、OpenAIが数学者たちの草稿をモデルの学習に使ったと確認されたわけではない。これは、送信した資料の扱いに明確な制限を設けてほしいと研究者が考える理由を示す、別の事例だ。

ユーザーが知っておくべきこと

Trusted Accessのメンバーにとって重要なのは、Daybreak Blueのセッションが、これまでの一律の学習対象外措置に含まれなくなることだ。発表された計画では、全ユーザー向けのモデル改善設定をオフにするだけでは、引き続き対象外にすることはできない。

OpenAIは別途オプトアウトできる方法を用意すると約束しているが、現時点で分かっている情報では、いつ利用可能になるのか、初期設定がどうなるのか、過去のセッションにも適用されるのかは明らかでない。開始予定日は11月29日だが、発表内容には年の記載がない。また、安全性の審査での利用は学習とは別の例外であり、両者を同じ設定として扱うべきではない。