OpenAI planerar att börja använda data från cybersäkerhetssessioner i Daybreak Blue för att träna sina modeller den 29 november. Enligt The Decoder bekräftades ändringen i ett mejl till medlemmar i programmet Trusted Access. Sessionerna hade tidigare undantagits från träningen, även för användare som hade stängt av den allmänna inställningen ”förbättra modellen för alla”.
Efter invändningar från medlemmar skickade OpenAI ett nytt mejl och lovade en separat möjlighet att välja bort träning på Daybreak Blue-sessioner. Mejlen klargör inte hur det valet ska fungera eller om varje användare måste göra det själv. OpenAI uppger att interaktioner som flaggas vid säkerhetsgranskningar ändå kan användas i säkerhetssyfte. Att välja bort modellträning behöver alltså inte hindra all användning av sessionsdata.
Därför är forskare oroliga
Policyändringen väcker frågor om huruvida material som delas i specialiserade forsknings- eller tekniska sessioner senare kan bidra till modellträning. The Decoder hänvisar till matematikerna Tristan Buckmaster och Levent Alpöge, som laddade upp utkast om Navier–Stokes-ekvationerna till OpenAIs Codex. OpenAI presenterade senare ett eget bevis och förnekade att deras inlägg hade använts för träning.
Förnekandet undanröjde inte forskarnas misstankar, och händelsen visade vilka risker som kan uppstå när människor delar opublicerat arbete med ett AI-verktyg. Det framgår inte av uppgifterna att OpenAI använde matematikernas utkast för att träna en modell. Det är ett separat exempel på varför forskare kan vilja ha tydliga gränser för hur inskickat material hanteras.
Det här behöver användarna känna till
För medlemmar i Trusted Access är den viktiga förändringen att Daybreak Blue-sessioner inte längre omfattas av det tidigare generella undantaget från träning. Den allmänna inställningen för att förbättra modeller för alla kommer enligt den annonserade planen inte i sig att behålla undantaget.
OpenAI har lovat en separat möjlighet att välja bort träning, men de tillgängliga uppgifterna säger inte när den införs, vad standardinställningen blir eller om den gäller tidigare sessioner. Startdatumet är den 29 november; i det tillhandahållna beskedet anges inget år. Användning vid säkerhetsgranskning är dessutom ett separat undantag från träning, så de två ändamålen ska inte ses som samma inställning.
Varför det spelar roll
Medlemmar i Trusted Access som använder Daybreak Blue bör inte utgå från att den allmänna inställningen för modellförbättring håller sessionerna utanför träningen. OpenAI har utlovat en separat möjlighet att välja bort träning, men tidpunkten och standardinställningen är inte angivna. Användning vid säkerhetsgranskning kan ändå fortsätta.
