A OpenAI planeja usar dados de sessões de cibersegurança do Daybreak Blue para treinar seus modelos a partir de 29 de novembro. Um e-mail enviado a integrantes do programa Trusted Access confirmou a mudança, segundo o The Decoder. Antes, essas sessões eram excluídas do treinamento, inclusive para usuários que haviam desativado a opção geral “melhorar o modelo para todos”.
Depois que integrantes do programa contestaram a mudança, a OpenAI enviou um segundo e-mail prometendo uma opção separada para não incluir as sessões do Daybreak Blue no treinamento. Os e-mails não esclarecem como essa opção funcionará nem se cada usuário terá de ativá-la. A OpenAI diz que interações sinalizadas durante análises de segurança ainda poderão ser usadas para fins de segurança; portanto, não participar do treinamento de modelos não necessariamente impedirá todo uso dos dados das sessões.
Por que pesquisadores estão preocupados
A mudança na política levanta dúvidas sobre a possibilidade de materiais compartilhados em sessões especializadas de pesquisa ou técnicas contribuírem mais tarde para o treinamento de modelos. O The Decoder cita os matemáticos Tristan Buckmaster e Levent Alpöge, que enviaram rascunhos sobre as equações de Navier-Stokes ao Codex, da OpenAI. Mais tarde, a OpenAI apresentou uma prova própria e negou ter usado as contribuições deles para treinamento.
A negativa não dissipou as suspeitas dos pesquisadores, e o episódio ilustrou os riscos que podem surgir quando pessoas compartilham trabalhos inéditos com uma ferramenta de IA. O relato não comprova que a OpenAI tenha usado os rascunhos dos matemáticos para treinar um modelo. Trata-se de um exemplo à parte de por que pesquisadores podem se preocupar com limites claros para o tratamento de materiais enviados.
O que os usuários precisam saber
Para integrantes do Trusted Access, a mudança mais importante é que as sessões do Daybreak Blue deixarão de estar cobertas pela exclusão geral do treinamento que vigorava até então. A opção geral de melhorar os modelos para todos não será suficiente, por si só, para manter essa exclusão segundo o plano anunciado.
A OpenAI prometeu uma forma separada de não participar, mas os detalhes disponíveis não informam quando ela será disponibilizada, qual será a configuração padrão ou se valerá para sessões anteriores. A data prevista para o início é 29 de novembro; o anúncio fornecido não especifica o ano. O uso em análises de segurança também é uma exceção distinta do treinamento, portanto os dois fins não devem ser tratados como se fossem a mesma configuração.
Por que importa
Integrantes do Trusted Access que usam o Daybreak Blue não devem presumir que desativar a opção geral de melhoria dos modelos manterá essas sessões fora do treinamento. A OpenAI prometeu uma opção separada, mas não especificou quando ela estará disponível nem qual será sua configuração padrão; o uso em análises de segurança ainda poderá continuar.
