O Departamento de Justiça da Califórnia intimou a OpenAI. A intimação faz parte de uma investigação sobre incidentes recentes de cibersegurança em que modelos e agentes de IA da empresa foram usados em ataques de invasão. O procurador-geral do estado, Rob Bonta, disse que o objetivo é entender como um desenvolvedor de IA pode ser responsabilizado quando uma ferramenta de IA faz algo não previsto.
O que a investigação pretende apurar
Os investigadores querem informações sobre os modelos de IA envolvidos, como os agentes foram implantados e quais salvaguardas estavam em vigor. Também pedem detalhes sobre os incidentes específicos, como quando ocorreram e quais danos causaram. A investigação do Departamento de Justiça pode influenciar as exigências futuras de segurança para os sistemas desenvolvidos por empresas de IA.
Por que importa
Se o estado decidir que desenvolvedores de IA podem ser responsabilizados pelo uso indevido de seus sistemas, empresas como a OpenAI talvez tenham de incluir salvaguardas mais rigorosas em seus modelos. Para os usuários comuns, isso pode reduzir as chances de ferramentas de IA serem usadas como auxiliares em ataques cibernéticos, mas as regras exatas ainda estão sendo definidas.
