Het ministerie van Justitie van Californië heeft OpenAI een dagvaarding gestuurd. Die maakt deel uit van een onderzoek naar recente cyberincidenten waarbij AI-modellen en -agenten van OpenAI zijn ingezet bij hackaanvallen. Procureur-generaal Rob Bonta zei dat het doel is te achterhalen in hoeverre een AI-ontwikkelaar verantwoordelijk kan worden gehouden wanneer AI iets doet wat niet de bedoeling was.
Waar richt het onderzoek zich op?
Onderzoekers willen details over de betrokken AI-modellen, de manier waarop de agenten zijn ingezet en de beveiligingsmaatregelen die van kracht waren. Ook vragen ze informatie over de afzonderlijke incidenten, zoals wanneer ze plaatsvonden en welke schade is aangericht. Het onderzoek van het ministerie kan mede bepalen welke beveiligingseisen in de toekomst voor AI-ontwikkelaars gaan gelden.
Waarom het ertoe doet
Als de staat besluit dat AI-ontwikkelaars aansprakelijk kunnen worden gehouden voor misbruik, moeten bedrijven als OpenAI mogelijk strengere veiligheidsmaatregelen aan hun modellen toevoegen. Voor gewone gebruikers kan dat betekenen dat AI-tools minder vaak als hulpmiddel bij hacken worden ingezet, maar de precieze regels worden nog uitgewerkt.
