Anthropic har i det tysta börjat lobba för en ny lag om AI-säkerhet. Förslaget skulle ge USA:s regering möjlighet att stoppa lanseringen av en AI-modell, men bara om modellen skulle kunna orsaka minst 50 dödsfall eller skador för minst 1 miljard dollar. Enligt lagförslaget skulle handelsdepartementet fatta beslutet, med hjälp av en oberoende utvärderare som granskar AI-labbets riskbedömningar.
Så skulle lagförslaget fungera
Enligt Politico skulle en extern utvärderare, registrerad hos handelsdepartementet, regelbundet granska Anthropics labb och AI-modeller. Företaget skulle kunna betala utvärderaren, men betalningen får inte påverka utvärderarens oberoende. Anthropic säger att upplägget följer företagets ”Advanced AI Framework”, som det har förespråkat inför lagstiftare sedan juni.
Varför det spelar roll
Om lagen antas skulle handelsdepartementet få makt att stoppa riskfyllda AI-modeller, men först när risken för mycket omfattande skador når en mycket hög gräns. För vanliga användare innebär det att de flesta AI-verktyg skulle fortsätta vara tillgängliga, så länge ingen tydlig fara i stor skala uppstår. Säkerhetsfrågor skulle därmed i stor utsträckning fortfarande behöva hanteras av företagen själva.
