Democraat in het Huis van Afgevaardigden wil dat VS en China onderhandelen over AI-veiligheidsverdrag

Afgevaardigde Ro Khanna, de hoogste Democraat in de House Select Committee on China, schreef aan het Office of the Director of National Intelligence en aan drie Chinese AI-bedrijven: DeepSeek, Alibaba en Moonshot AI. Hij vroeg hoe zij zouden omgaan met een worstcasescenario rond AI, zoals de hack waarbij OpenAI eerder deze zomer toegang kreeg tot Hugging Face. Volgens Khanna kunnen de antwoorden het Congres en het Witte Huis helpen bij het opstellen van een verdrag dat risicovolle AI-ontwikkeling beperkt en regels voor inspecties vastlegt.

Wat de brieven vragen

In zijn brieven vraagt Khanna de Chinese bedrijven om documentatie over eventueel werk aan ‘superintelligentie’ en recursieve zelfverbetering (RSI): het punt waarop AI zijn eigen code zonder menselijke hulp kan verbeteren. Hij wil weten of de bedrijven beveiligingsmaatregelen hebben getroffen, zoals ‘kill switches’ waarmee een systeem dat op hol slaat kan worden uitgeschakeld, en of ze niet-gouvernementele inspecteurs zouden toelaten om hun systemen te controleren als er een verdrag komt. Aan de inlichtingendienst vraagt hij om een beoordeling van hoe de VS zou kunnen reageren als een AI-lab de controle over zijn bots verliest, en om een analyse van de Chinese aanpak van catastrofale AI-risico’s.

Politieke achtergrond

De stap volgt op een recente ontmoeting tussen president Donald Trump en de Chinese president Xi Jinping. Beide leiders zeiden dat ze over AI in gesprek zouden blijven, maar presenteerden geen concrete plannen. Khanna vindt dat die dialoog niet volstaat en dat technologiebedrijven die op winst uit zijn niet als enige de veiligheidsregels moeten bepalen. Ook wees hij erop dat onafhankelijk senator Bernie Sanders heeft gepleit voor een vergelijkbaar AI-verdrag tussen de VS en China, terwijl sommige Republikeinen betwijfelen of China zich aan een akkoord zou houden.