Demokrat i representanthuset vill att USA och Kina förhandlar om AI-säkerhetsavtal

Ro Khanna, den främste demokraten i representanthusets särskilda kommitté för Kina, har skrivit till USA:s chef för nationell underrättelsetjänst och till tre kinesiska AI-företag – DeepSeek, Alibaba och Moonshot AI. Han bad dem förklara hur de skulle hantera ett värsta tänkbara AI-tillbud, som hackningen av Hugging Face via OpenAI tidigare i somras. Khanna säger att svaren kan hjälpa kongressen och Vita huset att utforma ett avtal som begränsar riskfylld AI-utveckling och inför regler för inspektioner.

Vad breven efterfrågar

I breven ber Khanna de kinesiska företagen om dokumentation kring eventuellt arbete med ”superintelligens” och rekursiv självförbättring (RSI), det vill säga när AI kan förbättra sin egen kod utan mänsklig hjälp. Han vill veta om företagen har infört skyddsåtgärder, som ”nödstopp” för att stänga av system som löpt amok, och om de skulle låta inspektörer utanför myndigheterna granska dem om ett avtal undertecknades. I brevet till underrättelsetjänsten efterfrågar han en bedömning av hur USA skulle kunna agera om ett AI-labb förlorade kontrollen över sina botar, samt en genomgång av Kinas syn på katastrofala AI-risker.

Politiskt sammanhang

Initiativet kommer efter ett nyligt möte mellan president Donald Trump och Kinas president Xi Jinping, där båda ledarna sade att de skulle fortsätta samtala om AI men inte presenterade några konkreta planer. Khanna säger att dialogen inte räcker och att vinstdrivande teknikföretag inte ensamma bör sätta säkerhetsreglerna. Han påpekade också att den oberoende senatorn Bernie Sanders har efterlyst ett liknande AI-avtal mellan USA och Kina, medan vissa republikaner tvivlar på att Kina skulle hålla sig till ett sådant avtal.