Anthropic-veteraner uppges överväga planer på avlägsen mark inför AI-risker

Några av Anthropics mest långvariga medarbetare har diskuterat att köpa mark i avlägsna delar av USA, så att de skulle kunna flytta dit om AI-utvecklingen ”spårar ur”, rapporterar The Wall Street Journal. Samtalen ska ha ägt rum under de senaste veckorna, enligt personer som talat med en branschkollega. Rapporten uppger inte att någon har köpt mark eller bestämt sig för en plats.

Tanken på att flytta till en avlägsen plats har cirkulerat bland vissa i AI-branschen i flera år. Tidigare Anthropic-anställda berättade om diskussioner vid företagsmiddagar under bolagets första år, där man talade om en satsning i stil med Manhattanprojektet: forskare skulle kunna ombes att flytta ut i öknen och fortsätta utveckla AI vid en myndighetsanläggning skyddad mot elektromagnetiska signaler.

En djupt rotad oro

Rapporten kopplar några av Anthropics och OpenAI:s tidiga rekryteringar till effektiv altruism, en rörelse som uppmuntrar människor att använda evidens och resonemang för att ta itu med storskaliga problem. Den beskriver också ett nätverk i Bay Area av personer som i åratal har funderat över katastrofala risker. Innan AI blev deras främsta orosmoment handlade riskerna bland annat om asteroidnedslag och supervulkaner.

En inflytelserik person i den här kretsen är Eliezer Yudkowsky, som började varna för farorna med okontrollerad AI i mitten av 2000-talet. Hans argument bidrog till att forma en gemenskap som tar möjligheten till allvarlig AI-relaterad skada på stort allvar. De rapporterade diskussionerna om mark är ett exempel på hur vissa i den gemenskapen tänker kring personliga beredskapsplaner, även om artikeln inte anger hur många anställda som berörs eller vad de kan tänkas göra härnäst.