Veteranen van Anthropic overwegen volgens berichten plannen voor afgelegen land vanwege AI-risico’s

Enkele medewerkers die al het langst bij Anthropic werken, hebben besproken om land te kopen op afgelegen plekken in de Verenigde Staten, zodat ze daarheen kunnen verhuizen als AI „uit de hand loopt”, meldt The Wall Street Journal. Volgens mensen die met een collega uit de sector spraken, vonden de gesprekken de afgelopen weken plaats. Het bericht zegt niet dat iemand land heeft gekocht of een locatie heeft gekozen.

Het idee om naar een afgelegen gebied te vertrekken doet al jaren de ronde onder sommige mensen in de AI-sector. Voormalige medewerkers van Anthropic haalden gesprekken aan bij bedrijfsdiners in de beginjaren van het bedrijf over een project naar het voorbeeld van het Manhattanproject: onderzoekers zouden kunnen worden gevraagd naar een woestijn te verhuizen en daar AI verder te ontwikkelen in een overheidsfaciliteit die beschermd is tegen elektromagnetische signalen.

Een zorg met diepe wortels

Volgens het bericht waren enkele van de eerste medewerkers van Anthropic en OpenAI betrokken bij Effective Altruism, een beweging die mensen aanmoedigt bewijs en redenering te gebruiken om grootschalige problemen aan te pakken. Het beschrijft ook een netwerk in de Bay Area van mensen die al jaren nadenken over catastrofale risico’s. Voordat AI hun voornaamste zorg werd, ging het onder meer om inslagen van asteroïden en supervulkanen.

Een invloedrijke figuur binnen deze kring is Eliezer Yudkowsky, die halverwege de jaren 2000 begon te waarschuwen voor de gevaren van AI die niet onder controle is. Zijn argumenten hielpen een gemeenschap vorm te geven die de mogelijkheid van ernstige schade door AI serieus neemt. De gemelde gesprekken over land zijn een voorbeeld van hoe sommige mensen in die gemeenschap nadenken over persoonlijke noodplannen, al geeft het artikel geen details over hoeveel medewerkers erbij betrokken zijn of wat ze mogelijk hierna gaan doen.