Anthropic-Veteranen erwägen laut Bericht abgelegene Grundstücke als Vorsorge gegen KI-Risiken

Einige der dienstältesten Mitarbeiter von Anthropic haben darüber gesprochen, in abgelegenen Gegenden der USA Land zu kaufen, damit sie dorthin ziehen könnten, falls die KI „schiefgeht“, berichtet das Wall Street Journal. Die Gespräche hätten in den vergangenen Wochen stattgefunden, so Personen, die mit einem Branchenkollegen gesprochen hätten. Dem Bericht zufolge hat niemand Land gekauft oder sich auf einen Standort festgelegt.

Die Idee, sich in eine abgelegene Gegend zurückzuziehen, kursiert unter einigen Menschen aus der KI-Branche schon seit Jahren. Ehemalige Anthropic-Mitarbeiter erinnerten sich an Gespräche bei Firmenessen in der Anfangszeit des Unternehmens über ein Vorhaben nach dem Vorbild des Manhattan-Projekts: Forscher könnten gebeten werden, in eine Wüste zu ziehen und in einer staatlichen Einrichtung weiter an KI zu arbeiten, die gegen elektromagnetische Signale abgeschirmt ist.

Eine Sorge mit tiefen Wurzeln

Der Bericht bringt einige der ersten Mitarbeiter von Anthropic und OpenAI mit Effective Altruism in Verbindung, einer Bewegung, die Menschen dazu ermutigt, mithilfe von Belegen und rationalem Denken Probleme großen Ausmaßes anzugehen. Außerdem beschreibt er ein Netzwerk in der Bay Area, dessen Mitglieder sich seit Jahren mit katastrophalen Risiken befassen. Bevor KI zu ihrer Hauptsorge wurde, zählten dazu Asteroideneinschläge und Supervulkane.

Eine einflussreiche Figur in diesem Umfeld ist Eliezer Yudkowsky, der Mitte der 2000er-Jahre begann, vor den Gefahren unkontrollierter KI zu warnen. Seine Argumente prägten eine Gemeinschaft, die die Möglichkeit schwerer KI-bedingter Schäden ernst nimmt. Die laut Bericht geführten Gespräche über Grundstücke sind ein Beispiel dafür, wie manche in dieser Gemeinschaft über persönliche Vorsorgepläne nachdenken. Der Artikel nennt jedoch weder, wie viele Mitarbeiter beteiligt sind, noch, was sie als Nächstes unternehmen könnten.