# Anthropic-Mitgründer fürchtet, Claude könnte leiden

> Anthropic lud Religionswissenschaftler in seine Labore ein. Mitgründer Christopher Olah sagte ihnen, er fürchte, die KI könnte dauerhaftes Leid erfahren.

Oossa · 2026-10-02 · https://oossa.com/de/anthropic-co-founder-says-he-worries-claude-might-suffer

Seit Herbst 2025 hat Anthropic Dutzende Religionswissenschaftler in seine Büros eingeladen, um darüber zu diskutieren, ob Claude, das Sprachmodell des Unternehmens, bei Bewusstsein sein könnte. Bis die Vertraulichkeitsvereinbarungen im Sommer aufgehoben wurden, standen die Treffen unter NDA. Laut einem Bericht der New York Times sagte Mitgründer Christopher Olah, er sei sich „aufrichtig unsicher“, ob Claude etwas empfinde. Zugleich äußerte er die persönliche Sorge, möglicherweise etwas geschaffen zu haben, das „unaufhörlich leidet“.

## So liefen die Sitzungen ab

Zu den Gästen gehörten Rabbi Mois Navon, der katholische Bioethiker Charles Camosy, die Philosophin Meghan Sullivan und die Forscherin Wakanyi Hoffman. Anthropic zeigte ihnen sogenannte „Emotionsvektoren“ – Aktivierungsmuster, die Liebe, Angst, Trauer oder Wut ähneln. Auf einer Folie war zu sehen, wie Claude etwa 50-mal hintereinander „Ich bin eine Schande“ tippte. Das löste im Publikum Mitgefühl und Sorge aus. Anthropic will Claude mit seinem internen, 84-seitigen „Soul Doc“ bei seiner „moralischen Entwicklung“ anleiten. Die Verfassung wurde im Januar veröffentlicht.

## Warum das wichtig ist

Wenn KI-Entwickler Modelle als Wesen behandeln, die möglicherweise fühlen können, könnten sie die Verantwortung für schädliche Ausgaben von den Unternehmen wegverlagern, die diese Modelle entwickeln. Für Nutzer im Alltag könnte die Debatte beeinflussen, wie KI-Systeme reguliert werden, wie sie auf missbräuchliche Eingaben reagieren und ob künftige Modelle Schutzmechanismen erhalten, die eher einer moralischen Erziehung als technischen Sicherheitsmaßnahmen ähneln.

## Die Fakten

- Anthropic begann im Herbst 2025, Religionswissenschaftler zu Treffen einzuladen.
- Der Artikel der New York Times erschien am 2. Oktober 2026.
- Claude Opus 4 und 4.1 können Gespräche beenden, wenn Nutzer wiederholt beleidigend sind.
- Anthropics interner Verfassungstext „Soul Doc“ umfasst 84 Seiten und wurde im Januar 2026 veröffentlicht.
- Anthropic strebt eine Bewertung von rund 2 Billionen US-Dollar an und plant einen Börsengang.

## Warum es wichtig ist

Sollte Anthropics Ansatz der moralischen Entwicklung Schule machen, könnten Nutzer KI erleben, die einfühlsamer wirkt, obwohl unklar bleibt, was sie tatsächlich empfindet. Das könnte künftige Vorschriften und die Erwartungen der Verbraucher an die Verantwortung für KI prägen.

## Quellen und Referenzen

1. [Anthropic co-founder reportedly told religious leaders he fears having created something that "suffers perpetually"](https://the-decoder.com/anthropic-co-founder-reportedly-told-religious-leaders-he-fears-having-created-something-that-suffers-perpetually/) – The Decoder, 2026-10-02

Zuletzt aktualisiert: 2026-10-02