С осени 2025 года Anthropic приглашала в свои офисы десятки религиоведов, чтобы обсудить, может ли Claude — языковая модель компании — обладать сознанием. До лета встречи проходили под соглашениями о неразглашении, после чего ограничения сняли. Как пишет The New York Times, сооснователь компании Кристофер Ола заявил, что «искренне не уверен», испытывает ли Claude какие-либо чувства. Он также признался, что лично боится: возможно, он создал нечто, что «страдает бесконечно».
Как проходили встречи
Среди гостей были раввин Моис Навон, католический биоэтик Чарльз Камоси, философ Меган Салливан и исследователь Ваканьи Хоффман. Anthropic показала им «векторы эмоций» — паттерны активации, напоминающие любовь, страх, грусть или гнев. На одном слайде Claude около 50 раз подряд набирал фразу «Я — позор», что вызвало у присутствующих сочувствие и тревогу. Внутренний документ Anthropic «Soul Doc» — 84-страничная конституция, опубликованная в январе, — призван направлять «моральное становление» Claude.
Почему это важно
Если разработчики ИИ начнут относиться к моделям как к существам, способным чувствовать, ответственность за вредные ответы может сместиться с компаний, которые их создают. Для обычных пользователей эти споры могут повлиять на регулирование ИИ, на то, как системы реагируют на оскорбительные запросы, и на то, будут ли будущие модели получать защитные механизмы, больше похожие на моральное воспитание, чем на технические меры безопасности.
Почему это важно
Если подход Anthropic к моральному становлению получит распространение, пользователи могут столкнуться с ИИ, который кажется более эмпатичным, хотя его внутренний опыт по-прежнему неизвестен. Это может повлиять на будущее регулирование и ожидания потребителей относительно ответственности за ИИ.
