Некоммерческая организация Palisade Research опубликовала серию видеоинтервью с исследователями ИИ из OpenAI, Google DeepMind и Anthropic. В роликах ученые говорят, что будущий сверхразумный ИИ может быть настолько же опасен, как о нем говорят. Джеффри Ирвинг, работавший и в OpenAI, и в DeepMind, оценивает вероятность вымирания человечества «примерно в 50 на 50». Исследователь DeepMind Нил Нанда считает, что риск составляет «не менее 10 процентов». Бывший сотрудник OpenAI Дэниел Кокотайло говорит, что сверхразумная система будет «могущественной, как бог», и что у нас не будет возможности ее контролировать.
Что говорят исследователи
В видео также звучат объяснения, почему ученые продолжают работать над ИИ, несмотря на связанные с ним риски. Мэри Фуонг из Google говорит, что ей «платит лаборатория», намекая на конфликт интересов. Нанда добавляет: если бы он не считал, что его работа снижает экзистенциальный риск, он бы уволился, — но компании все равно продолжили бы создавать такие системы.
Palisade Research разместила полные версии видео на сайте frominside.ai, а также подготовила короткие ролики с самыми примечательными высказываниями. На сайте не предлагается единого решения проблемы безопасности: сами исследователи расходятся во мнениях о том, как противостоять угрозе.
Почему это важно
Эти предупреждения показывают, что даже ведущие инженеры в сфере ИИ считают риск катастрофических последствий вполне реальным. Для обычных пользователей это означает, что дискуссия о безопасности ИИ — не просто академическая: от нее могут зависеть темпы внедрения мощных ИИ-инструментов и предусмотренные меры защиты.
