Глава OpenAI Сэм Альтман рассказал сотрудникам о трёх идеях обеспечения безопасности ИИ. Первая предполагает создание независимого органа по образцу Международного агентства по атомной энергии (МАГАТЭ), который проверял бы модели и следил за использованием вычислительных мощностей. Второй вариант, названный «планом Демиса», — объединить ведущие лаборатории под одной структурой по примеру CERN. Третий, «план Элиезера», предупреждает о возможности того, что одна компания в итоге сосредоточит у себя основную вычислительную мощность и отключит графические процессоры конкурентов. Альтман назвал третий вариант теоретическим крайним сценарием, но отметил, что он указывает на риск, который беспокоит некоторых конкурентов.
Почему это важно
Эти предложения помогают политикам и участникам отрасли понять, как можно регулировать или ограничивать разработку ИИ, что повлияет на будущую конкуренцию и стандарты безопасности.
