Основанная братом и сестрой Ширали и Арулом Нигамами компания Circuit Breaker Labs разрабатывает платформу для тестирования, которая имитирует пользователей разного возраста, говорящих на разных языках и использующих сленг, чтобы проверять, не дают ли чат-боты с ИИ психологически опасные ответы. Компания представит свой продукт на TechCrunch Disrupt в Сан-Франциско 13–15 октября 2026 года. Ежедневно платформа проводит десятки тысяч симулированных диалогов и оценивает, насколько хорошо модели справляются с рискованными ситуациями.
Почему это важно
Если тестирование выявит опасные ответы, приложения для психического здоровья и другие сервисы с чат-ботами смогут не допускать провоцирования суицидальных или тяжелых переживаний у уязвимых пользователей.
