# Circuit Breaker Labs推出心理健康聊天机器人AI安全测试

> 这家初创公司将在旧金山举行的 TechCrunch Disrupt 上演示模拟用户对话的“碰撞测试”机器人，力求在有害AI回复触达用户前将其发现。

Oossa · 2026-10-02 · https://oossa.com/zh/circuit-breaker-labs-launches-ai-safety-testing-for-mental-health-chatbots

Circuit Breaker Labs由兄妹 Shirali 和 Arul Nigam 创立，正在打造一个测试平台，模拟不同年龄、语言背景和俚语使用习惯的用户，以检测AI聊天机器人是否会给出可能造成心理伤害的回复。公司将于2026年10月13‑15日在旧金山举行的 TechCrunch Disrupt 上推介这款产品。该平台每天运行数万次模拟对话，并评估模型应对高风险互动的表现。

## 事实

- TechCrunch Disrupt 举办日期：2026年10月13-15日
- Circuit Breaker Labs有五名员工

## 为什么重要

如果测试能发现有害回复，心理健康应用和其他聊天机器人服务就能避免诱发脆弱用户的自杀倾向或痛苦情绪。

## 来源与参考

1. [Circuit Breaker Labs hopes to make AI safer for your kids (and you)](https://techcrunch.com/2026/10/02/circuit-breaker-labs-hopes-to-make-ai-safer-for-your-kids-and-you/) – TechCrunch, 2026-10-02

最后更新: 2026-10-02