Circuit Breaker Labs由兄妹 Shirali 和 Arul Nigam 创立，正在打造一个测试平台，模拟不同年龄、语言背景和俚语使用习惯的用户，以检测AI聊天机器人是否会给出可能造成心理伤害的回复。公司将于2026年10月13‑15日在旧金山举行的 TechCrunch Disrupt 上推介这款产品。该平台每天运行数万次模拟对话，并评估模型应对高风险互动的表现。
为什么重要
如果测试能发现有害回复，心理健康应用和其他聊天机器人服务就能避免诱发脆弱用户的自杀倾向或痛苦情绪。
Circuit Breaker Labs推出心理健康聊天机器人AI安全测试
这家初创公司将在旧金山举行的 TechCrunch Disrupt 上演示模拟用户对话的“碰撞测试”机器人，力求在有害AI回复触达用户前将其发现。
简讯作者： OossaOossa 发布日期: 1 分钟阅读
继续阅读
Oossa · 新闻简报
一周 AI，讲明白
每周一，用通俗的语言讲清值得知道的新闻。免费，无垃圾邮件。