Circuit Breaker Labs, 정신건강 챗봇 안전성 테스트 출시

이 스타트업은 사용자가 접하기 전에 유해한 AI 답변을 찾아내기 위해 샌프란시스코에서 열리는 TechCrunch Disrupt에서 ‘충돌 시험용 더미’ 방식의 챗봇 시뮬레이션을 시연할 예정이다.

짧은 소식작성: OossaOossa 게시일: 2026년 10월 2일 오후 6:12 UTC1 분 읽기

Shirali와 Arul Nigam 남매가 설립한 Circuit Breaker Labs는 모든 연령대와 언어, 속어를 구사하는 사용자를 모의해 AI 챗봇이 심리적으로 위험한 답변을 하는지 점검하는 테스트 플랫폼을 개발하고 있다. 회사는 2026년 10월 13~15일 샌프란시스코에서 열리는 TechCrunch Disrupt에서 제품을 소개할 예정이다. 매일 수만 건의 대화를 시뮬레이션하고, 위험한 상호작용에 모델이 얼마나 잘 대응하는지 평가한다.