# Circuit Breaker Labs、メンタルヘルス向けチャットボットのAI安全性を検査

> スタートアップはサンフランシスコで開かれるTechCrunch Disruptで、衝突実験用ダミーのようなチャットボットシミュレーションを披露する。ユーザーに届く前に、AIの有害な応答を検出する狙いだ。

Oossa · 2026-10-02 · https://oossa.com/ja/circuit-breaker-labs-launches-ai-safety-testing-for-mental-health-chatbots

Shirali NigamとArul Nigamのきょうだいが創業したCircuit Breaker Labsは、あらゆる年齢層や言語、スラングを使うユーザーを模したテストプラットフォームを開発している。AIチャットボットを検証し、心理的に危険な応答を引き出すのが目的だ。同社は2026年10月13～15日にサンフランシスコで開かれるTechCrunch Disruptで製品を売り込む。毎日、数万件の会話をシミュレーションし、リスクのあるやり取りへの対応力を基にモデルを評価している。

## 事実

- TechCrunch Disruptの開催日：2026年10月13～15日
- Circuit Breaker Labsの従業員数は5人

## なぜ重要か

有害な応答を検出できれば、メンタルヘルスアプリなどのチャットボットサービスが、支援を必要とするユーザーに自殺を促したり、苦痛を与えたりする応答を避けられる。

## 出典と参考資料

1. [Circuit Breaker Labs hopes to make AI safer for your kids (and you)](https://techcrunch.com/2026/10/02/circuit-breaker-labs-hopes-to-make-ai-safer-for-your-kids-and-you/) – TechCrunch, 2026-10-02

最終更新: 2026-10-02