# Baseten、推論中のAI安全対策「Project Beacon」を発表

> BasetenはGoodfire AIと提携し、モデルの推論をリアルタイムで監視。危険な出力がユーザーに届く前に遮断することを目指す。

Oossa · 2026-10-09 · https://oossa.com/ja/baseten-launches-project-beacon-for-inline-ai-safety-controls

BasetenはGoodfire AIとの提携により、AIモデルの推論に先回りして安全性を確認する「Project Beacon」を発表した。このシステムは、モデルがテキストを生成する間、その内部の活性化を読み取り、プロンプトインジェクション、ポリシー違反、データ漏えい、サイバー犯罪への悪用などにつながる危険な内容を遮断または検知できる。Basetenによると、監視機能は生成と並行して動作するため、目立った遅延は発生しない。今後数カ月で一部の初期パートナーに提供を開始し、その後、対応モデルや企業向け制御機能を拡大する計画だ。

## 事実

- Project BeaconはBasenetとGoodfire AIの共同取り組み。
- Basetenは今後数カ月以内に、初期パートナー向けに安全機能を提供する予定。

## なぜ重要か

企業はあらゆるモデルに一貫した安全対策を適用できるようになり、AIの利用拡大に伴う個別フィルターや手作業でのレビューの必要性を減らせる。

## 出典と参考資料

1. [Project Beacon: Bringing safety signals to open models at scale](https://www.baseten.co/blog/safe-open-models-baseten-goodfire/) – Baseten

最終更新: 2026-10-09