Goodfire پایشگرهای ارزان هوش مصنوعی را از درون راه‌اندازی کرد

Goodfire، استارتاپی که سازوکار مدل‌های هوش مصنوعی را بررسی می‌کند، پنج‌شنبه ۸ اکتبر ۲۰۲۶ پایشگری «از درون به بیرون» منتشر کرد. این ابزارها فعال‌سازی‌های درونی مدل را می‌خوانند و به‌جای آن‌که خروجی‌هایش را دوباره پردازش کنند، همان‌ها را بررسی می‌کنند. مشتریان Baseten می‌توانند انتخاب کنند چه خطرهایی پایش شود و چه واکنش خودکاری در پی آن انجام گیرد. در آزمایش Goodfire روی مدل متن‌باز Kimi K3، پایش ۱٬۵۰۰ نشست حدود ۵۱ دلار هزینه داشت و ۹۴٪ از تلاش‌های مخرب هک را شناسایی کرد.