Baseten از پروژه Beacon رونمایی کرد؛ همکاری‌ای با Goodfire AI که بررسی‌های ایمنی پیش‌دستانه را به فرایند اجرای مدل‌های هوش مصنوعی اضافه می‌کند. این سامانه هنگام تولید متن، فعال‌سازی‌های درونی مدل را می‌خواند و می‌تواند محتوای ناایمن، از جمله تزریق پرامپت، نقض سیاست‌ها، افشای داده‌ها یا سوءاستفاده سایبری را مسدود یا علامت‌گذاری کند. Baseten می‌گوید این ابزارهای پایش هم‌زمان با تولید متن اجرا می‌شوند و تأخیر محسوس ایجاد نمی‌کنند. این شرکت قصد دارد طی چند ماه آینده این قابلیت را در اختیار چند شریک اولیه بگذارد و سپس آن را به مدل‌های بیشتر و کنترل‌های سازمانی گسترش دهد.
چرا مهم است
سازمان‌ها می‌توانند برای همه مدل‌ها محافظ‌های ایمنی یکسانی اعمال کنند و با گسترش استفاده از هوش مصنوعی، نیاز به فیلترهای جداگانه و بازبینی دستی را کاهش دهند.
