Oossa

چارچوب امنیتی اوبر برای عامل‌های هوش مصنوعی

چارچوب اوبر عامل‌ها را پیش از استقرار، هنگام اجرا و پس از انتشار بررسی می‌کند و اقدامات پیشنهادی آن‌ها را با توجه به بافت تعامل می‌سنجد.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

بخش مهندسی اوبر چارچوبی را تشریح کرده است که مشخص می‌کند آیا اقدام پیشنهادی یک عامل هوش مصنوعی با درخواست کاربر، هدف عامل، مجوزهایش و بافت تعامل هم‌خوانی دارد یا نه. به گفته اوبر، کنترل‌های معمول هویت و API می‌توانند دسترسی را بررسی کنند، اما نمی‌توانند تشخیص دهند که یک اقدام مناسب است یا خیر.

این چارچوب سه مرحله دارد: ثبت و بررسی‌های امنیتی پیش از استقرار، بررسی هنگام اجرا با AI Guards و هوک‌های Agent Guard، و بازبینی مستمر با استفاده از ردپاهای اجرا و تعاملات قابل بازپخش. اوبر می‌گوید تعیین هدف‌ها و محدودیت‌های صریح و ویژه هر عامل، مؤثرترین کنترل آن‌ها بوده است؛ هرچند راه‌اندازی این کنترل‌ها به کار نیاز دارد و با افزایش تعداد جریان‌های کاری، حجم کار هم بیشتر می‌شود.

چرا مهم است

برای تیم‌هایی که عامل‌های هوش مصنوعی می‌سازند، رویکرد اوبر راهی برای بررسی اقدامات در بافت تعامل فراهم می‌کند؛ اما تدوین قواعد جداگانه برای هر عامل ممکن است به آماده‌سازی زیادی نیاز داشته باشد. این گزارش توضیح نمی‌دهد که چگونه می‌توان این قواعد را بر عامل‌های ارائه‌شده از سوی فروشندگان اعمال کرد.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.