بخش مهندسی اوبر چارچوبی را تشریح کرده است که مشخص میکند آیا اقدام پیشنهادی یک عامل هوش مصنوعی با درخواست کاربر، هدف عامل، مجوزهایش و بافت تعامل همخوانی دارد یا نه. به گفته اوبر، کنترلهای معمول هویت و API میتوانند دسترسی را بررسی کنند، اما نمیتوانند تشخیص دهند که یک اقدام مناسب است یا خیر.
این چارچوب سه مرحله دارد: ثبت و بررسیهای امنیتی پیش از استقرار، بررسی هنگام اجرا با AI Guards و هوکهای Agent Guard، و بازبینی مستمر با استفاده از ردپاهای اجرا و تعاملات قابل بازپخش. اوبر میگوید تعیین هدفها و محدودیتهای صریح و ویژه هر عامل، مؤثرترین کنترل آنها بوده است؛ هرچند راهاندازی این کنترلها به کار نیاز دارد و با افزایش تعداد جریانهای کاری، حجم کار هم بیشتر میشود.
چرا مهم است
برای تیمهایی که عاملهای هوش مصنوعی میسازند، رویکرد اوبر راهی برای بررسی اقدامات در بافت تعامل فراهم میکند؛ اما تدوین قواعد جداگانه برای هر عامل ممکن است به آمادهسازی زیادی نیاز داشته باشد. این گزارش توضیح نمیدهد که چگونه میتوان این قواعد را بر عاملهای ارائهشده از سوی فروشندگان اعمال کرد.