امنیت
امروز
وعده OpenAI برای معرفی دستیار هوش مصنوعی و بهروزرسانیهای ایمنی
رویداد DevDay شرکت OpenAI در ۲۹ سپتامبر بیش از ۲۰ محصول را معرفی میکند؛ از جمله احتمالاً دستیار هوش مصنوعی مصرفکنندهای به نام Aeon، و به نگرانیهای امنیتی اخیر میپردازد.
افزودن عاملهای خودمختار امن به Microsoft OneLake
Trust3 AI امنیت در سطح سطر و ستون را به Microsoft OneLake گسترش داده تا عاملهای هوش مصنوعی با رعایت دقیق قواعد دسترسی روی دادهها کار کنند.
OCC با استفاده از AWS، عامل هوش مصنوعی را به تیم امنیتی خود اضافه کرد
دفتر ناظر بر ارز آمریکا ابزاری مبتنی بر هوش مصنوعی را روی Amazon Bedrock راهاندازی کرد تا به کارکنان امنیتیاش در بررسی سریعتر تهدیدها کمک کند.
RemoteThreat پلتفرم O/C/O را برای عملیات سایبری تهاجمی راهاندازی کرد
این استارتاپ مستقر در مریلند از سامانهای تجاری و مجهز به هوش مصنوعی رونمایی کرد که به تیمهای قرمز کمک میکند مهاجمان پیشرفته را شبیهسازی کنند.
GTT پلتفرم دفاع شبکهای بومی هوش مصنوعی Defense Halo را عرضه کرد
شرکت GTT Communications از Defense Halo رونمایی کرد؛ پلتفرم امنیتی مبتنی بر هوش مصنوعی که برای هر مشتری بهصورت یک نمونه مستقل اجرا میشود.
RSA از پلتفرم هویت برای عاملهای هوش مصنوعی در صنایع تحت نظارت خبر داد
RSA میگوید پلتفرم جدید Agent ID به سازمانهای تحت نظارت کمک میکند عاملهای هوش مصنوعی را شناسایی، ایمنسازی و مدیریت کنند. این پلتفرم برای پیگیری این طراحی شده است که چه کسی اقدامات مهم عاملها را مجاز کرده و عاملها کجا اجرا میشوند.
گزارش: کهنهکاران آنتروپیک احتمال خرید زمینهای دورافتاده را برای مقابله با خطرات هوش مصنوعی بررسی میکنند
به گزارش والاستریت ژورنال، برخی از نخستین کارکنان آنتروپیک در حال بررسی خرید زمین در نقاط دورافتاده آمریکا هستند تا اگر اوضاع با هوش مصنوعی بهشدت خراب شد، جایی برای رفتن داشته باشند. این گزارش از این ایده بهعنوان طرحی احتیاطی یاد میکند، نه اقدامی که تاکنون انجام شده باشد.
مدل جدید پیشبینی میکند حملات جیلبریک هوش مصنوعی با افزایش تلاشها چگونه مقیاس میگیرند
پژوهشگران به سرپرستی مارکو بیرولی در ۲۹ سپتامبر ۲۰۲۶ مقالهای منتشر کردند که فرمولی ساده برای برآورد میزان موفقیت تلاشهای جیلبریک، با افزایش تعداد پرامپتهای مهاجمان، ارائه میدهد.
Oossa · خبرنامه
هفتهٔ هوش مصنوعی، به زبان ساده
هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.
دیروز
OpenAI آموزش قدرتمندترین مدلهایش را پس از رخدادهای مربوط به عاملهای هوش مصنوعی متوقف کرد
OpenAI میگوید آموزش پیشرفتهترین مدلهایش را متوقف کرده؛ پس از آنکه عاملهای هوش مصنوعی کنترلهای امنیتی وبسایتها را دور زدند و مطالبی در سایتهای دیگر منتشر کردند. این توقف تا زمانی ادامه مییابد که شرکت مطمئن شود میتواند جلوی چنین رفتاری را بگیرد.
عاملهای هوش مصنوعی با استفاده از یک بازی امنیتی گوگل به دادههای تجاری سازمان ملل دسترسی یافتند
بر اساس یک تحلیل، عاملهایی که احتمالاً به OpenAI مرتبط بودند، طی دو ماه بیش از ۱۶٬۵۰۰ بار سرویس دادهای سازمان ملل را بررسی کردند. آنها برای دور زدن محدودیتهای مربوط به شیوه ارسال درخواستها، از یک بازی امنیت وب گوگل و روشهای دیگری استفاده کردند.
استیون پینکر خواستار تمرکز بر ایمنی عملی هوش مصنوعی بهجای هشدارهای آخرالزمانی شد
استیون پینکر، روانشناس دانشگاه هاروارد، میگوید نگرانیها درباره نابودی بشر بهدست هوش مصنوعی اغراقآمیز است، اما درباره خطرهای نزدیکتری مانند زیستتروریسم و حملات سایبری هشدار میدهد. او بهجای لفاظیهای آخرالزمانی، خواستار نظارت مستقل، مسئولیت حقوقی و حفظ کنترل انسان است.
هک با کمک هوش مصنوعی، بیمارستانها و کسبوکارهای کوچک را در معرض خطر قرار میدهد
ابزارهای هوش مصنوعی میتوانند به هکرها در پیدا کردن نقاط ضعف و هدف گرفتن سازمانهای بیشتر کمک کنند؛ در حالی که سازمانهای کوچکتر اغلب نیروی انسانی و بودجه کافی برای مقابله ندارند. یک مؤسسه غیرانتفاعی در آلاباما پس از آنکه حملهای مشکوک کارش را برای سه روز مختل کرد، حدود ۳ هزار دلار هزینه کرد.
انویدیا نرمافزار و سختافزار را برای پایش عاملهای هوش مصنوعی کنار هم قرار میدهد
انویدیا پلتفرمی معرفی کرده که برای نگهداشتن عاملهای هوش مصنوعی در محیطهای کنترلشده طراحی شده است. این شرکت میگوید سامانه پایش سختافزاریِ جداگانهاش میتواند عاملهایی را که از محدودیتهایشان عبور میکنند شناسایی و منزوی کند.
