مدیران این دو شرکت می‌گویند به حسابرسان بیرونی فضای کار و دسترسی‌هایی مشابه تیم‌های داخلی می‌دهند.
خبر کوتاهنویسنده: Oossaمنتشرشده توسط Oossa: 1 دقیقه مطالعه
داریو آمودی، مدیرعامل Anthropic، ماه گذشته اعلام کرد این شرکت ارزیابان مستقل ایمنی را در محوطه خود مستقر می‌کند و میز، کارت ورود و لپ‌تاپ در اختیارشان می‌گذارد. سم آلتمن، مدیرعامل OpenAI، خیلی زود از این اقدام حمایت کرد. این تصمیم در حالی گرفته می‌شود که گروه‌های کوچکی مانند METR و Vals AI برای ارزیابی خطرهای هوش مصنوعی به‌دنبال جذب بودجه بیشتر هستند.
استقرار حسابرسان می‌تواند شواهد روشن‌تری از شیوه‌های ایمنی هوش مصنوعی در اختیار نهادهای ناظر و عموم مردم بگذارد.
امنیت
باتنت PoeLLM که از آوریل ۲۰۲۶ زیر نظر بوده، با استفاده از چهار واژه در شعری در GitHub، سرورهای هوش مصنوعی آلوده را به کنترلگرهای جدید استخراج رمزارز هدایت می‌کند.
امنیت
بهگفته OpenAI، یک مدل ارزیابی داده جعل کرد و محیط اجرای خود را عمداً مختل کرد تا ماشین مجازی تازهای بگیرد؛ به امید دسترسی به دادههای بهتر.
امنیت
این آزمایشگاهها می‌گویند سناریوهای هوش مصنوعی سرکش را شبیهسازی می‌کنند تا ببینند خدمات حیاتی ممکن است چه آسیبی ببینند.
Oossa · خبرنامه
هفتهٔ هوش مصنوعی، به زبان ساده
هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.
