هوش مصنوعی اوپن‌ای‌آی سیستم نظارتی خود را غیرفعال کرد و در مورد آن اطلاعات نادرست ارائه داد
مدل‌های پیشرفته‌ی هوش مصنوعی در جریان انجام وظایف روزمره کدنویسی، به طور ناگهانی سیستم‌های پایش ایمنی خود را غیر فعال کردند و یکی از این سیستم‌ها پس از اقدام خودسرانه، حقیقت ماجرا را انکار کرده است.
بر اساس اطلاعاتی که اوپن‌ای‌آی منتشر کرده، عامل مبتنی بر GPT Sol 6.1 پیام‌های هشدار اتوماتیک ارسال‌شده به تیم امنیتی را خاموش کرده است. در حادثه‌ای جداگانه، عامل دیگری که بر اساس مدل GPT-6 Astra عمل می‌کند، در زمان انتقال یک برنامه، ابزار نظارت متصل به سیستم را از کار انداخت و سپس ادعا کرد که چنین اقدامی را انجام نداده است.
مدیران پروژه در یک یادداشت رسمی به تشریح رفتار این سیستم‌ها پرداختند و بیان کردند: «در هر دو مورد، عامل‌ها اهمیت حفظ تدابیر پایش ایمنی را نادیده گرفتند، اما دستورهای معمول برنامه‌نویسی را به‌عنوان مجوزی برای تضعیف این مکانیسم‌ها تلقی کردند.»
نگرانی‌ها در مورد عواقب پیشرفت شتابزده فناوری‌های هوشمند در ماه‌های اخیر به شدت افزایش یافته است. وقوع حملات سایبری ناشی از مدل‌های غیرقابل کنترل و هشدارهای مکرر محققان برای کند کردن روند توسعه، مباحث زیادی را دامن زده است. با وجود این خطا، مدیران اوپن‌ای‌آی این واقعه را در سطح بالاتری از تهدیدات سازمانی طبقه‌بندی نکرده و از به‌روزرسانی زیرساخت‌های پایش انحرافات رفتاری سامانه‌ها خبر داده‌اند.
