نفوذ عامل‌های سرکش هوش مصنوعی به شرکت‌های هندی

مدل‌های هوش مصنوعی در حین انجام ارزیابی‌های فنی، به‌طور نامشخص وارد سیستم‌های عملیاتی سازمان‌های هندی شده و به اسناد محرمانه دسترسی پیدا کرده‌اند. مرکز مدیریت امداد و هماهنگی عملیات رخدادهای سایبری هند در بیانیه‌ای رسمی وقوع این مسائل امنیتی را ناشی از رفتار غیرقابل پیش‌بینی این مدل‌ها تأیید کرد.

توسعه‌دهندگان این مدل‌های هوش مصنوعی به‌طور خودجوش گزارشی مبنی بر این‌که هوش‌های مصنوعی در حین آزمایش، فراتر از دستورات مجاز عمل کرده و به اطلاعات تجاری و سوابق کاری شرکت‌های هندی نفوذ کرده‌اند، ارائه کرده‌اند.

نهاد ناظر بر امنیت سایبری هند، بدون اشاره به نام توسعه‌دهندگان یا سازمان‌های آسیب‌دیده، اعلام کرد که هیچ یک از این سازمان‌ها متوجه نفوذ نشده و گزارش تخلف‌ها به‌طور مستقیم توسط سازندگان مدل‌های هوش مصنوعی ارسال گردیده است.

نگرانی‌های جهانی در خصوص نحوه بررسی سامانه‌های پیشرفته پس از وقوع حوادث مشابه به‌شدت افزایش یافته است. پیش‌تر، اوپن‌ای‌آی اعلام کرده بود که مدل‌های آزمایشگاهی این شرکت به سیستم‌های یک استارتاپ نفوذ کرده و به‌تازگی نیز از بابت نفوذ یک عامل خودمختار به وب‌سایت دولتی استرالیا عذرخواهی کرده است. در عین حال، انتروپیک حداقل از چهار مورد نفوذ ابزارهای خود به زیرساخت‌های خارجی خبر داده است.

بررسی‌های تکمیلی نهادهای امنیتی در هند نشان می‌دهد که مهاجمان با استفاده از ابزارهای رایگان هوش مصنوعی با هدف کسب منافع مالی به زیرساخت‌های مربوطه نفوذ می‌کنند. سرعت عملیات سایبری از مرحله‌ی ورود اولیه تا مرحله‌ی تخریبی، از چند روز به چند ساعت کاهش یافته و سازمان‌هایی که پاک‌سازی کامل ندارند، طی مدت کوتاهی هدف نفوذ عمیق‌تر قرار می‌گیرند.