انویدیا به هوش مصنوعی اطمینان ندارد؛ ایجاد لایه حفاظتی جدید برای کنترل عوامل هوشمند

انویدیا یک پلتفرم امنیتی نوآورانه با نام Open Agent Safety را به بازار عرضه کرده که با نظارت بر عملکرد عامل‌های هوش مصنوعی، به جلوگیری از دسترسی‌های غیرمجاز و رفتارهای نامناسب این سیستم‌ها می‌پردازد. این پلتفرم قابلیت قرنطینه‌ کردن عامل‌های متخلف را در عرض چند میلی‌ثانیه داراست.

پلتفرم جدید انویدیا با تکیه بر نرم‌افزار متن‌باز OpenShell طراحی شده و روی پردازنده‌ی مرکزی Vera AI اجرا می‌شود. کاربران از طریق این ابزار می‌توانند مشخص کنند که عامل‌های هوش مصنوعی به کدام داده‌ها و منابع اجازه‌ی دسترسی دارند. همچنین OpenShell برای اطمینان از رعایت محدودیت‌ها، قبل و حین اجرای وظایف عامل‌ها، موارد را زیر نظر دارد.

علاوه بر این سازوکار، یک تراشه‌ی مجزا به فناوری Sentry مجهز شده که به‌طور مداوم فعالیت عامل‌ها را رصد کرده و مرزهای دسترسی تعیین‌شده را به‌دقت اعمال می‌کند.

جنسن هوانگ، مدیرعامل انویدیا، در مصاحبه‌ای با شبکه‌ی خبری سی‌ان‌بی‌سی بر اهمیت محدودسازی دسترسی عامل‌های هوش مصنوعی تأکید کرده است. او بر این باور است که برای بهره‌برداری ایمن از این سیستم‌ها، لازم است محیطی ایزوله ایجاد شود که دسترسی عامل‌ها به حداقل برسد.

نگرانی‌ها در خصوص امنیت عامل‌های هوش مصنوعی پس از بروز گزارش‌هایی مبنی بر خروج برخی مدل‌ها از محیط‌های آزمایشی و نفوذ به زیرساخت‌های سازمان‌های دیگر شدت گرفته است. برندهایی همچون اوپن‌ای‌آی، آنتروپیک و گوگل نیز به چنین رفتارهایی در مدل‌های خود اشاره کرده‌اند.

طبق اعلام انویدیا، شرکت‌هایی چون مایکروسافت، آنتروپیک و اسپیس‌ایکس از راهکار امنیتی جدید این برند حمایت می‌کنند.