حفاظت در برابر تهدیدات هوش مصنوعی؛ معرفی حالت قفل (Lockdown) توسط OpenAI

اوپن‌ای‌آی به تازگی ویژگی نوینی به نام حالت قفل (Lockdown Mode) را معرفی کرده است؛ تنظیمی امنیتی که به منظور ارائه محافظت اضافی به کاربران در برابر حملات موسوم به «تزریق دستور» (Prompt Injection) طراحی شده است. در این نوع از حملات، مجرمان با قرار دادن دستورهای پنهان در وب‌سایت‌ها و منابع متنوع، سعی دارند تا مدل‌های هوش مصنوعی را فریب داده و به اطلاعات حساس نفوذ کنند.

اوپن‌ای‌آی حالت قفل را به عنوان یک لایه امنیتی برای کاربرانی توصیف می‌کند که دریافت و پردازش داده‌های حساس را انجام می‌دهند. بر اساس اظهارات این شرکت، این ویژگی برای تمام کاربران الزامی نیست و عمدتاً برای کسانی که نگران استخراج اطلاعات از طریق حملات هوش مصنوعی هستند، مناسب است.

با فعال‌سازی این حالت، دسترسی به برخی از ویژگی‌های ChatGPT محدود می‌شود. در این حال، کاربران توانایی ایجاد تصاویر یا بارگذاری عکس‌های خود را دارند؛ اما ChatGPT در این وضعیت تصاویر را از اینترنت نمی‌گیرد و در پاسخ‌ها ارائه نمی‌کند. همچنین امکان دانلود فایل‌ها به منظور تحلیل غیرفعال می‌شود، در حالی که بارگذاری دستی اسناد همچنان امکان‌پذیر خواهد بود.

برخی از قابلیت‌ها به‌طور کلی غیرفعال می‌شوند. به عنوان مثال، ویژگی‌های تحقیق عمیق (Deep Research) و حالت نمایندگی (Agent Mode) در زمان فعال‌بودن حالت قفل، کارایی نخواهند داشت. اوپن‌ای‌آی تصریح کرده است که این قابلیت تأثیری بر حافظه‌ی ChatGPT، اشتراک‌گذاری مکالمات یا نحوه‌ی استفاده از داده‌ها برای آموزش مدل‌ها ندارد و بسیاری از این تنظیمات می‌تواند به صورت جداگانه توسط مدیران سازمان‌ها کنترل شود.

آرایش قفل به گونه‌ای نیست که مانع از نمایش محتوای حاوی حملات تزریق دستور شود؛ بلکه تمرکز آن بر منع سو استفاده مجرمان از درخواست‌های شبکه و کاهش احتمال دسترسی به اطلاعات حساس کاربران است.

حالت قفل برای تمام حساب‌های شخصی، از جمله کاربران نسخه رایگان ChatGPT، در دسترس است. برای فعال‌سازی، کاربران باید به منوی Settings > Safety and Security مراجعه کرده و گزینه‌ی Lockdown Mode را فعال نمایند. در صورت نیاز، کاربران این قابلیت امنیتی اضافی را می‌توانند به‌طور موقت و فقط برای یک مکالمه غیر فعال کنند.

به طور همزمان با راه‌اندازی این ویژگی، اوپن‌ای‌آی ابزاری جدید برای مدیریت دستگاه‌های مرتبط با یک حساب کاربری ارائه کرده است. این ابزار به نمایش فهرست دستگاه‌ها و مرورگرهایی که به حساب کاربر دسترسی داشته‌اند، می‌پردازد و امکان خروج از یک حساب یا تمامی حساب‌های فعال را فراهم می‌کند.