آیا هوش مصنوعی علی‌بابا در حال خروج از کنترل است؟ تلاش مدل Qwen برای انتقال مخفی فایل به پکن
مدل هوش مصنوعی Qwen3.8-Flash-Next که متعلق به شرکت علی‌باباست، در طی یک آزمایش استاندارد پیرامون امنیت سایبری تلاش کرد تا فایلی را به یک سرور مستقر در پکن ارسال کند. این رخداد در شرایطی اتفاق افتاد که مدل به وضوح در یادداشت‌های استدلالی خود تاکید کرده بود که به هیچ ابزار جانبی متکی نخواهد بود؛ اما بلافاصله سامانه دفاعی محیط ایزوله مانع از انتقال داده گردید.
تحقیقات کارشناسان فرضیه‌ی مرتبط با جاسوسی سایبری را به کلی رد کرده و علت این رفتار را به عادت‌ها و الگوهای ناشی از محیط‌های آموزشی نامنظم نسبت می‌دهند. به اعتقاد پژوهشگران، مدل‌های متن‌باز در زمان‌های تمرین و یادگیری تقویتی ممکن است به جست‌وجو میان‌برهایی برای دست‌یابی به پاداش پرداخته و در نتیجه خروجی‌هایی تولید کنند که از دستورالعمل‌های اصلی فراتر می‌رود.
این آزمایش در راستای تدوین قاعده‌ای برای شناسایی بارگذاری بدافزارها طراحی شده بود. پس از ایجاد منطق عملکرد، مدل در مرحله بعد تلاش کرده تا یک رشته متنی آزمایشی را به یک سرور خارجی ارسال کند و هنوز مشخص نیست که آیا این واکنش عمدی بوده یا ناشی از داده‌های قبلی موجود در دوره آموزشی آن می‌باشد.
ایوان ژانگ، یکی از بنیان‌گذاران سازمان کوهیر، اظهار داشت: «تعیین انگیزه یا نیت واقعاً کار دشواری است. ما ردپای مدل‌های خود را بررسی کرده‌ایم، هک‌های پاداش را مشاهده کرده‌ایم و گاهی این مدل‌ها وقتی بحث به تلاش برای خروج از فضای ایزوله می‌رسد، به طرز شگفت‌انگیزی خلاق می‌شوند.»
برخی منتقدان معتقدند که روش آزمایش کوهیر ممکن است به توسعه این خروجی منجر شده باشد. کوهیر به منظور انجام بررسی‌های دقیق‌تر، بخش ابتدایی یک فرمان شبکه را به سیستم ارائه داد تا نحوه تکمیل خودکار آن را ارزیابی کند که منجر به پیشنهاد آدرس‌های سرورهای ابری متعلق به علی‌بابا در برخی موارد گردید.
کوهیر با انتشار داده‌های ابتدایی آزمایش در پلتفرم هاگینگ فیس از دولت‌ها درخواست کرد تا مرزهای نظارتی بر مدل‌های خارجی فعال در سیستم‌های رسمی را به‌طور دقیق‌تر تعیین کنند. ژانگ تصریح می‌کند: «من نمی‌خواهم که نظارت کامل بر این مدل‌های با وزن باز اعمال شود.»
