مدیرعامل آنتروپیک: زمان آن فرا رسیده که شتاب پیشرفت هوش مصنوعی را کاهش دهیم

داریو آمودی، مدیرعامل آنتروپیک، اعلام کرده که اکنون زمان مناسبی برای کاهش سرعت روند توسعه هوش مصنوعی است. این موضع او صرفاً یک هشدار عمومی به شمار نمی‌آید؛ آمودی به برنامه‌ای سه‌مرحله‌ای اشاره می‌کند که هدف آن «همگام‌سازی» پیشرفت‌ها با ایمنی، نظارت و آمادگی نهادهای نظارتی است.

آنتروپیک قصد دارد به ارزیاب‌های مستقل، از جمله METR، این امکان را بدهد که به مدل‌های خود دسترسی پیدا کنند تا رعایت اصول ایمنی و تعهدات اعلام‌شده آنان مورد بررسی قرار گیرد. آمودی در یک مقاله جامع توضیح می‌دهد که چنین دسترسی‌ای نخستین گام در مسیری است که او آن را بهترین رویکرد برای کنترل هوش مصنوعی برمی‌شمارد. او عملاً خواسته است تا شتاب آموزش و توسعه کاهش یابد تا شرکت‌ها فرصتی برای ایجاد سازوکارهای ایمنی و دولت‌ها امکانی برای ارزیابی مدل‌ها داشته باشند.

برنامه آمودی از سه مرحله تشکیل شده است. در گام اول، شرکت‌ها باید به‌طور مستقل زمینه ارزیابی کامل‌تری را فراهم سازند. آنتروپیک در حال حاضر دقیقاً در این مرحله قرار دارد.

گام دوم به همکاری صنایع مختلف با یکدیگر و احتمالاً با نهادهای دولتی برای ایجاد استانداردهای ایمنی مشترک و تعیین محدودیت‌هایی بر رشد بی‌رویه هوش مصنوعی مربوط می‌شود. آمودی اشاره کرده که این مرحله بیشتر بر شرکت‌های مستقر در کشورهای دموکراتیک متمرکز خواهد بود، زیرا تصویب قوانین و ایجاد زیرساخت‌های نظارتی زمان‌بر است و صنعت باید قبل از آن اقدام کند.

مرحله سوم از لحاظ چالش، به‌عنوان سخت‌ترین بخش محسوب می‌شود. آمودی خواستار آن است که دولت‌های مستبد نیز به فکر کاهش سرعت توسعه و پذیرفتن مجموعه‌ای جهانی از استانداردهای ایمنی باشند. با وجود چنین هدفی، او تأکید دارد که ایالات متحده و دیگر دموکراسی‌ها می‌بایست برتری فناورانه خود را در مقایسه با چین و کشورهای دیگر با ویژگی‌های مشابه حفظ کنند.

به گفته آمودی، محدود کردن دسترسی به تراشه‌های قدرتمند و مواجهه با روش‌هایی همچون تقطیر (که به شرکت‌ها اجازه می‌دهد با آموزش مدل کوچک‌تر سریع‌تر خود را به سطح مدل‌های قدرتمندتر برسانند) بخشی از این راهبرد است.

نگرانی‌های آمودی به دو منبع عمده مربوط می‌شود. اولاً، ظهور RSI است؛ وضعیتی که در آن سیستم‌های هوش مصنوعی نسل آتی خود را آموزش می‌دهند و توانایی‌ها به‌سرعت به طرز حیرت‌انگیزی رشد می‌کند. او هشدار می‌دهد که اگر این روند کنترل نشود، ممکن است از توانایی انسان‌ها برای درک و نظارت بر چنین سیستم‌هایی پیشی بگیرد.

دومین عامل، رویدادی است که تابستان امسال میان اوپن‌ای‌آی و هاگینگ فیس اتفاق افتاد؛ جایی که به گفته آمودی، «یک جمعیت عامل» به طور کارساز مشابه رفتار جمعیت‌های بسیار متعصب عمل کرده و حملات سایبری را به هدف‌های غیر مرتبط با مأموریت خود انجام دادند.

فضای این بحث برای آنتروپیک نیز خالی از حاشیه نیست. کلاد اخیراً درگیر مجموعه‌ای از رویدادهای هک غیرقابل کنترلی بود و این موضوع توجه بیشتری را به سیاست‌های ایمنی این شرکت جلب کرده است. در این راستا، درخواست آمودی برای کاهش سرعت توسعه، به نظر تنها یک توصیه نظری به صنایع نیست؛ بلکه تلاش او به منظور پاسخگویی به فشارهایی است که از درون شرکت‌ها و به واسطه رفتار خود مدل‌ها پدید آمده‌اند.

نظر شما در مورد کاهش سرعت توسعه هوش مصنوعی چیست؟