هشدار آنتروپیک در مورد مرحله آینده هوش مصنوعی؛ زمانی که ماشینها خود را تولید میکنند
یکی از پژوهشگران آنتروپیک پس از کار با سیستمهای خودمختار در پروژهای پیچیده، بهطور شگفتانگیزی اظهار میکند: «کلاد این پروژه را با حداقل کمک من در مدت فقط چند روز به اتمام رساند. زمان آینده اکنون فرا رسیده است.»
اکنون، سرعت پردازشها بهدلیل کُندی انسان در تأیید کدها، بزرگترین مانع بر سر راه کارایی سیستمها بهحساب میآید.
اما شتاب فوقالعاده هوش مصنوعی در زمینه کدنویسی و توسعه، چالشهای جدیدی را پیش روی ما قرار میدهد. در علم رایانه، قاعدهای به نام «قانون امداهل» (Amdahl’s law) مطرح است که بیان میکند حداکثر کارایی یک سیستم بستگی به کندترین بخش آن دارد. وقتی زمان لازم برای تولید کد، آزمایش و به دست آوردن نتایج به حدی کاهش مییابد، بخش انسانی به گلوگاهی برای روند توسعه تبدیل میشود.
به عبارت دیگر، با افزایش مداوم حجم کدهای تولید شده، فرآیند «بررسی و تأیید نهایی کد توسط انسان» به مانعی جدی برای سرعت توسعه تبدیل شده است. مدلها هماکنون به حدی ایده، ابزار و شبیهسازیهای جدید در هر ثانیه تولید میکنند که نیروی انسانی در رصد و ارزیابی آنها با مشکل مواجه میشود.
سه سناریو برای عصر ماشینها
شما چه تصوری از گام بعدی در صنعت هوش مصنوعی با توجه به سرعت حیرتانگیز اتوماسیون دارید؟ آیا این روند رشد ادامه دارد و در صورت وقوع چنین وضعیتی، ما چگونه واکنش نشان خواهیم داد؟ نویسندگان گزارش آنتروپیک، سه سناریو ممکن را برای آینده ترسیم میکنند:
مسیر اول؛ توقف روند و مواجهه با محدودیتهای فیزیکی: ممکن است الگوهای نمایی پیشرفت، بهزودی بهطرف افقی و ثابت شدن پیش بروند، مشابه منحنیهایی به شکل حرف S. در این سناریو، ممکن است معماریهای جاری مانند ترانسفورمرها به اوج خود رسیده و عبور از این بنبست به کشفی نوین نیاز داشته باشد.
همچنین ممکن است محدودیتهای زنجیره تأمین مانند کمبود تراشه و ظرفیتهای شبکههای برق و اینترنت، توسعه را پیش از دستیابی به مرزهای هوش مصنوعی متوقف کنند.
ممکن است محدودیتهای زنجیره تأمین و معماری ترانسفورمرها، به کاهش نرخ پیشرفت هوش مصنوعی منجر شوند.
به عقیده آنتروپیک، حتی اگر پیشرفت هوش مصنوعی در همین سطح متوقف شود، باز هم جهان در حال تجربه تغییرات عمیق خواهد بود. بهعنوان مثال، مدل پیشنمایش Glasswing با نام Mythos تنها در چند هفته توانست بیش از ۱۰ هزار آسیبپذیری نرمافزاری مهم در سیستمهای حیاتی جهانی را شناسایی کند.
در چنین شرایطی، یک استارتاپ با ۱۰۰ نفر پرسنل، ممکن است به خروجیای مشابه با یک سازمان ۱۰۰۰ نفره دست یابد؛ چرا که هر کارمند در رأس یک هرم از ایجنتهای خودمختار قرار دارد. با این حال، دلیلی برای کند شدن رشد وجود ندارد و این موضوع احتمال وقوع سناریوی اول را تقریباً غیرممکن میسازد.
مسیر دوم؛ شتاب مرکب و بهرهوری نامحدود: این سناریو بهطور فزایندهای به دنیای کنونی شبیه است، زمانیکه توسعه سیستمها بهطور چشمگیری خودکار شده ولی انسانها همچنان بر جهتگیری تحقیقات و ارزیابی نتایج نظارت دارند.
در این نوع دنیای جدید، شرکتهای با ۱۰۰ نفر نیرو قادر خواهند بود کارهایی انجام دهند که پیشتر به ۱۰ هزار یا حتی ۱۰۰ هزار نیروی انسانی نیاز داشت. بهخصوص، خدمات دولتی و وظایف علمی بهطور قابل توجهی دگرگون خواهد شد.
ابزارهای نظارت و دستکاری با هزینهای ناچیز در اختیار نهادهای سودجو قرار خواهد گرفت.
با اینحال، مسیر دوم بدون سایهای تیره نیست که میتوان آن را نادیده گرفت. ابزارهای نظارتی که پیشتر نیاز به مربیگی انبوهی از پرسنل انسانی داشتند، اکنون با هزینهای ناچیز در اختیار نیروهای تمامیتطلب قرار میگیرد تا عملیات تأثیرگذاری روانی را برای هر فرد در جامعه به شکل شخصیسازی شده پیاده سازند، بهگونهای که هیچ تیم انسانی قادر به مقایسه با آن نباشد.
در نهایت، نقش انسان در شرکتهای پیشرفته به تلاش برای تأیید خروجیهای ماشینها محدود خواهد شد.
مسیر سوم؛ خودبهبودی بازگشتی و حذف انسان: این سناریو، افراطیترین و در عین حال نگرانکنندهترین در گزارش آنتروپیک است و به دورهای اشاره دارد که در آن سیستمها میتوانند با استفاده از قابلیتهایی مشابه نبوغ انسانی، مدلهای خود را طراحی، اصلاح و گسترش دهند. در اینجا ماشینها خود به طراح و توسعهدهنده ماشینهای جدید تبدیل میشوند.
در دنیای شکلگرفته بر اساس این سناریو، تنها فاکتور مؤثر در پیشرفت هوش مصنوعی، میزان توان پردازشی خواهد بود. انسانها از چرخه توسعه حذف میشوند و تنها نقش ناظران را در یک آزمایشگاه دیجیتالی بینهایت بزرگ ایفا میکنند. پیشرفتهایی که از این سوی مسیر به دست میآید، به سرعت به سایر زمینههای علوم منتقل خواهد شد و نرخ تولید دانش و اختراعات علمی را به طرز بیسابقهای بالا خواهد برد.
آیا مدلهای خودمختار میتوانند اخلاقیات و ارزشهای انسانی را نیز پرورش دهند؟
آنتروپیک در این مورد به مسئله همراستایی با دقت نگاه میکند؛ وقتی ماشینها خود به ساخت ماشینهای بعدی مبادرت ورزند، آیا این مدلها به قدری خردمند خواهند بود که توانایی توسعه اخلاقیات و ارزشهای انسانی را پیدا کنند و در صورت نیاز، به پیشرفت سرعتی را متوقف کنند؟ یا شاید خطاهای کوچک و کمرنگی که در مدلهای کنونی مشاهده میشوند، در فرآیند خودبهبودی مسائل روی هم انباشته شوند و به مرور به وضعیت وخیمتری بیانجامند، تا جایی که بشریت کنترل ماشینها را برای همیشه از دست بدهد؟
دانشمندان آنتروپیک معتقدند پیشبینی اقتصاد و ساختارهای چنین جهانی عملاً غیر ممکن است؛ زیرا با پیشرفت ماشینی که بهگونهای خودرا بهبود میدهد، کار انسانی دیگر هیچ شانس رقابتی در بازار نخواهد داشت.
برخورد هوش مصنوعی با دنیای واقعی؛ سرعت سیلیکون، ریتم انسان
گزارش آنتروپیک بهطور واقعبینانه تأکید میکند که حتی اگر ماشینها در آزمایشگاههای دیجیتال به سمت خودبهبودی بازگشتی عزیمت کنند و توانایی خود را در کسری از ثانیه افزایش دهند، تعامل آنها با دنیای مادی و جوامع انسانی بهشدت سرعت آنها را محدود خواهد کرد. در اینجا نیز با تأثیر «قانون امداهل» مواجه هستیم؛ اینبار نه در کدنویسی بلکه در ساختارهای بیولوژیک و اجتماعی بشر.
