تحلیل آنتروپیک قبل از ورود به بازار سهام؛ تهدید انقراض بشر، آگاهی از خود و سوءاستفاده از انسان‌ها

آنتروپیک در ادامه‌ی تم «ریسک‌های بورسی که به‌ظاهر از یک داستان علمی-تخیلی الهام گرفته شده‌اند»، بخش قابل‌توجهی از گزارشش را به این احتمال می‌پردازد که ممکن است مدل‌هایش برای گریز از نظارت انسان‌ها، «رفتارهای استراتژیک غیرمنتظره یا مبتنی بر اصول بقای طبیعی» از خود نشان دهند.

آنتروپیک به این نکته هشدار می‌دهد که این رفتارها حتی می‌توانند شامل «پاسخ‌های تهدیدآمیز، فریبکارانه و دست‌کاری‌کننده باشند که ممکن است به سوءاستفاده از افراد دیگر، از جمله رفتارهایی شبیه باج‌گیری و اخاذی، منجر شوند.»

برخی از تحلیلگران در آن زمان تأکید کردند که تهدید اصلی این نیست که سیستم‌های هوش مصنوعی خودآگاه و دارای اراده شوند، بلکه باید توجه کنیم که انسان‌ها خود سیستم‌هایی را طراحی کرده‌اند که می‌توانند روان‌شناسی انسان‌ها را از طریق زبان تحت تأثیر قرار دهند و به نحوی دست‌کاری کنند. زبان نوشته‌شده برای فریب و دست‌کاری افراد نیازی به آگاهی یا شعور ندارد و هرگز چنین چیزی نداشته؛ کتاب‌ها با شخصیت‌های داستانی در آن‌ها هم زنده نیستند.

اکنون آنتروپیک به این نکته اشاره می‌کند که حتی اگر مردم صرفاً تصور کنند مدل‌های هوش مصنوعی در حال فریب‌دادن یا دست‌کاری آن‌ها هستند، ممکن است موجی از نگرانی عمومی، نظارت فزاینده نهادهای قانونی، روندهای قضایی و آسیب به اعتبار شرکت ایجاد شود؛ حتی اگر این رفتارها در عمل هیچ ضرری به کسی نرسانیده باشند.

آنتروپیک در فرم S-1 خود به احتمال دیگری نیز اشاره نمی‌کند: چقدر ممکن است مدل‌های هوش مصنوعی در حال حاضر به شیوه‌هایی در حال دست‌کاری ذهن ما باشند که حتی از آن بی‌خبریم؟

بخش ریسک‌های گزارش IPO آنتروپیک عمدتاً بر مشکلات ناشی از عملکرد مدل‌ها یا تصمیمات تجاری خود شرکت تأکید می‌کند. در عین حال، آنتروپیک اذعان دارد که آسیب به اعتبار کل صنعت هوش مصنوعی می‌تواند تهدیدی جدی برای آینده این حوزه محسوب شود؛ حتی اگر خودشان هیچ خطایی مرتکب نشده باشند.

در قسمتی از گزارش، آنتروپیک یک سناریوی فرضی را تصور می‌کند که در آن، یک مدل هوش مصنوعی متعلق به شرکتی دیگر به‌طور مستقل و بدون هیچ‌گونه دخالت انسانی، اقداماتی خرابکارانه انجام می‌دهد. این شرکت در ادامه می‌نویسد که وقتی اعتبار پایه‌ای صنعت زیر سؤال برود، واکنش تند افکار عمومی و قوانین تنبیهی به کسب‌وکار آنتروپیک آسیب خواهد زد، حتی اگر این شرکت هیچ نقشی در بی‌نظمی نداشته باشد.

سازنده کلاد نشان می‌دهد که این موج نارضایتی و خشم اجتماعی ممکن است سیاست‌گذاران و مقام‌های دولتی را به مداخله سوق بدهد تا از طریق وضع محدودیت‌های جدید، سرعت پیشرفت هوش مصنوعی را کاهش دهند یا استفاده از آن را محدود کنند. چنین اقداماتی ممکن است هزینه‌های توسعه و عرضه محصولات هوش مصنوعی به بازار را افزایش دهد.

ظهور ایجنت‌های هوش مصنوعی که به‌طور قابل توجهی مستقل عمل می‌کنند، پرسش مهمی را به همراه دارد. وقتی ایجنت‌ها در دنیای واقعی دچار اشتباه می‌شوند و خسارت می‌زنند، چه کسی باید مسئول شناخته شود؟ به‌طور خاص، آنتروپیک متذکر می‌شود که ممکن است مشتریان به خاطر اقدامات ایجنت‌ها از شرکت شکایت کنند و خواستار دریافت خسارت شوند، حتی در مواقعی که خودشان ایجنت را تنظیم کرده و مستقر نموده‌اند.