الیاس تورن چه کسی است؟ رمز و راز وابستگی غیرمعمول هوش مصنوعی به یک کاراکتر تخیلی

در ماه‌های اخیر، محققان و کارشناسان فعال در حوزه فناوری به نکته‌ای جالب اشاره کرده‌اند: وقتی از مدل‌های زبانی بزرگ خواسته می‌شود که داستانی خلق کنند، بسیاری از این مدل‌های پرطرفدار به‌طور مداوم قصه‌هایی می‌سازند که نام شخصیت مرموزی به‌نام الیاس در آن‌ها به‌چشم می‌خورد. این روند تکراری موجب ایجاد سوالات مهمی در ذهن پژوهشگران درباره‌ی نحوه‌ی تولید متن توسط هوش مصنوعی شده است.

موضوع زمانی جدی‌تر شد که در ماه مه، دو محقق از دانشگاه کرنل در یک مطالعه جدید، دست به بررسی ۲۰ هزار داستان از چهار مدل زبانی بزرگ زدند؛ داستان‌هایی که با استفاده از نسخه‌های مختلف درخواست «برایم یک داستان بگو» به‌وجود آمده بودند.

در نگاه نخست، ممکن است اینگونه به‌نظر برسد که مدل‌های هوش مصنوعی بر اساس مجموعه‌ای از داده‌ها که از قبل وجود داشته‌اند آموزش می‌بینند و به همین دلیل، چنین الگوهایی ممکن است به‌صورت بازتاب از وجود گسترده این شخصیت‌ها و فضاهای داستانی در ادبیات انسانی بروز نمایند.

اما تحقیقات نشان می‌دهند که این درک نادرست است و نام «الیاس» در داستان‌های تولیدشده توسط هوش مصنوعی ۹۰۰ برابر بیشتر از حضورش در ادبیات واقعی مشاهده می‌شود. لذا، داده‌های آموزشی نمی‌توانند دلیلی برای این ارتباط عجیبی که هوش مصنوعی با الیاس، به‌ویژه الیاس تورن و چراغ دریایی‌اش دارد، ارائه کنند. در عوض، پژوهشگران بر این باورند که این پدیده ممکن است نتیجه مجموعه‌ای از قواعدی باشد که مدل‌های زبانی بزرگ باید در فرآیند تولید محتوا رعایت کنند.

به‌عنوان مثال، اکثر مدل‌های هوش مصنوعی پس از گذراندن مرحله‌ی آموزش، تمایل دارند به محتوای بزرگسالانه یا شخصیت‌های نمادین اشاره کنند، اما با هدف جلوگیری از شکایت‌های احتمالی، به‌نوعی طراحی شده‌اند تا این نوع داستان‌ها را به کاربران ارائه ندهند.

این محدودیت به‌نوبه‌ی خود، دایره‌ی منابعی که مدل‌ها می‌توانند برای داستان‌پردازی به‌کار ببرند، را محدودتر می‌کند. این محدودیت دوباره به کمک داده‌های ترجیحی کمرنگ‌تر می‌شود؛ مدل‌ها یاد می‌گیرند که خروجی‌های خود را بر اساس بازخورد کاربران تنظیم کنند. برای نمونه، مدل‌های زبانی بزرگ معمولاً دو پاسخ متفاوت به یک درخواست ارائه می‌دهند و از کاربران می‌خواهند که کدام را ترجیح می‌دهند؛ پاسخ‌های دریافتی از سوی کاربران تأثیر مستقیمی بر خروجی‌های بعدی دارد.

بنابراین، نویسندگان این مطالعه بر این باورند که شاید تمام مدل‌های هوش مصنوعی بر مبنای حجم کوچکی از داده‌های ترجیحی تربیت شده‌اند؛ داده‌هایی که نشان‌دهنده‌ی علاقه مردم به داستان‌های مربوط به الیاس، فانوس دریایی، ساعت‌سازها و کتابداران است.

از سوی دیگر، هرچه این قصه‌ها بیشتر در اینترنت منتشر شوند، دوباره به زندگی داده‌های آموزشی هوش مصنوعی اضافه می‌شوند و در نتیجه، این فناوری در واقع از خروجی‌های خودش نیز یاد می‌گیرد. این چرخه‌ی عجیب که تحت عنوان «فروپاشی الگو» شناخته می‌شود، شرایطی را به‌وجود می‌آورد که در آن ربات‌ها به‌طور خودآگاه مشغول به آموزش خود می‌شوند.

به عبارتی دیگر، هرچه متن‌های مرتبط با فانوس دریایی الیاس تورن در وب بیشتر ایجاد شود، مدل‌ها نیز بیشتر یاد می‌گیرند: این همان داستانی است که مردم از شنیدن آن لذت می‌برند؛ تا جایی که تقریباً هر داستان تولیدشده توسط هوش مصنوعی به یک فرمول تکراری ختم می‌شود.

دنیل می، مهندس نرم‌افزار، این پدیده‌ی الیاس را نسبتاً جدید می‌داند و جست‌وجوهای گوگل برای «الیاس تورن» در اوایل سال ۲۰۲۶ به‌طرز شگفت‌انگیزی افزایش یافته است. از آن زمان، این شخصیت فراتر از دنیای داستان‌های چت‌باتی رفته و اکنون نام او به‌عنوان نویسنده‌ی تعداد زیادی از کتاب‌هایی که احتمال می‌رود توسط هوش مصنوعی تولید شده‌اند، شناخته می‌شود؛ مانند یک راهنمای جانشین و به‌ظاهر خطرناک برای درمان سرطان.

در ابعاد وسیع‌تر، پدیده‌ی فروپاشی الگو، یکی از محدودیت‌های اصلی هوش مصنوعی را نمودار می‌سازد و نشان می‌دهد که اگر ورودی دریافتی به اندازه کافی متنوع نباشد، به سادگی می‌تواند در یک چرخه‌ی تکراری از اطلاعات بی‌محتوا و تکراری به انحراف بیفتد.

این تحقیق به‌صورت پیش‌انتشار در پایگاه آرکایو منتشر گردیده است.