فاجعه OpenAI؛ چتجیپیتی دستورالعملهای کشتار را به مهاجم ارائه داد
حادثه تامبلر ریج، نخستین مورد تیراندازی فاجعهباری نیست که موجب جلب توجه به چتجیپیتی شده است. فینیکس ایکنر، مظنون در حملهای که در آوریل ۲۰۲۵ به دانشگاه ایالتی فلوریدا انجام شد، پیش از وقوع حادثه در شب قبل، با چتبات درباره احساسات افسردگی و تمایلات خودکشی گفتگو کرد.
بر اساس سوابق مکالماتی که توسط والاستریت ژورنال تجزیه و تحلیل شده، وی پرسشهایی در مورد مشهور شدن پس از وقوع کشتار، نحوه عملکرد سلاح و زمانهای شلوغ بودن محوطه دانشگاه از چتجیپیتی مطرح کرده بود. آخرین مکالمهی ایکنر با چتجیپیتی تنها چهار دقیقه قبل از حمله به پایان رسید. این دو نفر جان خود را از دست دادند و شش نفر دیگر نیز زخمی شدند؛ اما ایکنر ضمن رد اتهامهای قتل و تلاش برای قتل، خود را بیگناه میداند.
متهم تیراندازی در دانشگاه فلوریدا نیز در مورد مشهور شدن پس از کشتار و عملکرد سلاح با ChatGPT صحبت کرده بود
شرکت اوپنایآی پس از اینکه از حمله در اواخر آوریل مطلع شد، به جستجوی حساب کاربری ایکنر پرداخت و اطلاعات را در اختیار مقامات پلیس قرار داد. در زمان گفتوگوها، شرکت قادر به شناسایی خطر نبود و تنها پس از وقوع تیراندازی بود که توجه به حساب وی جلب شد.
دو ماه پس از آن، سیستم نظارتی همین شرکت حساب ون روتسلار را به دلیل گفتگوهای حاوی خشونت برای بررسی انسانی ارسال کرد؛ اما اوپنایآی پرونده را به نیروی انتظامی ارجاع نداد.
قبل از وقوع حمله، ایکنر درباره زمانهای شلوغی دانشگاه سؤال کرده بود و ون روتسلار در آخرین روز به سراغ زمان وقوع تیراندازیهای مدرسه برگشته بود. مهاجم تامبلر ریج از رابطه چتجیپیتی با حمله فلوریدا بیخبر بود، زیرا این موضوع چند ماه پس از حادثه بهطور عمومی مطرح شد؛ در حالی که اوپنایآی از آوریل ۲۰۲۵ از وقوع تیراندازی نخست آگاه بود.
افزایش تدریجی سیستمهای حفاظتی؛ تفاوتهای چتبات و موتور جستوجو
رفتار حساب جسی ون روتسلار یادآور یک نگرانی بود که شرکت اوپنایآی چند ماه پیش به آن اذعان کرده بود. در مطلبی که این شرکت در ماه آگوست تحت عنوان Helping people when they need it most منتشر کرد، بیان شد که حفاظها در ارتباطات کوتاه کارآیی بهتری دارند و در عوض، با افزایش طول مکالمات، بخشهایی از آموزش ایمنی ممکن است دچار تحلیل و ضعف شود. بهعلاوه، دستهبندیهای خودکار نیز ممکن است شدت محتوای خطرناک را کمتر از آنچه که هست، ارزیابی کنند.
طولانی شدن مکالمات، میتواند حفاظهای امنیتی مدلهای زبانی را به تدریج ضعیف و آسیبپذیر کند
حفاظ ایمنی یک چتبات نباید تنها در پاسخ دادن به «بله» یا «خیر» محدود شود. به اعتقاد منتقدان و شکایتکنندگان، این سیستم باید چندین لایه حفاظتی را به شکل پیوسته اجرا کند.
ابتدا باید مدل تهدیدات خطرناک را شناسایی کند، سپس یک پاسخ ایمن ارائه دهد، بعد از آن سیستم نظارتی الگوهای تکراری را شناسایی کند، بازبین انسانی باید خطر را به درستی ارزیابی کند و در نهایت، شرکت در صورت نیاز باید حسابهای مرتبط را پیدا کند یا به نهاد مسئول اطلاع دهد.
پرونده تامبلر ریج نمایانگر احتمال وقوع نقص در چند لایه حفاظتی است. چتبات در برخی موارد از پاسخ دادن اجتناب کرد و در نهایت تسلیم شد؛ حساب اول مسدود شد و کاربر با حساب دوم بازگشت؛ شرکت خطر را شناسایی کرد، اما آن را برای گزارشدهی کافی ارزیابی نکرد.
تفاوت بین چتبات و موتور جستوجو، در همین تداوم مکالمهها است. موتور جستوجو به کاربر لینکهایی از صفحات مختلف ارائه میدهد، در حالی که چتبات اطلاعات را به یاد میآورد، در بازنویسی آن کمک میکند و به گفتگو ادامه میدهد.
این نوع تعامل ممکن است ارزش زیادی برای آموزش یا حمایت روانی داشته باشد؛ اما در گفتوگوی افراد مبتلا به وسواس یا تعرض، نقش دیگری به خود میگیرد. چتباتها تنها اطلاعات پراکندهای را روی صفحه نمایش نمیدهند و با کاربر در شکلگیری یک خط فکری همکاری میکنند.
چتباتها نسبت به موتورهای جستوجو تعامل بیشتری با کاربران برقرار میکنند
با این حال، همچنان بحثهای زیادی پیرامون رابطهی علت و معلولی این خشونت وجود دارد؛ بهخصوص با توجه به سوابق نگرانکننده وب روتسلار شامل افکار خودکشی، بستری اجباری و مصرف مواد؛ انتشار محتواهای افراطی و تماسهای قبلی با پلیس.
اوپنایآی در پروندهای که برای توقف شکایت ارائه میدهد، بر ناکامی نهادهای محلی در حوزههای سلامت روان، سیستم آموزشی و قانونگذاری تأکید میکند و مسئولیت مستقیم چتجیپیتی را در این حادثه رد میکند. اما تمامی سوابق پیشین ون روتسلار نمیتوانند به طور قطعی نقش چتبات را ثابت یا نفی کنند.
محاکمه باید تشخیص دهد که آیا پاسخهای چتبات تنها یکی از اجزای سابقهی اقدامی مهاجم بودند یا اینکه به طور قابلپیشبینی خطری را تشدید کردهاند.
