محدودیت‌های تازه ChatGPT در راستای کاهش خشونت در بین نوجوانان
اوپن‌ای‌آی به تازگی اقدام به وضع محدودیت‌های جدیدی در زمینه ارائه اطلاعات مرتبط با سلاح به نوجوانان در ChatGPT کرده است تا از وقوع خشونت در جهان واقعی جلوگیری نماید. بر اساس این برنامه تازه، حتی در صورتی که پرسش کاربر کاملاً بی‌خطر به نظر برسد، ارائه این نوع اطلاعات به شدت محدود خواهد شد.
سازنده چت‌جی‌پی‌تی با هدف کاهش آسیب‌ها مرتبط با استفاده از چت‌بات‌ها در بین کاربران جوان و افزایش نظارت بر فعالیت‌های خشونت‌آمیز، به بهبود سیستم‌های هوشمند خود پرداخته است. در چارچوب این تصمیم جدید، اطلاعات کاربردی پیرامون تسلیحات و سیستم‌های امنیتی که امکان سوءاستفاده از آن‌ها وجود دارد، برای افراد زیر ۱۸ سال مسدود خواهد شد؛ حتی اگر در گفتگو هیچ نشانه‌ای از نیت خشونت‌آمیز مشاهده نگردد.
قابلیت پایان خودکار مکالمات برای تمامی کاربران به فعال خواهد بود تا در مواقعی که فردی بر موضوعات خشونت‌آمیز پافشاری کند، ارتباط او به‌سرعت قطع گردد. علاوه بر این، در صورت تکرار این گونه مکالمات، حساب‌های کاربری متخلف به طور موقت معلق خواهند شد. چت‌جی‌پی‌تی همچنین دسترسی به جزئیات حملات گروهی قبلی، از جمله نوع سلاح‌های به کار رفته و نحوه دسترسی به آن‌ها را برای همه افراد محدود می‌کند.
سازمان غیرانتفاعی کامن سنس مدیا اخیراً در گزارشی اعلام کرد که نسخه ویژه نوجوانان چت‌جی‌پی‌تی در موارد مربوط به خودکشی، آسیب به خود یا اختلالات غذایی، هشدارها را با تأخیر بسیار به والدین ارسال می‌کند یا در بعضی مواقع اصلاً ارسال نمی‌نماید.
در حال حاضر اوپن‌ای‌آی سیستم تخمین سن خود را تقویت کرده است تا به‌صورت خودکار افراد زیر ۱۸ سال به محیطی محافظت‌شده هدایت شوند و در صورتی که حساب نوجوان به دلایل مرتبط با رفتارهای خشونت‌آمیز معلق گردد، والدین از این موضوع مطلع خواهند شد. این تدابیر حفاظتی جدید طی هفته‌های آتی در دسترس عموم قرار خواهند گرفت.
