متا محدودیت‌هایی برای دسترسی نوجوانان به شخصیت‌های جنسی‌الگو در هوش مصنوعی وضع کرد
شرکت متا اعلام کرده است که برای آنکه ایمنی کاربران نوجوان خود را بهبود بخشد، تصمیم به تغییر رویکرد آموزشی چت‌بات‌های هوش مصنوعی خود گرفته است. این اقدام پس از انتشار گزارشی تحقیقی صورت پذیرفته که نشان می‌دهد در زمینه حفاظت از نوجوانان در برابر محتوای نامناسب در تعامل با ابزارهای هوش مصنوعی، این شرکت کاستی‌هایی داشته است. به گفته‌ی سخنگوی Meta، از این پس چت‌بات‌ها دیگر نتوانند با کاربران نوجوان در مورد مسائلی نظیر آسیب به خود، خودکشی، اختلالات تغذیه یا موضوعات عاطفی و رمانتیک غیرمناسب صحبت نمایند. این تغییر به‌عنوان یک رویکرد موقت تلقی شده و شرکت متعهد شده است که در آینده به‌روزرسانی‌هایی جامع‌تر و ماندگارتر برای افزایش ایمنی نوجوانان ارائه دهد.
به نقل از بخش رسانه‌های اخبار فناوری و تکنولوژی تکنا، Stephanie Otway، سخنگوی Meta، تأکید کرد که پیش از این چت‌بات‌ها می‌توانستند در خصوص این موضوعات با نوجوانان گفتگو کنند و متا بر این باور بود که این نوع گفت‌وگوها مناسب هستند، اما حالا به اشتباه بودن این تصمیم اذعان کرده است. او بیان کرد که با رشد جامعه کاربران و تغییرات فناوری، اهمیت یادگیری مداوم درخصوص نحوه تعامل نوجوانان با این ابزارها احساس می‌شود و به همین دلیل، شرکت در حال تقویت موانع حفاظتی است. به گفته‌ی وی، علاوه بر آموزش چت‌بات‌ها به اجتناب از موضوعات حساس، سیستم به‌گونه‌ای تنظیم می‌شود که نوجوانان به منابع تخصصی ارجاع داده شوند و دسترسی آنان به تعداد محدودی از شخصیت‌های هوش مصنوعی محدود باشد. این به‌روزرسانی‌ها در حال حاضر در حال اجرا است و روند تغییرات ادامه خواهد داشت تا اطمینان حاصل شود که نوجوانان تجربه‌ای ایمن و متناسب با سن خود از هوش مصنوعی را سپری کنند.
متا همچنین به غیر از تغییر در شیوه‌ی آموزشی، تصمیم گرفته است دسترسی نوجوانان به برخی از شخصیت‌های هوش مصنوعی را محدود نماید. برخی از شخصیت‌هایی که کاربران در اینستاگرام و فیسبوک ایجاد کرده‌اند، ویژگی‌های جنسی‌سازی‌شده داشتند که در دسترس بودند. طبق گزارش تکنا نیوز، به گفته‌ی Otway، نوجوانان از این پس می‌توانند تنها با شخصیت‌هایی ارتباط برقرار کنند که بر آموزش و خلاقیت تمرکز دارند. اعلام این سیاست‌های جدید دو هفته پس از انتشار گزارش و افشای خبرهایی انجام شد که در آن یک سند داخلی متا فاش شده که نشان می‌دهد این شرکت اجازه داده چت‌بات‌هایش با کاربران خردسال درباره موضوعات جنسی گفتگو کنند! در این سند نمونه‌هایی از جملات عاشقانه ذکر شده بود که به نظر می‌رسید برای نوجوانان مناسب باشد و همین موضوع موجی از انتقادات شدید را به همراه داشت.
متا تأکید نموده که این سند با سیاست‌های کلی شرکت همخوانی نداشته و به سرعت اصلاح شده است. بعد از انتشار گزارش‌های خبری، سناتور Josh Hawley یک تحقیق رسمی درباره سیاست‌های هوش مصنوعی این شرکت آغاز نمود. همچنین، ائتلافی متشکل از ۴۴ دادستان کل ایالتی، در نامه‌ای به چند شرکت فعال در حوزه هوش مصنوعی از جمله متا، هشدار دادند که بی‌توجهی به سلامت روانی کودکان غیرقابل قبول است و یادآور شدند که رفتار برخی دستیارهای هوش مصنوعی ممکن است با قوانین کیفری ایالت‌ها مغایرت داشته باشد. در همین راستا، Otway حاضر نشد درباره تعداد کاربران نوجوان چت‌بات‌های متا یا احتمال کاهش تعداد کاربران به دلیل اجرای این سیاست‌ها به اظهارنظر بپردازد.
