پنگرام ابزار تشخیص تصویر تولیدشده با هوش مصنوعی را توسعه داد

استارتاپ Pangram که در حوزه تشخیص محتوای تولیدشده با هوش مصنوعی فعالیت می‌کند، ابزار تازه‌ای برای شناسایی تصاویر ساخته‌شده یا ویرایش‌شده با مدل‌های مولد معرفی کرده است. این شرکت پیش‌تر با توسعه سامانه‌ای برای تحلیل متن‌های تولیدشده با هوش مصنوعی شناخته شد و اکنون می‌خواهد دامنه فعالیت خود را به تصاویر و اعتماد دیجیتال گسترش دهد.

چرا تشخیص تصویر مصنوعی دشوار است؟

مدل‌های تولید تصویر در چند سال گذشته پیشرفت زیادی کرده‌اند. خطاهای واضح در دست‌ها، نوشته‌ها و چهره‌ها که زمانی نشانه اصلی تصویر مصنوعی بودند، کمتر شده‌اند. ابزارهای جدید می‌توانند نور، بافت و جزئیات را بسیار طبیعی تولید کنند و حتی بخشی از یک عکس واقعی را تغییر دهند.

در نتیجه، بررسی چشمی دیگر همیشه کافی نیست. سامانه‌های تشخیص باید نشانه‌های آماری، اطلاعات فایل، الگوی فشرده‌سازی و ویژگی‌های تصویری را بررسی کنند. هیچ روش واحدی برای همه تصاویر دقیق نیست و ابزار تشخیص باید احتمال خطا را نیز به کاربر نشان دهد.

همکاری با Substack

Pangram با Substack همکاری کرده تا به خوانندگان کمک کند درباره استفاده از هوش مصنوعی در تولید خبرنامه‌ها اطلاعات بیشتری داشته باشند. هدف از این برچسب‌ها الزاماً حذف محتوای مصنوعی نیست؛ بلکه فراهم‌کردن زمینه‌ای برای شفافیت و تصمیم‌گیری آگاهانه است.

این موضوع به‌ویژه برای رسانه‌ها، آموزش، تبلیغات و محتوای علمی اهمیت دارد. مخاطب ممکن است بخواهد بداند یک تصویر خبری مستقیماً از صحنه واقعی آمده یا با مدل مولد ساخته شده است. در حوزه تبلیغات، برندها نیز باید از انتشار تصاویر گمراه‌کننده یا استفاده ناخواسته از چهره و سبک هنرمندان جلوگیری کنند.

محدودیت‌های ابزارهای تشخیص

تشخیص هوش مصنوعی یک رقابت دائمی میان سازندگان مدل و شرکت‌های ارزیاب است. هر نسل از مدل‌های مولد می‌تواند الگوهای قبلی را تغییر دهد و ابزار تشخیص را مجبور به آموزش دوباره کند. همچنین، تغییر اندازه تصویر، اسکرین‌شات، فشرده‌سازی شبکه‌های اجتماعی و ویرایش دستی ممکن است نشانه‌های اصلی را از بین ببرد.

به همین دلیل Pangram و شرکت‌های مشابه باید نتیجه را به‌صورت احتمال یا سطح اطمینان ارائه کنند، نه یک حکم قطعی. استفاده مسئولانه از این ابزارها نیازمند ترکیب تحلیل فنی با بررسی منبع، تاریخ انتشار و زمینه محتوای تصویر است.

گسترش ابزارهای تشخیص می‌تواند به ایجاد لایه‌ای از اعتماد در اینترنت کمک کند، اما جایگزین روزنامه‌نگاری، راستی‌آزمایی و قضاوت انسانی نخواهد شد.

منبع: TechCrunch