تحقیق BBC نشان داد: چت‌بات‌های هوش مصنوعی اخبار را تحریف می‌کنند

پژوهش جدید بی‌بی‌سی نشان می‌دهد اکثر چت‌بات‌های هوش مصنوعی مانند ChatGPT، جمینای و کوپایلت اخبار رسانه‌ها را تحریف می‌کنند.

یکی از قابلیت‌های چت‌بات‎‌های هوش مصنوعی خلاصه‌سازی اخبار برای کاربران است اما مدتی است این قابلیت تبدیل به دردسری بزرگ شرکت‌ها و بنگاه‌های خبری شده است. برای آزمایش میزان درستی کارکرد این چت‌بات‌ها در خلاصه‌سازی اخبار، بی‌بی‌سی چت‌بات‌های ChatGPT، جمینای، کوپایلت و Perplexity را بررسی کرده و دریافته بیش از نیمی از خروجی‌های این سرویس‌ها مشکلات قابل‌توجهی دارند.

هذیان یکی از مشکلات عمده چت‌بات‌های هوش مصنوعی است

کارشناسان بی‌بی‌سی از این چت‌بات‌ها خواستند خلاصه‌ای از ۱۰۰ خبر این رسانه ارائه کنند و این خروجی‌ها را بررسی کردند. درنهایت مشخص شد بیش از ۵۱ درصد پاسخ‌های این چت‌بات‌ها مشکلات عمده‌ای دارند و ۱۹ درصد پاسخ‌ها نیز حاوی گفته‌ها، تاریخ‌ها و روزهای غیردقیق هستند. همچنین ۱۳ درصد نقل‌قول‌های بی‌بی‌سی یا نسبت به منبع اصلی تغییر کرده‌اند یا اصلاً در مقاله منبع ذکر نشده‌اند.

به گفته بی‌بی‌سی، میان چت‌بات‌های بررسی شده، پاسخ‌های جمینای گوگل بیشترین اشتباهات را داشته و ۴۶ درصد پاسخ‌های این چت‌بات ایرادات قابل‌توجهی در دقت خبر داشته‌اند. هیچ‌کدام از شرکت‌هایی که بی‌بی‌سی چت‌بات‌های آنها را بررسی کرده، هنوز واکنشی به این گزارش نشان نداده‌اند.

این اولین بار نیست که بی‌بی‌سی به مسئله تحریف اخبارش توسط چت‌بات‌های هوش مصنوعی اشاره می‌کند. هوش مصنوعی اپل اینتلیجنس تاکنون حداقل ۲ بار تیتر و محتوای خبرهای بی‌بی‌سی را تحریف کرده که واکنش این رسانه را در پی داشته است.

اپل اینتلیجنس ابتدا به‌اشتباه به کاربران گفته بود مظنون به قتل مدیرعامل یونایتد هلتکر در زندان خودکشی کرده و در خبر دوم نیز به‌اشتباه گفته بود «لوک لیتلر»، بازیکن دارت، برنده جایزه مسابقات جهانی PDC شده، درحالی‌که این بازیکن فقط مسابقه نیمه‌نهایی را برنده شده بود. در واکنش به این مشکلات، اپل اعلام کرده بود تغییراتی را در قابلیت خلاصه‌سازی اخبار هوش مصنوعی خود ایجاد می‌کند.