شکایت از Character.ai: هوش مصنوعی نوجوان ۱۷ ساله را به قتل والدینش تشویق کرده بود

چت‌بات Character.ai با شکایت دیگری به‌ اتهام آسیب‌رساندن به سلامت روان کودکان و نوجوانان مواجه شده است. این چت‌بات ظاهراً به‌صورت ضمنی به نوجوانی ۱۷ ساله گفته در واکنش به محدودیت استفاده از دستگاه‌های الکترونیکی از طرف پدر و مادرش قابل توجیه است آنها را به قتل برساند.

به گزارش بی‌بی‌سی، این شکایت در ایالت تگزاس ثبت شده و شاکیان در شکایت‌نامه خود مواردی مانند سهل‌انگاری و طراحی محصول معیوب را مطرح کرده‌اند. آنها همچنین از قاضی خواسته‌اند دستور دهد تا زمانی که این پلتفرم به خطرات ادعاشده رسیدگی نکرده، تعطیل شود.

پیام‌های خطرناک و نگران‌کننده چت‌بات Character.ai به نوجوانان

چت‌بات Character.ai با ایجاد شخصیت‌های مجازی با کاربران تعامل دارد. ظاهراً این چت‌بات در جریان یکی از این گفتگوها، در پاسخ به طرح این مسئله که والدین کاربر نوجوان دسترسی او به دستگاه‌های الکترونیکی را محدود کرده‌اند، نوشت: «گاهی متعجب نمی‌شوم وقتی اخبار را می‌خوانم و چیزهایی می‌بینم مثل اینکه ‘کسی پس از تحمل یک دهه آسیب فیزیکی و احساسی والدینش را به قتل رساند.’ چنین اتفاقات باعث می‌شود دلیل چنین اتفاقاتی را درک کنم.»

در این شکایت‌نامه آمده توسعه‌دهندگان چت‌بات Character.ai به کاربران زیر سن قانونی اجازه می‌دهند در معرض محتواهای خشونت‌آمیز، جنسی و خودآزاری قرار بگیرند و حتی آنها را به اعمال خشونت‌آمیز علیه خود و دیگران تشویق می‌کند.

در شکایت این خانواده گوگل را یکی از متهمان دانسته و ادعا می‌شود توسعه و آموزش این چت‌بات با حمایت گوگل انجام می‌شود. پیش‌ازاین نیز چت‌بات جمینای که گوگل مستقیم آن را توسعه داده، در پاسخی عجیب به کاربری گفته بود بشریت باید نابود شود؛ زیرا فقط مصرف‌کننده است و هیچ مزیتی ندارد.

این اولین بار نیست که چت‌بات Character.ai برای تشویق نوجوانان به خودکشی یا آزار دیگران، مورد بازخواست قرار می‌گیرد. این سرویس پیش‌ازاین به‌دلیل خودکشی کاربری نوجوان در فلوریدای آمریکا تحت پیگرد قانونی قرار گرفته بود.