شکایت از OpenAI؛ ChatGPT به اشتباه مردی را به قتل فرزندانش متهم کرد

یک مرد نروژی پس از اینکه ChatGPT به اشتباه او را متهم به قتل فرزندان خود کرده بود، از OpenAI خواست تا این اطلاعات غلط را حذف کند.

براساس گزارش‌های منتشر شده، «آروِه یالمار هولمن» تصمیم گرفت تا بررسی کند که با جستجو نام خود ChatGPT چه اطلاعاتی را به دیگران ارائه می‌کند. اما با انجام این کار متوجه شد که چت‌بات هوش مصنوعی متعلق به OpenAI او را به‌عنوان «یک مجرم محکوم‌شده به 21 سال زندان که دو فرزند خود را به قتل رسانده و برای قتل سومین پسرش تلاش کرده» معرفی می‌کند.

شکایت این مرد نروژی توسط Noyb، گروه مدافعان حقوق دیجیتال اتحادیه اروپا ثبت شده است.

نقض قوانین اتحادیه اروپا توسط ChatGPT

به گفته Noyb، هوش مصنوعی ChatGPT نه تنها رویدادهایی که هرگز اتفاق نیفتاده‌اند را جعل کرده، بلکه اطلاعات شخصی قابل شناسایی مانند تعداد و جنسیت فرزندان هولمن و نام زادگاهش را با اطلاعات جعلی ترکیب کرده است.

این اقدام ChatGPT که شامل «عناصر واقعی» از زندگی شخصی این مرد نروژی می‌شود، به ادعای Noyb مقررات عمومی حفاظت از داده‌های اتحادیه اروپا (GDPR) را نقض کرده است، زیرا هولمن نمی‌تواند این اطلاعات را اصلاح کند.

البته ظاهراً درحال‌حاضر ChatGPT ادعاهای نادرست خود درباره هولمن را بیان نمی‌کند. به نظر می‌رسد که به‌روزرسانی اخیر این مشکل را برطرف کرده است، زیرا ChatGPT اکنون هنگام پرسش درباره افراد، اینترنت را نیز جستجو می‌کند. اما از آنجا که OpenAI قبلاً اعلام کرده بود که نمی‌تواند اطلاعات را اصلاح کند و فقط می‌تواند آن‌ها را مسدود کند، داستان جعلی قتل فرزندان احتمالاً هنوز در داده‌های داخلی ChatGPT وجود دارد. Noyb ادعا می‌کند که تا زمانی که هولمن نتواند آن را اصلاح کند، این موضوع نقض GDPR محسوب می‌شود.

البته هولمن تنها کاربر ChatGPT نیست که با این مشکل مواجه شده است. چند ماه پس از راه‌اندازی ChatGPT در اواخر سال 2022، یک شهردار استرالیایی پس از اینکه این چت‌بات به اشتباه ادعا کرد او به زندان رفته است، تهدید به شکایت از OpenAI کرد. چند ماه بعد نیز یک مجری رادیویی به دلیل اتهامات جعلی مربوط به اختلاس ChatGPT از OpenAI شکایت کرد.