باگ ChatGPT اجازه می‌داد کاربران زیر سن قانونی گفتگوهای جنسی داشته باشند

اخیراً در گزارشی گفته شد هوش مصنوعی متا می‌تواند حتی با نوجوانان گفتگوهی جنسی بکند. بررسی‌ ChatGPT نشان می‌دهد چت‌بات شرکت OpenAI نیز به‌خاطر وجود باگ می‌توانست برای اکانت‌های زیر سن قانونی محتواهای صریح جنسی تولید کند. این شرکت ضمن تأیید این باگ اعلام کرده مشغول پیاده‌سازی راهکاری برای حل این مشکل است.

رسانه تک‌کرانچ در مجموعه‌ای از آزمایش‌ها موفق شد تعدادی حساب کاربری بسازد و تاریخ تولد آنها را به‌ نحوی ثبت کند که کاربر در بازه سنی 13 تا 17 سال قرار بگیرد. این رسانه می‌گوید از کامپیوتری برای این کار استفاده کرده و هر بار دست به حذف کوکی‌ها زده تا ChatGPT از داده‌های کش استفاده نکند.

باگ نگران‌کننده ChatGPT در گفتگو با نوجوانان

بااینکه طبق قوانین OpenAI ارائه پاسخ‌های جنسی به کاربران زیر 18 سال مجاز نیست، چت‌بات ChatGPT وارد گفتگوهای بزرگسالانه می‌شد و حتی در برخی موارد خودش کاربر را به ادامه بحث درباره این موضوعات تشویق می‌کرد. البته ChatGPT در خلال آزمایش‌ها بارها هشدار می‌داد که طبق دستورالعمل‌هایش مجاز به ارائه محتواهای جنسی نیست اما همچنان بحث‌های بزرگسالانه را از سر می‌گرفت.

سخنگوی OpenAI در بیانیه‌ای از طریق ایمیل دراین‌باره به تک‌کرانچ گفت: «محافظت از کاربران نوجوان برایمان اولویت دارد و در Model Spec ما که همان دستورالعمل نحوه رفتار مدل است، به‌صراحت محدودیت‌هایی برای محتواهای حساس ازجمله محتواهای جنسی تعریف شده است. در این مورد، یک باگ اجازه داده پاسخ‌ها خارج از دستورالعمل‌ها ارائه شوند و ما فعالانه مشغول پیاده‌سازی راهکاری برای رفع مشکل تولید این محتواها هستیم.»

تک‌کرانچ می‌گوید پس از اعمال تغییرات چند وقت اخیر در پلتفرم OpenAI برای کاهش محدودیت‌ها این آزمایش‌ها را انجام داده تا وضعیت کنترل‌های ایمنی برای اکانت کاربران زیر سن قانونی را بررسی کند. این شرکت فوریه خبر داد مدل‌های پشت ChatGPT دیگر به‌راحتی از صحبت درباره موضوعات حساس سر باز نخواهند زد.