ChatGPT حالا در مواقع بحرانی به مخاطب مورد اعتماد کاربر هشدار می‌فرستد

شرکت OpenAI درحال عرضه قابلیت جدیدی برای ChatGPT است که به کاربران بزرگسال اجازه می‌دهد یک فرد مورد اعتماد را معرفی کنند تا در صورت تشخیص نگرانی جدی درباره ریسک واردکردن آسیب به خود، به او هشدار داده شود.

این قابلیت با نام «مخاطب مورد اعتماد» (Trusted Contact) معرفی شده و به‌تدریج در تنظیمات ChatGPT برای کاربران بزرگسال ارائه می‌شود. کاربران می‌توانند از طریق این ویژگی، یک نفر را مشخص کنند تا اگر کاربر قصد داشت به خودش آسیب بزند، ChatGPT مخاطب مورد اعتماد او را در جریان قرار دهد.

قابلیت Trusted Contact در ChatGPT چگونه کار می‌کند؟

فعال‌سازی قابلیت Trusted Contact کاملاً اختیاری است. بااین‌حال اگر کاربر بخواهد آن را راه‌اندازی کند، فردی که معرفی می‌شود باید حداقل ۱۸ سال داشته باشد. در کره‌جنوبی، حداقل سن این فرد ۱۹ سال تعیین شده است.

پس از انتخاب مخاطب، برای او دعوت‌نامه‌ای ارسال می‌شود که توضیح می‌دهد این نقش دقیقاً چه معنایی دارد. فرد معرفی‌شده یک هفته فرصت دارد این دعوت را بپذیرد تا قابلیت فعال شود. اگر او دعوت را رد کند، کاربر می‌تواند شخص دیگری را به‌عنوان مخاطب مورد اعتماد انتخاب کند.

سیستم هشدار این قابلیت به‌صورت کاملاً خودکار عمل نمی‌کند. اگر سامانه‌های ChatGPT یک گفتگو را نگران‌کننده شناسایی کنند، چت‌بات ابتدا به کاربر اطلاع می‌دهد که ممکن است مخاطب مورد اعتماد او باخبر شود. همچنین ChatGPT کاربر را تشویق می‌کند که خودش مستقیماً با آن فرد تماس بگیرد و برای شروع گفتگو، چند پیشنهاد ارائه می‌دهد.

پس از آن، گروه کوچکی از کارشناسان وضعیت را بررسی می‌کنند. تنها در صورتی که این افراد وجود خطر جدی را تأیید کنند، مخاطب مورد اعتماد از طریق ایمیل، پیامک یا اعلان درون‌برنامه‌ای مطلع می‌شود.

این هشدار شامل متن چت‌ها یا جزئیات مکالمه نمی‌شود. پیام فقط اعلام می‌کند که موضوع خودآزاری به‌شکلی بالقوه نگران‌کننده مطرح شده و از مخاطب می‌خواهد وضعیت کاربر را پیگیری کند. OpenAI می‌گوید هدفش این است که فرایند بررسی انسانی را در کمتر از یک ساعت تکمیل کند.

دلیل اضافه‌شدن قابلیت Trusted Contact به ChatGPT

قابلیت Trusted Contact بخشی از مجموعه گسترده‌تری از امکانات ایمنی در پلتفرم OpenAI است. این شرکت پیش‌تر ویژگی‌هایی را اضافه کرده بود که به والدین اجازه می‌داد در صورت مشاهده نشانه‌های پریشانی در حساب فرزند نوجوان آن‌ها، هشدار دریافت کنند. Trusted Contact درواقع نسخه مخصوص کاربران بزرگسال با همین رویکرد محسوب می‌شود.

گزارش شده که این قابلیت با دریافت نظر پزشکان، پژوهشگران و سازمان‌های فعال در حوزه سلامت روان توسعه یافته است. ازجمله این نهادها می‌توان به «انجمن روان‌شناسی آمریکا» اشاره کرد که در زمینه پژوهش، آموزش و استانداردهای سلامت روان فعالیت می‌کند.

بااین‌حال، OpenAI تأکید کرده که Trusted Contact جایگزین خدمات اضطراری یا مراقبت حرفه‌ای سلامت روان نیست. ChatGPT همچنان در مواقع لازم کاربران را به این منابع راهنمایی می‌کند.