قوانین پیشنهادی جدید چین: کنترل چت‌بات‌هایی که احساسات کاربران را درگیر می‌کنند

چین قصد دارد استفاده از چت‌بات‌های هوش مصنوعی را در زمینه‌هایی که می‌توانند بر احساسات انسانی تأثیر بگذارند یا منجر به خودکشی، آسیب به خود یا تشویق به قمار شوند، محدود کند.

سازمان فضای سایبری چین به‌تازگی پیش‌نویس قوانینی را منتشر کرده است که توانایی هوش مصنوعی برای تأثیرگذاری بر احساسات کاربران را محدود می‌کند. این پیش‌نویس تنها چند روز پس از آن منتشر شد که دو استارتاپ چینی فعال در زمینه چت‌بات‌های هوش مصنوعی، یعنی Z.ai و Minimax، پرونده عرضه اولیه سهام خود را در هنگ‌کنگ ثبت کردند. چین تلاش‌های زیادی برای رهبری در حوزه هوش مصنوعی انجام داده است و این قوانین پیشنهادی بخشی از تلاش‌های گسترده این کشور برای تنظیم مقررات هوش مصنوعی به‌شمار می‌روند.

محدودیت چت‌بات‌های هوش مصنوعی در چین

قوانین پیشنهادی، که از سوی اداره فضای سایبری چین ارائه شده‌اند، خدمات هوش مصنوعی با ویژگی‌های انسانی را هدف قرار می‌دهند و شامل محصولاتی می‌شوند که شخصیت انسانی شبیه‌سازی‌شده ارائه می‌دهند و با متن، تصویر، صوت یا ویدیو کاربران را از نظر احساسی درگیر می‌کنند. این مقررات به‌گونه‌ای طراحی شده‌اند که چت‌بات‌های هوش مصنوعی نتوانند محتوایی تولید کنند که کاربر را به خودکشی یا آسیب به خود تشویق کند، یا شامل خشونت کلامی و فریب احساسی شود و به سلامت روان کاربران آسیب برساند. در مواردی که کاربر به‌طور مشخص به خودکشی اشاره کند، سرویس‌دهندگان فناوری موظف هستند وارد گفتگو شوند و فوراً با سرپرست یا فرد تعیین‌شده تماس بگیرند.

چت‌بات‌ها موظفند از ارائه هرگونه محتوای مرتبط با قمار، خشونت یا مطالب نامناسب خودداری کنند و کاربران کم‌سن تنها با نظارت سرپرست خود اجازه تعامل احساسی با هوش مصنوعی را دارند. علاوه‌براین، پلتفرم‌ها موظفند حتی در صورت عدم ارائه سن توسط کاربر، بتوانند سن او را تشخیص دهند و در موارد مشکوک، تنظیمات حفاظتی مربوط به کاربران زیر سن قانونی را فعال کنند و هم‌زمان امکان اعتراض کاربران نیز فراهم باشد.

پیش‌نویس قوانین همچنین به کاربردهای مثبت هوش مصنوعی انسان‌نما در حوزه‌های فرهنگی و همراهی سالمندان توجه کرده است و مقرر شده پس از دو ساعت استفاده مداوم از چت‌بات، کاربران هشدار دریافت کنند. علاوه‌براین، چت‌بات‌هایی که بیش از یک میلیون کاربر ثبت‌شده یا بیش از 100 هزار کاربر فعال ماهانه دارند، باید به‌صورت دقیق ارزیابی امنیتی شوند. این قانون که به‌عنوان نخستین تلاش جهانی برای تنظیم هوش مصنوعی با ویژگی‌های انسانی شناخته می‌شود، هم‌زمان با رشد سریع شرکت‌های چینی در توسعه همدم‌های دیجیتال و شخصیت‌های مجازی مطرح شده و نشان‌دهنده گذر از تمرکز صرف بر امنیت محتوا به‌سمت حفاظت از سلامت روان کاربران است.

این مقررات پیشنهادی در پی افزایش توجه جهانی به تأثیر هوش مصنوعی بر رفتار انسانی و سلامت روان ارائه شده است.