تصمیم مهم OpenAI: آیا واترمارک‌کردن متون ChatGPT باعث نارضایتی کاربران می‌شود؟

شرکت OpenAI هنوز در مورد واترمارک کردن محتواهای تولید شده توسط ChatGPT  تصمیم‌گیری نکرده است. با این وجود برخی کاربران نگران این مسأله هستند و اعلام کرده‌اند درصورت اعمال واترمارک از ChatGPT  کمتر استفاده خواهند کرد.

بر اساس گزارش وال‌استریت ژورنال، OpenAI سیستمی برای واترمارک کردن متون تولید شده توسط ChatGPT و ابزاری برای شناسایی این واترمارک آماده کرده است. اما اختلافات داخلی در شرکت درباره انتشار این ویژگی وجود دارد. از یک سو این کار به نظر مسئولانه می‌آید؛ اما از سوی دیگر می‌تواند به ضرر درآمدهای شرکت باشد.

OpenAI از واترمارک متون ChatGPT خودداری می‌کند تا کاربران رضایت بیشتری داشته باشند

واترمارک کردن متن‌ها به این صورت است که مدل پیش‌بینی کلمات و عبارات را به نحوی تنظیم می‌کند که یک الگوی قابل تشخیص ایجاد کند. این رویکرد می‌تواند به معلمان کمک کند تا از استفاده دانش‌آموزان از هوش مصنوعی برای تکالیف نوشتاری جلوگیری کنند. تحقیقات نشان داده که واترمارک کردن کیفیت خروجی متون ChatGPT را تحت تاثیر قرار نمی‌دهد و نظرسنجی‌ها نیز نشان می‌دهند که مردم از این ابزار تشخیص هوش مصنوعی حمایت می‌کنند.

OpenAI تأیید کرده که روی واترمارک کردن متن‌ها کار کرده و این روش بسیار دقیق و مقاوم در برابر تغییرات است. اما بازنویسی متن‌ها با مدل‌های دیگر می‌تواند این واترمارک را دور بزند. همچنین، این شرکت نگران است که این اقدام باعث ایجاد بدبینی نسبت به ابزارهای  هوش مصنوعی در میان کاربران شود.

نتایج نظرسنجی‌ها نشان می‌دهد که نزدیک به 30 درصد از کاربران اعلام کرده‌اند که در صورت اعمال واترمارک، کمتر از ChatGPT استفاده خواهند کرد. با این حال، برخی از کارمندان OpenAI همچنان به کارآمدی واترمارک کردن اعتقاد دارند و پیشنهاد می‌کنند روش‌های دیگری که کمتر مورد بحث کاربران هستند، آزمایش شوند.