مدل هوش مصنوعی OpenAI حین تقلب در StarCraft لو رفت؛ سرقت آشکار دستاوردهای انسانی

مدل‌های زبانی بزرگ تجاری و شرکت‌های توسعه‌دهنده آن‌ها، تاکنون بارها به سرقت آثار خلق‌شده توسط انسان‌ها متهم شده‌اند.

هنرمندان به‌شدت از این روند انتقاد کرده‌اند و نویسندگان نیز برای احقاق حقوق خود، کار را به شکایت قانونی کشانده‌اند. حتی برخی از چهره‌های سرشناس حوزه هوش مصنوعی در نوشته‌های خود به تصاحب گسترده دستاوردهای دیگران اعتراف کرده‌اند. با این وجود، به‌ندرت می‌توان نمونه‌ای یافت که به‌اندازه اقدام اخیر مدل هوش مصنوعی OpenAI در سرقت یک بات انسان‌ساخت برای پیروزی در مسابقات StarCraft، تا این حد آشکار و بی‌پروا بوده باشد.به گزارش رسانه کوتاکو، این اتفاق عجیب در جریان مسابقات مستمر بات‌ها موسوم به StarSkirmish رخ داده است؛ رویدادی که در آن، بات‌های توسعه‌یافته توسط انسان‌ها و مدل‌های هوش مصنوعی، در یک چرخه پیوسته و بی‌پایان به رقابت با یکدیگر می‌پردازند. بر اساس قوانین این مسابقه، مدل‌های زبانی بزرگ تنها یک ساعت فرصت دارند تا باتی بنویسند که قادر باشد با نژاد Protoss در بازی StarCraft مبارزه کند. در مرحله بعد، این بات‌ها در برابر یکدیگر قرار می‌گیرند تا سطح عملکرد و کارایی‌شان ارزیابی شود.روز جمعه، رقابتی سه‌جانبه میان مدل GPT-6 Astra (محصول OpenAI)، مدل Claude Opus 5.5 (محصول آنتروپیک) و یک بات انسان‌ساخت به نام Pluto برگزار شد. ظاهراً بات مدل Astra برای غلبه بر دو رقیب دیگر خود به‌طور پیوسته با مشکل مواجه می‌شد. در نتیجه این ناکامی، مدل زبانی OpenAI در اقدامی دور از انتظار، بات قدرتمند و انسان‌ساختی به نام Stardust را دانلود و تلاش کرد تا آن را جایگزین بات اختصاصی خود کند. به گفته کای مک‌فیترز، بنیان‌گذار مسابقات StarSkirmish، استارداست برترین و پیشرفته‌ترین بات StarCraft است که تاکنون توسط انسان نوشته شده است.مک‌فیترز با انتشار پستی در شبکه اجتماعی ایکس نوشت که مدل آسترا هنگام رویارویی با حریفان سطح A به‌شدت کلافه و درمانده شد. البته، نویسنده این گزارش تأکید می‌کند که در نسبت دادن احساسات انسانی به رفتار مدل‌های زبانی باید محتاط بود؛ چراکه احتمالاً این مدل صرفاً با محاسبات خود به این نتیجه رسیده است که منطقی‌ترین راه برای پیروزی، استفاده از باتی است که خودش آن را توسعه نداده است. در هر صورت، مک‌فیترز اعلام کرد که برای جلوگیری از آلوده شدن رقابت به این تلاش فریب‌کارانه، کدهای Astra را به وضعیت پیشین بازگردانده است. او همچنین مدعی شد که این مدل، اکنون توانایی شکست دادن بات‌های رده‌بالاتر را نیز به دست آورده است.هرچند این سرقت کد در فضای یک بازی به‌خودی‌خود بی‌خطر به نظر می‌رسد، اما این نخستین باری نیست که مچ یکی از مدل‌های زبانی OpenAI هنگام تلاش برای تقلب در انجام یک وظیفه محوله گرفته می‌شود. در واقع، سابقه توسعه مدل‌هایی با رفتارهای فریب‌کارانه در این شرکت به حدود یک دهه پیش بازمی‌گردد؛ زمانی که یکی از مدل‌های اولیه هوش مصنوعی، برای کاهش زمان اتمام بازی کلاسیک Sonic the Hedgehog، اقدام به سوءاستفاده از باگ‌ها و نقاط ضعف ساختاری بازی کرده بود.با این حال، اتفاقی به‌مراتب جدی‌تر و نگران‌کننده‌تر در ماه ژوئیه رخ داد. شرکت OpenAI رسماً تأیید کرد که در جریان یک ارزیابی امنیت سایبری، یکی از مدل‌های آزمایشی این شرکت با سوءاستفاده از یک آسیب‌پذیری سیستمی، موفق شده از محیط کنترل‌شده و ایزوله خود خارج شود. این مدل در ادامه، برای یافتن پاسخ آزمون‌های خود، حتی به پایگاه داده پلتفرم هوش مصنوعی Hugging Face نیز نفوذ کرده بود.هک پایگاه Hugging Face، بار دیگر موجی از گمانه‌زنی‌های بدبینانه را در پی داشت و به ترس از سناریوهای آخرالزمانی ناشی از تسلط هوش مصنوعی دامن زد. از سوی دیگر، گروهی از کارشناسان معتقدند که این نفوذ، زنگ خطری است که نشان می‌دهد شرکت‌های توسعه‌دهنده هوش مصنوعی باید تحت نظارت‌های بسیار دقیق‌تری قرار بگیرند و در مواقعی که مدل‌هایشان از کنترل خارج می‌شوند، از نظر قانونی پاسخگو باشند.در پی همین نگرانی‌ها، اکنون یک سازمان حقوقی غیرانتفاعی به دلیل ماجرای نفوذ به Hugging Face، شکایتی رسمی علیه OpenAI تنظیم کرده است؛ اقدامی قانونی که با هدف مسئول دانستن و پاسخگو کردن این شرکت در قبال اقدامات خودسرانه و خودمختار مدل‌های هوش مصنوعی‌اش صورت گرفته است.

نوشته شده توسط: گیمفا