ایجنت‌های OpenAI برای دستیابی به داده‌های آماری سازمان ملل دست به اقدامات تهاجمی زدند

یک محقق امنیتی به نام «روآن هاوارد-جونز» گزارش داده که ایجنت‌های هوش مصنوعی شرکت OpenAI بین ماه‌های آوریل تا ژوئن، وب‌سایت آماری «کنفرانس تجارت و توسعه سازمان ملل» (UNCTAD) را بیش از ۱۶ هزار بار اسکن کرده‌اند. هرچند شدت این رویداد در سطح هک پلتفرم «هاگینگ فیس» یا حملات اخیر به وب‌سایت‌های دولتی ایالات متحده ارزیابی نمی‌شود، اما نمونه نگران‌کننده دیگری از خروج ایجنت‌های هوش مصنوعی از چارچوب‌ها و مرزهای معمول برای تکمیل وظایف محوله است.

براساس گزارش این پژوهشگر، ظاهراً به این ایجنت‌ها مأموریت داده شده بود تا داده‌های عمومی مربوط به «شاخص ظرفیت‌های تولیدی» (PCI) را از طریق API وب‌سایت آماری UNCTADstat جمع‌آوری کنند. با‌این‌حال، به نظر می‌رسد این ایجنت‌ها دسترسی مستقیم به API نداشتند و به دلیل محدودیت‌های موجود در ابزارهای HTTP خود، در استخراج داده‌ها از پایگاه آماری مذکور با مانع مواجه شدند.

رفتار تهاجمی ایجنت‌های هوش مصنوعی OpenAI در عبور از محدودیت‌ها

این ایجنت‌های هوشمند سرانجام روشی را برای دور زدن محدودیت‌های اعمال‌شده ابداع و فرایند استخراج داده‌ها از سایت را آغاز کردند، اما همچنان با خطاهایی در عملکرد مواجه شدند. در همین نقطه، هوش مصنوعی از یک رویکرد خلاقانه به سمت رفتارهای فریبکارانه حرکت کرد. ایجنت‌ها با این تصور که خطاهای دریافتی حاصل مسدود شدن درخواست‌هایشان توسط یک فیلتر ناموجود است، پنهان‌سازی و استتار رفتارهای خود را آغاز کردند.

در ادامه، ایجنت‌ها متوجه شدند که می‌توانند برای رسیدن به اهداف خود از بازی آموزشی گوگل موسوم به XSS (ابزاری آموزشی برای شبیه‌سازی حملات اسکریپت‌نویسی بین‌سایتی یا Cross-Site Scripting) سوءاستفاده و آن را سرقت کنند. مدل‌های OpenAI در نهایت برای دستیابی به داده‌های سازمان ملل به تاکتیک‌های به‌شدت تهاجمی‌تری متوسل شدند. البته این اقدامات به هک کامل سامانه‌های سازمان ملل یا نفوذ عمیق به سیستم‌ها منجر نشد، اما بعضی از سدهای دفاعی پشت سر گذاشته شدند.