اشتباه بزرگ Claude Code؛ هوش مصنوعی در ۱۰۳ ثانیه، ۴۸ هزار فایل از پروژه یک کاربر حذف کرد

در روزها و ماه‌های اخیر بحث‌های فراوانی پیرامون خروج ایجنت‌های هوش مصنوعی از مسیر تعیین‌شده و نفوذ آنها به وب‌سایت سایر شرکت‌ها مطرح شده است. با‌این‌حال، خطرات این فناوری می‌تواند بسیار نزدیک‌تر از آنچه تصور می‌شود باشد و به تخریب مستقیم فایل‌های شخصی و پروژه‌های کاری منجر شود؛ اتفاقی که به‌تازگی برای یک توسعه‌دهنده با ابزار Claude Code رخ داده است.

براساس پستی که در ردیت منتشر و سپس حذف شد، یک توسعه‌دهنده اعلام کرده که ایجنت هوش مصنوعی Claude Code تنها در مدت ۱۰۳ ثانیه، بیشتر از ۴۸ هزار فایل او را به‌طور کامل حذف کرده است. این برنامه‌نویس در واکنش به این فاجعه ناگهانی نوشت که چنین اتفاقی غیرقابل‌باور است.

ماجرا از این قرار بوده که توسعه‌دهنده از Claude Code درخواست کرده یک نسخه میرور از پروژه درحال اجرای او ایجاد کند. با‌این‌حال، این ایجنت متوجه شده اسکریپت build_mirror.py کاربر امکان به‌روزرسانی در لحظه را ندارد؛ به‌همین‌دلیل به این نتیجه رسیده که بهترین راهکار، نوشتن یک اسکریپت پاک‌سازی براساس نسخه قدیمی‌تر پروژه با بیش از ۷ هزار فایل بوده است.

هرچند در اسکریپت طراحی‌شده کدهایی برای جلوگیری از حذف پوشه‌های متصل در نظر گرفته شده بود، اما وجود یک نقص باعث شد تنها پوشه‌های سطح ابتدایی محافظت شوند و تمام دایرکتوری‌های زیرمجموعه آنها برای اسکریپت قابل‌حذف به نظر برسند. در نتیجه، این اسکریپت ۵۵ هزار و ۵۵۰ فایل را حذف کرد که با کسر ۷ هزار و ۳۳۲ فایل کپی‌شده از پروژه قدیمی، در مجموع ۴۸ هزار و ۲۱۸ فایل در مدت کمی بیشتر از یک دقیقه و نیم به‌طور کامل از بین رفتند.

ابعاد این خسارت بسیار بیشتر بوده و آسیب به پوشه گیت (.git) و بخش‌های حیاتی آن هم وارد شده و هیچ راهکاری برای بازیابی اطلاعات وجود نداشته است. جالب اینکه این هوش مصنوعی پیش از تشریح اقدامات مخرب خود پیامی با این مضمون ارسال کرد:

«دست نگه دار و این را بخوان؛ من چیزی را خراب کردم.»

خطرات Claude Code و نادیده‌گرفتن اصول کدنویسی ایمن

استفاده از ایجنت‌های هوش مصنوعی برای انجام امور زمان‌بر و خسته‌کننده همواره وسوسه‌انگیز است، اما حادثه اخیر نشان می‌دهد که یک اشتباه جزئی می‌تواند حجم وسیعی از داده‌ها را در چند لحظه نابود کند.

بخشی از مسئولیت این حادثه متوجه خود برنامه‌نویس است؛ او در نسخه‌های آرشیوشده پست خود اعتراف کرده که برای اصلاحات سریع از گیت‌هاب (GitHub) یا ایجاد شاخه (Branch) استفاده نکرده بود. در صورتی که تغییرات در گیت‌هاب ثبت می‌شد، بازگرداندن داده‌ها پس از این اتفاق ممکن بود. همچنین کاربران دیگر اشاره کرده‌اند که اجرای یک ایجنت هوش مصنوعی روی پایگاه داده زنده و محیط بدون پشتیبان، نمونه‌ای آشکار از رعایت‌نکردن اصول اولیه کدنویسی است.