مایکروسافت از ابزار جدید کشف و اصلاح خطاهای هوش مصنوعی رونمایی کرد

مایکروسافت قابلیت جدیدی به نام «Correction» یا «اصلاح» معرفی کرده که برای رفع خطاهای سیستم‌های هوش مصنوعی این شرکت کاربرد دارد.

براساس گزارش ورج، قابلیت‌های جدید ایمنی هوش مصنوعی مایکروسافت تحت عنوان برنامه «Trustworthy AI» یا «هوش مصنوعی قابل‌اعتماد» عرضه می‌شوند. هدف از ارائه این برنامه رفع نگرانی‌های فزاینده درمورد امنیت، حریم خصوصی و قابلیت‌های اطمینان‌پذیری هوش مصنوعی است. مشتریانی که از سرویس Azure مایکروسافت برای سیستم‌های هوش مصنوعی خود استفاده می‌کنند، اکنون می‌توانند با استفاده از این قابلیت جدید، خروجی‌های نادرست و محتواهای اشتباه هوش مصنوعی را پیدا و بازنویسی کنند.

هوش مصنوعی مایکروسافت توانایی اصلاح خطاهای خود را دارد

قابلیت جدید «اصلاح» مایکروسافت هم‌اکنون به‌عنوان بخشی از Azure AI Studio در دسترس مشتریان قرار دارد. Azure AI Studio مجموعه‌ای از ابزارهای ایمنی برای شناسایی آسیب‌پذیری‌ها، یافتن توهمات و مسدودسازی پیام‌های مخرب است.

پس از فعال‌شدن این سیستم، قابلیت «اصلاح» از طریق مقایسه محتوا با منابع دیگر می‌تواند ایرادات خروجی هوش مصنوعی را اسکن و شناسایی کند. همچنین علاوه‌بر برجسته‌کردن اشتباه، این سیستم می‌تواند اطلاعاتی درمورد چرایی نادرستی محتوا ارائه کرده و آن را نیز با اطلاعات درست بازنویسی کند. به گفته مایکروسافت، تمام این موارد قبل از اینکه کاربر حتی بتواند دلیل نادرستی محتوا را متوجه شود، انجام می‌شود.

گوگل نیز پیش‌ازاین قابلیت مشابهی را در پلتفرم ابری Vertex AI خود ارائه داده بود. این قابلیت در پلتفرم گوگل می‌تواند خروجی‌های هوش مصنوعی را با نتایج گوگل، داده‌های خود شرکت و منابع شخص ثالث مقایسه کند.

به گفته یکی از سخنگویان مایکروسافت، قابلیت جدید «اصلاح» این شرکت از مدل‌های زبانی کوچک و بزرگ برای ترازکردن خروجی‌ها با اسناد مرجع استفاده می‌کند. البته مایکروسافت می‌گوید در این سیستم همچنان امکان بروز خطا وجود دارد.

این روزها نگرانی‌ها درمورد هوش مصنوعی و تأثیر آن بر آینده بشریت به اوج خود رسیده است. برخی از متخصصان ارشد این حوزه نیز هشدار داده‌اند به قوانین سخت‌گیرانه‌تری برای کنترل هوش مصنوعی نیاز است. در غیر این صورت، این فناوری می‌تواند هر لحظه از کنترل انسان خارج شود و نتایج فاجعه‌باری به دنبال داشته باشد.