ابراز نگرانی رگولاتورها؛ هوش مصنوعی وارد فرایند تشخیص‌های پزشکی شده است

هوش مصنوعی به‌رغم منافع و مزیت‌هایی که با خود به همراه آورده، خطاها و اشتباهات زیادی نیز داشته است. حالا به‌نظر می‌رسد که پزشکان از ابزارهای هوش مصنوعی کنترل‌نشده و کم‌تجربه برای کمک به تشخیص بیماران استفاده می‌کنند، و این امر باعث نگرانی رگولاتورهایی مانند FDA آمریکا شده است.

براساس گزارش پولیتیکو، برخی پزشکان درحال‌حاضر از ابزارهای کنترل‌نشده هوش مصنوعی مانند دستیارهای مجازی برای یادداشت‌برداری، تشخیص و درمان بیماری‌ها استفاده می‌کنند. از سویی رشد این فناوری بسیار پرشتاب‌تر از آن است که دولت‌ها و سازمان‌ها همپای آن بخواهند مقرراتی در این زمینه وضع کنند. تأمین مالی و استخدام کارکنان برای بررسی این هوش مصنوعی‌ها مسئله مهمی است؛ بااین‌حال رگولاتورها نگران پیامدهای هوش مصنوعی مخصوصاً در زمینه‌های پزشکی و مراقبت‌های بهداشتی هستند.

ورود هوش مصنوعی‌های کنترل‌نشده به مسائل پزشکی

سازمان غذا و داروی آمریکا (FDA) معمولاً پس از بررسی داروها یا ابزارهای پزشکی جدید به آن‌ها مجوز استفاده می‌دهد؛ اما نرم‌افزارهای هوش مصنوعی را نمی‌توان با این روند تأیید یا رد کرد چراکه هوش مصنوعی دائماً درحال آموزش و تغییر است. به همین دلیل FDA می‌خواهد محصولات هوش مصنوعی را به‌شکل پیوسته نظارت کند.

«جو بایدن»، رییس جمهور آمریکا، در ماه اکتبر 2023 (مهرماه) خواستار اقدام و هماهنگی کامل از سوی آژانس‌های نظارتی برای اطمینان از ایمنی و کارایی هوش مصنوعی شد. اما به گفته پولیتیکو، رگولاتورهایی مانند FDA منابع مورد نیاز برای نظارت بر این فناوری را ندارند.

مشکل FDA ظاهراً حتی فراتر از منابع مالی یا استخدام کارکنان بیشتر است. این آژانس برای کنترل هوش مصنوعی، قدرت بیشتری نیز می‌خواهد. برای مثال FDA باید اجازه درخواست داده‌های هوش مصنوعی و توانایی تنظیم الگوریتم‌های اصلی آن را داشته باشد تا بتواند این فناوری را در چهارچوب اصول پزشکی بگنجاند.