با وجود مزایا و مزایایی که هوش مصنوعی به همراه داشت، باگ ها و خطاهای زیادی نیز داشت. اکنون به نظر می‌رسد که پزشکان از ابزارهای هوش مصنوعی بدون نظارت و بی‌تجربه برای کمک به تشخیص بیماران استفاده می‌کنند، که باعث نگرانی تنظیم‌کننده‌هایی مانند سازمان غذا و داروی ایالات متحده شده است.

طبق گزارش Politico، برخی از پزشکان در حال حاضر از ابزارهای هوش مصنوعی بدون نظارت به عنوان دستیار مجازی برای یادداشت برداری و تشخیص و درمان بیماری ها استفاده می کنند. از طرفی رشد این فناوری بسیار سریعتر از خواست دولت ها و سازمان ها برای وضع مقررات در این زمینه است. تامین مالی و استخدام کارکنان برای بررسی این هوش مصنوعی یک موضوع مهم است. با این حال، تنظیم کننده ها نگران تأثیرات هوش مصنوعی، به ویژه در زمینه های پزشکی و مراقبت های بهداشتی هستند.

ورود کنترل نشده هوش مصنوعی به مشکلات پزشکی

سازمان غذا و داروی ایالات متحده (FDA) معمولاً داروها یا دستگاه های پزشکی جدید را پس از بررسی آنها تأیید می کند. اما نرم افزار هوش مصنوعی را نمی توان با این فرآیند تایید یا رد کرد زیرا هوش مصنوعی دائما در حال آموزش و تغییر است. به همین دلیل FDA می خواهد محصولات هوش مصنوعی را به طور مداوم تحت نظر داشته باشد.

در اکتبر 2023، جو بایدن، رئیس جمهور ایالات متحده، خواستار هماهنگی و اقدام کامل آژانس های نظارتی برای اطمینان از ایمنی و کارایی هوش مصنوعی شد. اما به گفته پولیتیکو، تنظیم‌کننده‌هایی مانند سازمان غذا و داروی ایالات متحده منابع لازم برای نظارت بر این فناوری را ندارند.

به نظر می رسد مشکل FDA فراتر از صرف بودجه یا استخدام کارکنان بیشتر است. این آژانس همچنین خواهان قدرت بیشتری برای کنترل هوش مصنوعی است. به عنوان مثال، سازمان غذا و دارو باید اجازه داشته باشد داده‌های هوش مصنوعی را درخواست کند و بتواند الگوریتم‌های زیربنایی خود را به منظور گنجاندن این فناوری در اصول پزشکی تنظیم کند.