در سال ۲۰۲۱، یکی از زیرمجموعه‌های شرکت بزرگ Johnson & Johnson اعلام کرد که با افزودن هوش مصنوعی به یک دستگاه پزشکی مخصوص درمان سینوزیت مزمن، «جهشی بزرگ» در جراحی‌های گوش، حلق و بینی ایجاد کرده است. این دستگاه که با نام TruDi Navigation System توسط شرکت Acclarent عرضه شد، از الگوریتم‌های یادگیری ماشین برای هدایت دقیق ابزارهای جراحی در داخل سر بیمار استفاده می‌کند.

با این حال، بررسی‌های خبرگزاری رویترز نشان می‌دهد که پس از اضافه شدن هوش مصنوعی به این سیستم، تعداد گزارش‌های خرابی و عوارض جانبی ثبت‌شده در سازمان غذا و داروی آمریکا (FDA) به‌طور چشمگیری افزایش یافته است. پیش از استفاده از AI، تنها چند گزارش محدود از نقص فنی این دستگاه وجود داشت، اما پس از به‌روزرسانی نرم‌افزاری مبتنی بر هوش مصنوعی، بیش از ۱۰۰ گزارش خرابی و رویداد نامطلوب ثبت شده است. طبق این گزارش‌ها، دست‌کم ۱۰ بیمار بین سال‌های ۲۰۲۱ تا ۲۰۲۵ دچار آسیب جدی شده‌اند. در بیشتر موارد، دستگاه محل ابزار جراحی را به‌اشتباه نمایش داده و جراحان را گمراه کرده است. پیامد این خطاها شامل نشت مایع مغزی–نخاعی، سوراخ شدن قاعده جمجمه و حتی سکته مغزی بوده است.

دو بیمار که دچار سکته شده‌اند، شکایت‌هایی را در ایالت تگزاس مطرح کرده‌اند و مدعی‌اند که هوش مصنوعی به‌کاررفته در TruDi نقش مستقیم در آسیب آن‌ها داشته است. در یکی از این پرونده‌ها آمده که «این دستگاه پیش از اضافه شدن هوش مصنوعی، ایمن‌تر از نسخه جدید بوده است». هرچند رویترز اعلام کرده که امکان تأیید مستقل این ادعاها وجود ندارد. در پاسخ به این انتقادات، شرکت Integra LifeSciences که در سال ۲۰۲۴ مالک Acclarent شد، اعلام کرده است که هیچ مدرک معتبری برای ارتباط مستقیم میان هوش مصنوعی و این آسیب‌ها وجود ندارد و گزارش‌های FDA صرفاً نشان می‌دهند که دستگاه در زمان جراحی مورد استفاده بوده است.

این پرونده‌ها در حالی مطرح می‌شود که هوش مصنوعی به‌سرعت در حال ورود به حوزه سلامت است. طبق آمار FDA، تاکنون بیش از ۱۳۵۷ دستگاه پزشکی مبتنی بر هوش مصنوعی مجوز استفاده دریافت کرده‌اند؛ رقمی که نسبت به سال ۲۰۲۲ دو برابر شده است. با این حال، پژوهشی از دانشگاه‌های جانز هاپکینز، ییل و جورج‌تاون نشان می‌دهد که ۶۰ دستگاه پزشکی مبتنی بر AI با ۱۸۲ فراخوان ایمنی مرتبط بوده‌اند و ۴۳٪ از این فراخوان‌ها کمتر از یک سال پس از تأیید FDA رخ داده‌اند.

کارشناسان هشدار می‌دهند که ساختار نظارتی فعلی FDA برای فناوری‌های هوش مصنوعی کافی نیست. به گفته چند مقام فعلی و سابق FDA، این سازمان با کمبود نیروی متخصص در حوزه AI مواجه شده، به‌ویژه پس از تعدیل نیرو در بخش‌های مرتبط با سلامت دیجیتال. در حالی که هوش مصنوعی می‌تواند تشخیص بیماری‌ها، برنامه‌ریزی جراحی و مراقبت‌های پزشکی را متحول کند، این گزارش نشان می‌دهد که شتاب در تجاری‌سازی AI بدون چارچوب‌های ایمنی سخت‌گیرانه می‌تواند جان بیماران را به خطر بیندازد. آینده پزشکی هوشمند، بیش از هر زمان دیگری، به تعادل میان نوآوری و ایمنی نیاز دارد.

منبع خبر: reuters