هوش مصنوعی در پزشکی با وعده‌هایی چون پیش‌بینی بیماری‌ها، تسریع در تشخیص، و کمک به تصمیم‌گیری‌های دشوار وارد عمل شده است. اما پشت این تکنولوژی پیشرفته، حقیقتی پنهان است: این ابزارها به نیروی انسانی متخصص و منابع مالی کلان برای نظارت و حفظ عملکرد نیاز دارند. پرسش اینجاست که آیا هزینه‌های این فناوری بیش از منافع آن خواهد بود؟
هوش مصنوعی در حوزه بهداشت و درمان امیدهای زیادی را به وجود آورده است. از پیش‌بینی احتمال مرگ بیماران گرفته تا تسهیل گفتگوهای حساس پزشکان با بیماران، این فناوری قرار بود به معجزه‌ای در عرصه سلامت تبدیل شود. اما در عمل، چیزی جز یک مسیر پرچالش نبوده است.
برای مثال، الگوریتم پیش‌بینی احتمال مرگ در مرکز سلامت دانشگاه پنسیلوانیا که با هدف کمک به انکولوژیست‌ها برای آغاز بحث‌های مهم درمان و پایان زندگی طراحی شده بود، در دوران پاندمی کووید-19 دچار افت عملکرد شد. مطالعه‌ای در سال 2022 نشان داد که دقت این الگوریتم 7 درصد کاهش یافته است و همین مسئله باعث از دست رفتن فرصت‌های مهم در تشخیص و جلوگیری از درمان‌های غیرضروری شد.
دکتر راوی پاریک، نویسنده این مطالعه و انکولوژیست دانشگاه اموری، تأکید کرد که این مشکل تنها محدود به یک الگوریتم نبوده و بسیاری از ابزارهای هوش مصنوعی در طول پاندمی دچار افت عملکرد شده‌اند. او معتقد است که مؤسسات بهداشتی معمولاً نظارت مداوم بر عملکرد این سیستم‌ها را انجام نمی‌دهند، و این می‌تواند عواقب جبران‌ناپذیری به همراه داشته باشد.
هزینه‌های پنهان هوش مصنوعی
به نظر می‌رسد که مدیریت این فناوری‌های پیشرفته به خودی خود نیازمند تیم‌های متخصص و منابع گسترده است. برای مثال، نظارت و ارزیابی دو مدل هوش مصنوعی در استنفورد نیازمند 115 ساعت کاری و 8 تا 10 ماه زمان بوده است. علاوه بر این، استانداردهای مشخصی برای ارزیابی عملکرد این ابزارها وجود ندارد. این موضوع انتخاب بهترین الگوریتم برای نیازهای هر بیمارستان یا کلینیک را دشوار می‌کند.
دکتر جسی اهرنفلد، رئیس پیشین انجمن پزشکی آمریکا، اذعان دارد که حتی برای ابزارهای رایج‌تر مانند سیستم‌های مستندسازی خودکار، استانداردهای مقایسه‌ای وجود ندارد. این در حالی است که اشتباهات کوچک در این ابزارها می‌توانند پیامدهای بزرگی به همراه داشته باشند.
چالش‌های فنی و غیرفنی
یکی از مشکلات اساسی، تغییر داده‌های اولیه است که می‌تواند عملکرد الگوریتم‌ها را تضعیف کند. اما گاهی مشکلات بدون دلیل مشخصی بروز می‌کنند. برای مثال، در بیمارستان عمومی ماساچوست، الگوریتمی که برای مشاوران ژنتیک طراحی شده بود، نتایج متناقضی را ارائه می‌داد، حتی زمانی که سوالات مشابهی در بازه زمانی کوتاه پرسیده می‌شد.
آیا هوش مصنوعی راه‌حل مشکلات خودش خواهد بود؟
برخی از کارشناسان پیشنهاد داده‌اند که از خود هوش مصنوعی برای نظارت بر دیگر الگوریتم‌ها استفاده شود، اما این روش نیز به نیروی انسانی بیشتری نیاز دارد. به گفته دکتر نیگام شاه، این سناریو مثل این است که بخواهید یخچال‌های یخ‌زده را با منابع محدود آب کنید!
سخن نهایی
اگرچه هوش مصنوعی پتانسیل عظیمی در تحول مراقبت‌های بهداشتی دارد، اما چالش‌های مالی، فنی و نیروی انسانی آن را نمی‌توان نادیده گرفت. تا زمانی که استانداردهای مشخصی برای نظارت و ارزیابی این فناوری‌ها تدوین نشود، نمی‌توان از کارآمدی و اعتمادپذیری آن‌ها اطمینان داشت. به نظر می‌رسد آینده هوش مصنوعی در پزشکی نه تنها به پیشرفت فناوری بلکه به سرمایه‌گذاری‌های هوشمندانه و مدیریتی قوی وابسته است.
