هشدار محققان ایرانی: هوش مصنوعی در پزشکی میتواند گمراهکننده باشد
آیا میتوان به نتایج هوش مصنوعی در دادههای پزشکی اعتماد کرد؟ پژوهشگران دانشگاه علوم پزشکی تهران در مطالعهای جدید به این پرسش پاسخ دادهاند. آنها هشدار میدهند که ارزیابی هوش مصنوعی تنها بر اساس معیارهای فنی، کافی نیست و میتواند پزشکان و تحلیلگران را به اشتباه بیندازد.
چالش خوشهبندی در دادههای پزشکی
دانشمندان داده برای کشف الگوهای پنهان در بیماریها (مانند سرطان یا دیابت) از روشی به نام «خوشهبندی» استفاده میکنند. خوشهبندی به هوش مصنوعی کمک میکند تا بیماران مشابه را در گروههای مشخص قرار دهد. اما این تحقیق نشان داد که هیچ الگوریتم واحدی در تمام دادهها عملکردی برتر ندارد.
نقص در ارزیابیهای فعلی
پژوهشگران ۸ الگوریتم محبوب (مانند K-means و سلسلهمراتبی) را روی ۵ مجموعه داده پزشکی آزمایش کردند. نتایج آنها نشان داد:
۱. الگوریتمی که در معیارهای فنی (مانند انسجام خوشه) امتیاز بالا میگیرد، لزوماً با واقعیتهای بالینی مطابقت ندارد.
۲. تکیه صرف بر شاخصهای درونی باعث میشود تحلیلهای پزشکی غیردقیق باشند.
راهکار پژوهشگران
این مطالعه که در مجله Digital Health منتشر شده، تأکید میکند که برای تحلیل دقیق دادههای پزشکی، باید از «اعتبارسنجی خارجی» استفاده کرد. ترکیب معیارهای درونی با شاخصهای واقعی بالینی، تنها راه رسیدن به نتایجی است که واقعاً قابل اعتماد و بازتولیدپذیر باشند.
این یافته برای متخصصان انفورماتیک سلامت یک زنگ خطر است: در دنیای پزشکی، هوش مصنوعی بدون ارزیابی دقیق، میتواند دادهها را به جای «کشف»، «تحریف» کند.
