این چالش که با نام «یادگیری میانبر» شناخته می‌شود، زمانی رخ می‌دهد که مدل‌های هوش مصنوعی به جای تمرکز بر ویژگی‌های پزشکی و معنادار، از الگوهای تصادفی و بی‌ربط برای پیش‌بینی نتایج استفاده می‌کنند.
پژوهشگران در این مطالعه بیش از ۲۵ هزار تصویر اشعه ایکس از زانو را بررسی کردند و دریافتند مدل‌های هوش مصنوعی می‌توانند ویژگی‌های کاملاً غیرمنطقی مانند عادات غذایی بیماران را «پیش‌بینی» کنند.
دکتر پیتر شیلینگ، جراح ارتوپدی و نویسنده ارشد این تحقیق، در این باره گفت: «در حالی که هوش مصنوعی ظرفیت زیادی برای تحول در تصویربرداری پزشکی دارد، باید با احتیاط از آن استفاده کنیم.»
او تأکید کرد: «این مدل‌ها می‌توانند الگوهایی را شناسایی کنند که ما نمی‌بینیم، اما همه این الگوها قابل اعتماد یا معنادار نیستند.»
پژوهشگران همچنین متوجه شدند الگوریتم‌ها اغلب از متغیرهای جانبی مانند تفاوت در تجهیزات تصویربرداری یا نشانه‌های مربوط به مکان‌های درمانی برای پیش‌بینی استفاده می‌کنند.
براندون هیل، یکی از نویسندگان این پژوهش و متخصص یادگیری ماشینی، در این زمینه گفت: «این مسئله تنها به تعصب‌های نژادی یا جنسیتی محدود نمی‌شود. ما حتی دیدیم که یک الگوریتم می‌تواند سال ثبت تصاویر را تشخیص دهد.»
او ادامه داد: «زمانی که تلاش کردیم جلوی یادگیری یکی از این عوامل را بگیریم، الگوریتم به‌سرعت سراغ عامل دیگری رفت. این مسئله می‌تواند منجر به ادعاهای نادرست شود و پژوهشگران باید نسبت به این موضوع هوشیار باشند.»
یافته‌های این تحقیق بر نیاز به ارزیابی‌های دقیق‌تر در استفاده از هوش مصنوعی در تحقیقات پزشکی تأکید می‌کند.
هیل در ادامه افزود: « بخشی از مشکل به تعصب ما بازمی‌گردد. ما تصور می‌کنیم که مدل هوش مصنوعی دقیقاً مانند ما "می‌بیند"، اما در واقع این‌طور نیست.»
او گفت: «کار با هوش مصنوعی مانند برخورد با یک هوش بیگانه است. این مدل تنها راهی برای حل مسئله پیدا می‌کند، بدون این‌که مانند انسان‌ها منطق یا استدلال داشته باشد.»
این پژوهش با همکاری مرکز پزشکی امور کهنه‌سربازان در ورمونت و مشارکت فرانسیس کوبک، دانشجوی سال سوم پزشکی در دارتموث، انجام شده است.
م/۱۱۰*