مقاله جنجالی: هوش مصنوعی بدون کمک پزشکان هم از آنها عملکرد بهتری دارد
تنی چند از پژوهشگران در مقالهای تازه که در نشریهی انجمن پزشکی آمریکا منتشر شده، مدعی شدهاند هوش مصنوعی هماکنون در برخی عرصههای پزشکی میتواند نتیجهای بهتر از پزشکان به همراه داشته باشد. از نگاه آنان، در افق چند سالهی آینده ممکن است حتی بدون اینکه انسان عملاً در جریان کار دخالت کند، مراقبت مؤثرتری برای بیماران فراهم شود. این گزارش توسط زکیل امانوئل، پژوهشگر شناختهشدهی حوزهی اخلاق پزشکی، و وینود خسلا، سرمایهگذار حوزهی فناوری، نگارش شده و در آن صدها مطالعه دربارهی کاربردهای هوش مصنوعی در پزشکی مورد بررسی قرار گرفته است.
نویسندگان در پایان، بر این باور رسیدهاند که در وظایف شناختیِ مرتبط با پزشکی، اتکای صرف به هوش مصنوعی در آینده—بهتنهایی یا حتی در مقایسه با ترکیب پزشک و هوش مصنوعی—احتمالاً عملکرد بهتری ارائه خواهد داد. آنها در توضیح دیدگاه خود مینویسند: «در عملکردهای شناختی پزشکی، احتمالا مراقبت مبتنیبر هوش مصنوعی بهتنهایی بهتر از مراقبت صرفا توسط پزشک یا ترکیب پزشک و هوش مصنوعی خواهد بود.»
اما این برداشت، با واکنش منفی بخشی از جامعهی پزشکی روبهرو شده است. جان وایت، مدیرعامل انجمن پزشکی آمریکا، از مهمترین منتقدان این مقاله به شمار میرود و میگوید شواهدی که نویسندگان بر پایهی آن چنین نتیجهگیری گستردهای ارائه کردهاند، به اندازهای محکم نیست که بتوان بر اساس آن دربارهی برتری آیندهی هوش مصنوعی اظهار نظر قطعی کرد.
به گفتهی وایت، بخشی از پژوهشهایی که در این مقاله مرور شدهاند، شکل «شبیهسازی» داشتهاند و نه «آزمایشهای کورِ کنترلشده»؛ آزمایشهایی که در تحقیقات پزشکی معمولاً از اعتبار بالاتری برخوردارند. او همچنین تاکید میکند بعضی از همان مطالعاتی که به آنها استناد شده، با جمعبندی نهایی مقاله همخوانی کامل ندارد. برای نمونه، پژوهشی که ماه فوریه در نشریهی نیچر منتشر شد نشان داد بسیاری از بیماران زمانی که از چتباتهای هوش مصنوعی برای توضیح مشکل خود و دریافت راهنمایی مناسب استفاده میکنند، با دشواریهایی مواجه میشوند.
انجمن پزشکی آمریکا میگوید بخشی از شواهد مقاله بر شبیهسازیها و مطالعات محدود تکیه دارد
وایت توضیح میدهد انجمن پزشکی آمریکا اصلِ ظرفیت بالای ابزارهای هوش مصنوعی را انکار نمیکند، اما معتقد است این فناوری باید تنها در چارچوب برنامهی درمانی و با نظارت پزشک مورد استفاده قرار گیرد؛ یعنی جایگزین کامل فرآیندهای بالینیِ انسانی نشود.
در مقابل، نویسندگان مقاله با اشاره به رشد شتابان مدلهای زبانی بزرگ از زمان عرضهی چت جیپیتی در نوامبر ۲۰۲۲، مسیر بحث را عوض میکنند. آنها میگویند با وجود اینکه تنها چند سال از ورود عمومی این فناوری میگذرد، هوش مصنوعی در چند حوزهی کلیدیِ پزشکی به سطح عملکرد پزشکان رسیده یا حتی از آنها جلو زده است.
نویسندگان سپس پیشبینی میکنند شکاف میان کیفیت عملکرد هوش مصنوعی و پزشکان در سالهای پیش رو پررنگتر شود. استدلال آنها این است که قابلیت مدلهای هوش مصنوعی با سرعت چشمگیری در حال ارتقاست، درحالیکه تکیهی پزشکان بر همین ابزارها میتواند به مرور زمان به افت تدریجی برخی مهارتهای انسانی منجر شود؛ مهارتهایی که فقط در محیطهای کار واقعی و تصمیمگیریِ مستقیم رشد میکنند.
این مقاله حتی فراتر هم میرود و چنین ادعا میکند که در بعضی سناریوها ممکن است حضور پزشک، نتیجهی ارائهشده توسط سیستم هوش مصنوعی را بدتر کند؛ یعنی ترکیب انسان و ماشین لزوماً به معنی بهبود نیست، بلکه در برخی شرایط میتواند موجب اختلال در خروجی شود.
براساس جمعبندی نویسندگان، سیستمهایی که تصمیمگیری انسان و هوش مصنوعی را بهصورت همزمان ترکیب میکنند، در تعدادی از مطالعات عملکرد ضعیفتری نسبت به هوش مصنوعیِ مستقل داشتهاند. آنها در نهایت اینطور نتیجه میگیرند: «با بهبود هوش مصنوعی، حضور انسان در حلقهی تصمیمگیری ممکن است به بدترشدن مراقبت از بیمار منجر شود.»
نگرانی از کمعمق شدن یا کاهش مهارتهای پزشکان در پی اتکا به ابزارهای هوش مصنوعی صرفاً یک فرض ذهنی نیست. برخی پزشکان ارشد پیشتر هشدار دادهاند که دانشجویان پزشکی در حال عادتکردن به اتکا به این ابزارها هستند و بهتدریج توان تصمیمگیری و تحلیل مستقل در آنها کمرنگ میشود.
البته نگرانی فقط به دانشجویان محدود نمیماند. دادههای داخلی اوپن اِویدِنس (Open Evidence)، یک چتبات پزشکی که برای استفادهی متخصصان طراحی شده، نشان میدهد حدود دوسوم پزشکان آمریکایی از این ابزار استفاده میکنند.
از سوی دیگر، کاربرد هوش مصنوعی در پزشکی نیز به شکل سریع در حال گسترش است. به تازگی، گروهی از جراحان مغز و اعصاب در بریتانیا اعلام کردند هنگام انجام عمل جراحی برای خارج کردن تومور مغزی یک بیمار، از ابزار هوش مصنوعی برای دریافت راهنمایی در طول فرایند عمل استفاده کردهاند.
هوش مصنوعی در گرفتن شرح حال، تشخیص بیماری، انتخاب آزمایش و مدیریت بیماریهای مزمن پیشرفت زیادی کرده است
رابرت واچر، رئیس بخش پزشکی دانشگاه کالیفرنیا در سانفرانسیسکو، نگاه متعادلیتر دارد. او باور دارد در شرایط کنونی، ترکیب توان انسان و قابلیتهای هوش مصنوعی میتواند نتیجهی بهتری تولید کند؛ با این حال، احتمال میدهد در آیندهای نزدیک یا دور، شرایطی شکل بگیرد که دخالت انسان باعث افت عملکرد سیستم شود. با وجود این، واچر تاکید میکند پزشکان احتمالاً به طور کامل از چرخهی درمان حذف نخواهند شد.
بحث دربارهی برتری هوش مصنوعی نسبت به انسان تنها به حوزهی پزشکی محدود نیست و سابقه نشان داده است که باید در برابر ادعاهای بزرگ و ناگهانی در این زمینه محتاط بود. برای مثال، یک پژوهش جنجالی دربارهی استفاده از چت جیپیتی در آموزش مدعی شده بود این ابزار میتواند اثر مثبت و چشمگیری بر روند یادگیری دانشآموزان بگذارد. اما مدتی بعد، اشپرینگر نیچر اعتبار آن پژوهش را زیر سؤال برد؛ چون در بررسی دادههای پژوهش، مشکلات و تناقضهای جدی مشاهده شد.
از این رو، سؤال اصلی هنوز پاسخ قطعی ندارد: آیا هوش مصنوعی قرار است به «ابزار قدرتمند» در کنار پزشکان تبدیل شود، یا در بخشی از تصمیمهای پزشکی جای آنها را خواهد گرفت؟ شواهد امروز نشان میدهد توان این فناوریها به سرعت در حال افزایش است، اما هنوز اختلاف جدی بر سر میزان اعتماد به خروجی آنها و اینکه آیا میتوان انسان را از مسیر درمان کنار گذاشت یا نه، وجود دارد.
