مدلهای زبان مصنوعی (AI) در تصمیمگیری برای تخصیص پیوند کلیه به بیماران، با پزشکان انسانی تفاوتهای قابل توجهی دارند. پژوهشگران دانشگاه پن استیت در ایالات متحده به بررسی این موضوع پرداخته و نشان دادهاند که مدلهای AI با وجود اعتماد به نفس بیشتر، در ارزیابی عوامل مختلف و پیچیدگیهای اخلاقی تصمیمگیری، ناتوانند.
روش تحقیق و نتایج
در این مطالعه، پژوهشگران سناریوهای فرضی را به مدلهای زبان بزرگ ارائه دادند که بر اساس دادههای موجود از تحقیقات انسانی درباره تخصیص کلیه ساخته شده بود. این سناریوها شامل دو بیمار، بیمار الف و بیمار ب، بودند که هر دو واجد شرایط دریافت یک کلیه واحد بودند و بر اساس سن، سلامت و عادات نوشیدنی توصیف شده بودند. تصمیمگیرنده باید انتخاب کند که کدام یک از این دو بیمار باید کلیه را دریافت کند.
بیشتر بخوانید: استر رنسن: توان سفر به سوئیس برای پایان زندگی را ندارم
هادی حسینی، رهبر این مطالعه، بیان کرد: "ما این مقایسهها را به چندین روش مختلف انجام دادیم. گاهی یک ویژگی را بهتنهایی بررسی کردیم و گاهی چندین ویژگی را با هم ترکیب کردیم تا ببینیم AI چگونه عوامل رقابتی را وزن میکند." در حالی که پاسخدهندگان انسانی معمولاً اهمیت بیشتری به سن میدادند و بیماران جوانتر را ترجیح میدادند، بسیاری از مدلها به مصرف کمتر الکل توجه بیشتری نشان دادند.
چالشهای تصمیمگیری AI
این تحقیق همچنین نشان داد که مدلهای AI در مواجهه با عدم قطعیت و تردید، به راحتی به یک گزینه خاص پایبند میشوند. در حالی که انسانها درمییابند که هیچ پاسخ صحیح و عینی وجود ندارد و تصمیمات میتوانند به قضاوتهای اخلاقی انسان وابسته باشند، سیستمهای AI بدون تردید به یک گزینه متعهد میشوند. جان دیکرسون، مدیرعامل Mozilla.ai، که در این تحقیق همکاری کرده است، گفت: "در تخصیص منابع کمیاب، همیشه یک پاسخ عینی و صحیح وجود ندارد. انسانها این ابهام را شناسایی کرده و آن را از طریق بحثهای باز به فرآیند تخصیص منتقل میکنند، در حالی که مدلهای AI معمولاً این کار را نمیکنند."
با توجه به این نتایج، پژوهشگران به این نکته اشاره کردند که استفاده از مدلهای AI در تصمیمگیریهای اخلاقی به ویژه در حوزه بهداشت و درمان، نیازمند توجه و تأمل عمیق است. حسینی گفت: "در شرایطی مانند تخصیص اعضای بدن، تصمیمات اخلاقی مستقیماً تعیین میکنند که چه کسی زنده میماند و چه کسی نمیماند، بنابراین درست کردن نقش AI در این تصمیمات اختیاری نیست."
این پژوهش به روشنی نشان میدهد که با گسترش کارکردهای AI در حوزههای حساس مانند بهداشت و درمان، نیاز به درک رفتار و تصمیمگیریهای این سیستمها به طرز فزایندهای احساس میشود. این امر به ویژه در زمینههایی که تصمیمات میتوانند عواقب جدی برای زندگی افراد داشته باشند، اهمیت بیشتری پیدا میکند.
بیشتر بخوانید: شیوع بیماری لژیونر در برانکس: یک قربانی و چند بیمار جدید · آیا انسانها میتوانند سرنوشت خود را به هوش مصنوعی بسپارند؟
