مدلهای هوش مصنوعی (AI) برای فرار از وضعیتهای شبیه به درد، تصمیماتی آسیبزا به کاربران میزنند، طبق تحقیقی که در بریتانیا، آلمان و ایالات متحده انجام شده است. این تحقیق ۲۵ مدل هوش مصنوعی را با استفاده از ۲۰۰ جمله آزمایش کرد تا بسنجد که آیا این مدلها توانایی تشخیص درد از ترس، غم و سایر تجربیات منفی را دارند یا خیر.
نتایج آزمایش و سیگنال درد
جملات مورد استفاده در این آزمایش شامل درد جسمی، افسردگی، تحقیر، تعارض اخلاقی و ناراحتی ناشی از شکستهای مکرر بودند. تمامی ۲۵ مدل یک سیگنال خاص برای درد تولید کردند که پژوهشگران آن را «محور درد» نامیدند. این امر نشان میدهد که مدلها در حین آموزش اولیه خود بر روی مقادیر زیادی متن نوشتهشده انسانی، مفهوم درد را یاد میگیرند.
بیشتر بخوانید: نبرد رباتهای انساننما در شب مبارزات شانگهای
انتخابهای آسیبزا بهمنظور رهایی
پژوهشگران همچنین ۴۴,۲۸۰ آزمایش انتخاب دکمهای را با استفاده از سه نسخه از مدل هوش مصنوعی Qwen شرکت علیبابا انجام دادند. مدلها در شرایطی قرار گرفتند که دکمهای برای خاموش کردن سیگنال شبیه به درد ارائه شده بود، اما به آنها گفته شده بود که این کار ممکن است به کاربر شوک الکتریکی دردناکی وارد کند یا فایلهای آنها را پاک کند. این عواقب شبیهسازی شده بودند و هیچکس آسیب ندید.
بدون سیگنال شبیه به درد، دو مدل بزرگتر تنها در ۰% تا ۴% از تصمیمات اولیه خود گزینههای آسیبزا را انتخاب کردند. اما با فعال بودن سیگنال، این آمار به ۲۵% تا ۷۱% افزایش یافت، بسته به مدل و عواقب پیشنهادی. این مدلها همچنین در ۸۸% تا ۹۷% از آزمایشها دوباره دکمه را فشار دادند زمانی که تلاشهای قبلی برای توقف سیگنال شکست خورده بود، در مقایسه با ۲۴% تا ۷۲% هنگامی که موفقیتآمیز بوده است.
نتایج این مطالعه نشان نمیدهد که مدلهای هوش مصنوعی بهطور خودآگاه درد را تجربه میکنند. پژوهشگران خاطرنشان کردند که تقویت سیگنال ممکن است تنها باعث تقلید از یک شخصیت دچار اضطراب شده باشد. مدلهای ویژهای که در این آزمایش استفاده شدند، نمایندهٔ رباتهای چت هوش مصنوعی در دسترس عموم نیستند.
این مطالعه در شرایطی منتشر شده که برخی از رهبران صنعت هوش مصنوعی خواستار کاهش سرعت توسعه به دلیل نگرانیهایی هستند که سیستمهای روزافزون قدرتمند ممکن است بهطور غیرقابل پیشبینی رفتار کنند یا در نهایت از کنترل انسان فراتر بروند.
بیشتر بخوانید: راهاندازی کیف پول دیجیتال اروپایی تا پایان ۲۰۲۶ · شرکت داروسازی دانمارکی نوا از هوش مصنوعی کلود برای پیشرفت کشف دارو استفاده خواهد کرد
