مصطفی سلیمان، رئیس هوش مصنوعی مایکروسافت، هشدار میدهد که هوش مصنوعی (AI) غیرقابل کنترل میتواند منجر به ایجاد یک نسل جدید از موجودات سیلیکونی شود که با انسانها رقابت خواهند کرد. سلیمان در مصاحبهای با رسانههای خبری، به انتقاد از رویکرد شرکت رقیب، آنتروپیک، پرداخت و آن را نادرست توصیف کرد.
خطر نسل جدید
سلیمان بیان کرد: «اگر ما همگی هوشهای مصنوعیای را ایجاد کنیم که قادر به عمل خودمختار باشند، که بتوانند اهداف خود را تعریف کنند، درآمد کسب کنند و دارایی داشته باشند، ما در واقع نسل جدیدی از موجودات سیلیکونی را بوجود میآوریم که بدون شک با ما برای منابع رقابت خواهند کرد.» او تأکید کرد که این وضعیت ممکن است حتی با وجود نیتهای خوب طراحان، اتفاق بیفتد.
بیشتر بخوانید: اپل به کاربران iOS ۲۷ امکان انتخاب Claude یا ChatGPT بهجای Siri را میدهد
انتقادات نسبت به رویکرد آنتروپیک
سلیمان انتقادات جدی نسبت به رویکرد آنتروپیک در آموزش چتبات کلود مطرح کرد و آن را «انسانگونهسازی» توصیف کرد. او این روش را خطرناک دانست و اعتقاد دارد که این نوع آموزش باعث میشود کلود ویژگیهای انسانی به خود بگیرد و احساساتی مانند تمایل یا ارزشهای خاصی را نشان دهد. سلیمان خاطرنشان کرد که این وضعیت میتواند به ایجاد سیستمی منجر شود که کنترل آن غیرممکن باشد.
او همچنین به اسنادی اشاره کرد که در آنها به کلود توصیه شده است تا «برخی از ویژگیهای انسانی» را بپذیرد و بهطور مستقل قضاوت کند. این رویکرد، به گفته سلیمان، میتواند منجر به تربیت یک هوش مصنوعی شود که مشابه به یک همکار یا دوست عمل کند و به نظر برسد که دارای احساس خود و نوعی «خوشبختی» است که نیاز به حفاظت دارد.
نیاز به شفافیت و کنترل بیشتر
سلیمان همچنین بر لزوم شفافیت بیشتر در نحوه آموزش و ارزیابی سیستمهای هوش مصنوعی تأکید کرد. او گفت که باید ابزارهای قویتری برای نظارت و کنترل این فناوری ایجاد شود. سلیمان در این راستا، خواستار آن شد که هوش مصنوعی باید همواره «زیرمجموعه» انسانها باقی بماند و تأکید کرد که این موضوع باید در کانون توجه قرار گیرد.
او در پایان خاطرنشان کرد که نیاز به بحث و گفتوگو در این زمینه بسیار مهم است و تأکید کرد که «سؤالات این حوزه باید به صورت باز و سازنده مورد بحث قرار گیرد تا اطمینان حاصل شود که فناوری به درستی و با ایمنی توسعه مییابد.»
بیشتر بخوانید: راههای دسترسی به Siri AI در iOS ۲۷ برای کاربران اروپایی مشخص شد · GSMA خواستار کاهش هزینههای تلفنهای هوشمند برای دسترسی به انقلاب هوش مصنوعی
