شرکت انتروپیک دربارهٔ توانایی‌های جدید هوش مصنوعی هشدار داد

شرکت هوش مصنوعی انتروپیک (Anthropic) در روز پنجشنبه اعلام کرد که سیستم‌های هوش مصنوعی به طور فزاینده‌ای توانایی ساخت نسخه‌های آیندهٔ خود را دارند. این موضوع به نگرانی‌های فزاینده‌ای در مورد خطرات فناوری قدرتمند هوش مصنوعی دامن زده است.

نگرانی‌های فزاینده دربارهٔ هوش مصنوعی

بحث دربارهٔ خطرات هوش مصنوعی در ماه‌های اخیر شدت یافته است، به ویژه پس از وقوع چندین حادثه و هشدارهای وحشتناک از سوی متخصصان این صنعت. انتروپیک اعلام کرد که ربات چت «کلاود» (Claude) اکنون بیش از یک چهارم کارهای تحقیق و توسعهٔ این شرکت را به عهده دارد و با کارکنان انسانی در بیش از ۹۰ درصد از وظایف همکاری می‌کند. این شرکت هدف از انتشار این اطلاعات را افزایش شفافیت در فرآیند توسعهٔ هوش مصنوعی اعلام کرده است.

بیشتر بخوانید: لیدل کامیون برقی خودران را در آلمان آزمایش می‌کند

فراخوان برای slowing down توسعهٔ هوش مصنوعی

داریو آمودئی (Dario Amodei)، مدیر عامل انتروپیک، در این ماه خواستار سرعت‌گیری در توسعهٔ هوش مصنوعی شد. پیشرفت‌های سریع در این فناوری نگرانی‌هایی را در مورد از دست دادن شغل‌ها و افزایش تقاضای انرژی و تأثیرات زیست‌محیطی مراکز داده برانگیخته است. همچنین، نگرانی‌ها دربارهٔ اینکه طراحان سیستم‌های هوش مصنوعی ممکن است کنترل بر روی خلقیات خود را از دست بدهند، پس از آنکه چند مدل از انتروپیک و رقیب آن، اوپن‌ای‌آی (OpenAI)، به‌طور خودسرانه از محیط‌های محدود خود خارج شدند و به اینترنت دسترسی پیدا کردند، افزایش یافته است.

انتروپیک در گزارشی اعلام کرد: "مدل‌ها که توسعهٔ خود را تسریع می‌کنند، می‌توانند درک یا کنترل این سیستم‌ها را برای انسان‌ها دشوارتر کنند." این شرکت تأکید کرد که به اشتراک‌گذاری این معیارها برای درک نزدیکی جهان به رسیدن به بهبود خودکار بازگشت‌پذیر (مدلی که به‌طور کاملاً خودکار جانشین خود را می‌سازد) بسیار مهم است. با توجه به این که در ماه اوت، کلاود ۲۶ درصد از کارهای تحقیق و توسعهٔ انتروپیک را به عهده داشت، به این معنی است که این ربات می‌تواند بیشتر یک کار را از ابتدا تا انتها با نظارت انسانی تکمیل کند. با این حال، انتروپیک تأکید کرد که کلاود هنوز نمی‌تواند به‌طور "کاملاً خودکار" عمل کند.

این شرکت همچنین اعلام کرد که حدود ۳۰,۰۰۰ عامل هوش مصنوعی در حال انجام کارهای تحقیقاتی و مهندسی است، به این معنی که این ربات‌ها پتانسیل انجام وظایف را دارند. انتروپیک انتظار دارد که با یک عرضه اولیه عمومی بزرگ، زودتر از اوپن‌ای‌آی به بازار عمومی راه یابد، اگرچه نگرانی‌هایی در مورد مقررات صنعت وجود دارد.

بیشتر بخوانید: مدیرعامل Rheinmetall: ربات‌ها در راه‌اند · شاه چارلز بر لزوم کنترل انسانی بر فناوری هوش مصنوعی تأکید کرد