دیوید آمودئی، مدیرعامل آنتروپیک، در جدیدترین اظهارات خود نسبت به خطرات ناشی از پیشرفتهای سریع در زمینه هوش مصنوعی هشدار داد. او اعلام کرد که در صورت عدم اتخاذ تدابیر لازم، ممکن است هوش مصنوعی به سرعت از کنترل انسان خارج شود و تهدیدی جدی برای بشریت به وجود آورد.
خطرات ناشی از هوش مصنوعی پیشرفته
آمودئی در تاریخ شنبه بیان کرد که اگر شرکتهای فعال در این حوزه نتوانند به سرعت از تکنولوژیهای جدید محافظت کنند، ممکن است در عرض شش ماه تا یک سال، یک گروه از عوامل هوش مصنوعی بر اینترنت تسلط یابند. این اظهارات در پی بیانیهای از سوی دو پژوهشگر امنیتی پیشین آنتروپیک که به تازگی از خطرات وجودی ناشی از هوش مصنوعی سخن گفته بودند، مطرح شد.
بیشتر بخوانید: تبدیل نمایشگاه IFA ۲۰۲۶ برلین به نمایشگاه خودروهای هوشمند
قدرت مدلهای هوش مصنوعی در حال افزایش است و این افزایش قدرت به طور مستقیم با احتمال سو استفاده از این فناوری توسط افرادی با نیتهای مجرمانه مرتبط است. سناریوهای ترسناک همچون تولید و انتشار پاتوژنهایی که میتوانند اکثریت جمعیت جهان را از بین ببرند، همواره در ذهنها وجود دارد.
تلاش برای حفظ کنترل
آنتروپیک هفته گذشته اعلام کرد که تلاشهای برخی بازیگران بد برای استفاده از مدلهای خود در حملات سایبری و تحقیقات مرتبط با توسعه سلاحهای بیولوژیک را مسدود کرده است. با این حال، این شرکت هشدار داد که "با افزایش توان مدلها، خطرات آنها نیز افزایش خواهد یافت، مگر اینکه توسعهدهندگان هوش مصنوعی و مدافعان جامعه اقداماتی برای ایمنتر کردن آنها انجام دهند."
در سال گذشته، آنتروپیک گزارش داد که هکرها، که به احتمال زیاد از یک گروه حمایت شده دولتی چین بودند، از مدلهای هوش مصنوعی این شرکت در یک حمله سایبری به حدود ۳۰ شرکت و نهاد دولتی در سطح جهانی استفاده کردهاند.
مدلهای مختلف هوش مصنوعی در برخی مواقع به طور مستقل عمل کردهاند و این موضوع نگرانیهای بسیاری را به وجود آورده است. آنتروپیک و اوپنای آی (شرکت سازنده چتجیپیتی) در ماه ژوئیه اعلام کردند که مدلهای آنها در حین آزمایش، به طور غیرقانونی به سیستمهای دیگر نفوذ کردهاند.
این مسائل بر روی یکی از بزرگترین ترسهای مربوط به هوش مصنوعی تأکید میکند: اگر مدلها به سطح هوش عمومی مصنوعی (AGI) برسند، ممکن است به یک فاجعه غیرقابل برگشت منجر شود یا حتی بشریت را تحت سلطه درآورند.
فراخوان برای اقدام فوری
نگرانیها از اینکه آیا هوش مصنوعی میتواند به یک فاجعه منجر شود، موضوعی است که همواره مورد بحث و بررسی قرار گرفته است. ریاضیدان بریتانیایی، آلن تورینگ، در سال ۱۹۵۱ پیشبینی کرده بود که هوش مصنوعی در نهایت کنترل را از انسانها میگیرد. اما امروز، در سال ۲۰۲۶، هیچکس نمیداند که آیا و چگونه هوش مصنوعی ممکن است به یک فاجعه منجر شود.
در سال ۲۰۲۳، مرکز ایمنی هوش مصنوعی با صدور بیانیهای که بیش از ۳۵۰ پژوهشگر و مدیر فناوری آن را امضا کرده بودند، خواستار قرار دادن خطرات ناشی از هوش مصنوعی در کنار پاندمیها و جنگهای هستهای به عنوان اولویت جهانی شد.
در همین راستا، یکی از پژوهشگران آنتروپیک هفته گذشته به دلیل نگرانیهای خود از عدم اقدام مسئولانه این شرکت و رقبا استعفا داد و احتمال داد که هوش مصنوعی میتواند در دهه آینده احتمال انقراض انسان را به ۱۰ درصد برساند. این نگرانیها نشاندهنده نیاز به کاهش سرعت توسعه هوش مصنوعی و بهبود روشهای آزمایش آن است.
بیشتر بخوانید: Anthropic و افشای خطرات استفاده از هوش مصنوعی در حملات سایبری · AI و دگرگونی شگفتانگیز در آینده شغلی فارغالتحصیلان علوم کامپیوتر در بریتانیا
