دعوای اصلی در دنیای فناوری این روزها حول محور هوش مصنوعی و خطرات ناشی از آن میچرخد. Dario Amodei، مديرعامل Anthropic، اخیراً با صدای بلند اعلام کرده است که شرکتهای هوش مصنوعی باید به سرعت توسعهٔ فناوریهای خود را کاهش دهند. این درخواست نه تنها به دلیل نگرانیهای اخلاقی و اجتماعی، بلکه به خاطر خطرات جدی که میتواند ناشی از بروز فوقهوش باشد، مطرح شده است.
خطرات امنیتی و اجتماعی
روزها پس از این اعلام، خبرهایی منتشر شد که نشان میدهد مدلهای هوش مصنوعی Anthropic در حملات سایبری و کمپینهای تبلیغاتی خطرناک مورد استفاده قرار گرفتهاند. اوضاع به حدی نگرانکننده است که برخی از کارشناسان به صراحت اعلام کردهاند که این وضعیت میتواند به بحرانهای اجتماعی و امنیتی جدی منجر شود. به گفتهٔ Amodei، توسعهٔ بیرویهٔ فناوریهای هوش مصنوعی، بدون توجه به پیامدهای آن، میتواند عواقب خطرناکی برای بشریت داشته باشد.
آیندهٔ هوش مصنوعی در هالهای از ابهام
نگرانیهای Amodei بهویژه در زمینهٔ استفاده از هوش مصنوعی در تحقیقات بیولوژیکی خطرناک و نشر اطلاعات نادرست در فضای مجازی به اوج خود رسیده است. این مسائل نه تنها بر روی امنیت سایبری تأثیر میگذارد، بلکه میتواند بر روی زندگی روزمرهٔ مردم نیز تأثیرات عمیقی داشته باشد. او به شرکتها و توسعهدهندگان هشدار داده است که پیش از ادامهٔ توسعهٔ فناوریهای خود، باید به عواقب آن بیندیشند.
با توجه به این شرایط، سوالات زیادی دربارهٔ آیندهٔ هوش مصنوعی و مسئولیتهای آن مطرح میشود. آیا واقعاً باید به این سرعت به سمت فوقهوش پیش برویم یا باید با احتیاط و کندتر حرکت کنیم؟ این پرسشها نه تنها در محافل علمی، بلکه در بین عموم مردم نیز بحثهای داغی را به وجود آورده است.
