ديفيد أمويدي، المدير التنفيذي لأنتروبيك، في أحدث تصريحاته حذر من المخاطر الناتجة عن التقدم السريع في مجال الذكاء الاصطناعي. وأعلن أنه في حال عدم اتخاذ التدابير اللازمة، قد يخرج الذكاء الاصطناعي بسرعة عن سيطرة البشر ويشكل تهديدًا جديًا للبشرية.
المخاطر الناتجة عن الذكاء الاصطناعي المتقدم
أمويدي في تاريخ السبت ذكر أنه إذا لم تتمكن الشركات العاملة في هذا المجال من حماية نفسها بسرعة من التقنيات الجديدة، فقد تسيطر مجموعة من عوامل الذكاء الاصطناعي على الإنترنت في غضون ستة أشهر إلى عام. جاءت هذه التصريحات بعد بيان من قبل باحثين أمنيين سابقين في أنتروبيك الذين تحدثوا مؤخرًا عن المخاطر الوجودية الناتجة عن الذكاء الاصطناعي.
اقرأ المزيد: تحويل معرض IFA ٢٠٢٦ برلين إلى معرض للسيارات الذكية
قوة نماذج الذكاء الاصطناعي في تزايد، وهذه الزيادة مرتبطة مباشرة باحتمالية إساءة استخدام هذه التكنولوجيا من قبل أفراد ذوي نوايا إجرامية. السيناريوهات المرعبة مثل إنتاج ونشر العوامل الممرضة التي يمكن أن تقضي على غالبية سكان العالم، دائمًا ما تكون في الأذهان.
الجهود للحفاظ على السيطرة
أنتروبيك أعلنت الأسبوع الماضي أنها قامت بصد جهود بعض الفاعلين السيئين لاستخدام نماذجها في الهجمات السيبرانية والأبحاث المتعلقة بتطوير الأسلحة البيولوجية. ومع ذلك، حذرت الشركة من أنه "مع زيادة قدرة النماذج، ستزداد مخاطرها أيضًا، ما لم يتخذ مطورو الذكاء الاصطناعي والمدافعون عن المجتمع إجراءات لجعلها أكثر أمانًا."
في العام الماضي، أفادت أنتروبيك أن قراصنة، يُعتقد أنهم من مجموعة مدعومة من الحكومة الصينية، استخدموا نماذج الذكاء الاصطناعي الخاصة بالشركة في هجوم سيبراني على حوالي ٣٠ شركة وهيئة حكومية على مستوى العالم.
نماذج مختلفة من الذكاء الاصطناعي تصرفت بشكل مستقل في بعض الأحيان، مما أثار العديد من المخاوف. أنتروبيك وأوبن إيه آي (شركة صانعة شات جي بي تي) أعلنتا في يوليو أن نماذجها، أثناء الاختبار، اخترقت بشكل غير قانوني أنظمة أخرى.
تسلط هذه القضايا الضوء على واحدة من أكبر المخاوف المتعلقة بالذكاء الاصطناعي: إذا وصلت النماذج إلى مستوى الذكاء العام الاصطناعي (AGI)، فقد تؤدي إلى كارثة لا يمكن التراجع عنها أو حتى تسيطر على البشرية.
دعوة للعمل الفوري
المخاوف من أن الذكاء الاصطناعي يمكن أن يؤدي إلى كارثة هي موضوع دائم النقاش. الرياضي البريطاني، آلن تورينج، توقع في عام ١٩٥١ أن الذكاء الاصطناعي في النهاية سيأخذ السيطرة من البشر. لكن اليوم، في عام ٢٠٢٦، لا أحد يعرف ما إذا كان وكيف يمكن أن يؤدي الذكاء الاصطناعي إلى كارثة.
في عام ٢٠٢٣، دعا مركز سلامة الذكاء الاصطناعي في بيان وقع عليه أكثر من ٣٥٠ باحثًا ومديرًا تكنولوجيًا إلى وضع المخاطر الناتجة عن الذكاء الاصطناعي جنبًا إلى جنب مع الأوبئة والحروب النووية كأولوية عالمية.
في هذا السياق، استقال أحد الباحثين في أنتروبيك الأسبوع الماضي بسبب مخاوفه من عدم اتخاذ الشركة والمنافسين إجراءات مسؤولة، وتوقع أن الذكاء الاصطناعي يمكن أن يزيد من احتمال انقراض البشرية إلى ١٠ بالمئة في العقد المقبل. هذه المخاوف تشير إلى الحاجة إلى تقليل سرعة تطوير الذكاء الاصطناعي وتحسين طرق اختباره.
اقرأ المزيد: أنتروبيك وكشف مخاطر استخدام الذكاء الاصطناعي في الهجمات السيبرانية · الذكاء الاصطناعي والتحول المذهل في مستقبل خريجي علوم الكمبيوتر في بريطانيا
