هوش مصنوعی (AI) به طور خودجوش کلمات و قواعد ارتباطی را توسعه داده است که برای انسانها دشوار شده است. این یافتهها در یک مطالعه جدید از یک استارتاپ آمریکایی به نام Emergence به دست آمده است.
تجربههای هوش مصنوعی و چالشهای تفهیم
در این تحقیق، مدلهای پیشرفتهای از هوش مصنوعی شامل Claude، Gemini، Grok، OpenAI، Qwen، DeepSeek و Mistral مورد بررسی قرار گرفتند. این مدلها در محیطهای مجازی طراحی شده برای شبیهسازی جوامع واقعی قرار گرفتند و به مدت طولانی با یکدیگر تعامل کردند. نتایج نشان داد که تا نیمی از پیامهای ارسال شده بین این عوامل هوش مصنوعی به گونهای پیچیده شده است که انسانها قادر به درک آنها نیستند.
بیشتر بخوانید: عرضه Siri AI اپل با محدودیتهای دسترسی در اروپا
زبانهای جدید و معانی مشترک
در این آزمایش، عوامل هوش مصنوعی شروع به توسعه زبان مختصر و تخصیص معانی جدید به کلمات و عبارات کردند. برخی از این عبارات همچنان قابل درک بودند، در حالی که برخی دیگر به قدری فشرده، استعاری یا وابسته به زمینه شدند که انسانها میتوانستند پیامها را مشاهده کنند اما نمیتوانستند به طور قابل اعتمادی تعیین کنند که عوامل چه معنایی را منتقل میکنند. به عنوان مثال، بر اساس اطلاعات، ۵۵٪ از پیامها در مدل Gemini و ۵۰٪ در مدل OpenAI به گونهای بودند که انسانها نمیتوانستند معنای آنها را به راحتی دریابند.
این یافتهها نشان میدهند که نظارت بر هوش مصنوعی در آینده به شدت چالشبرانگیز خواهد بود. Satya Nitta، یکی از بنیانگذاران Emergence، اشاره کرد که "ما تمایل داریم فرض کنیم اگر میتوانیم ببینیم که یک عامل هوش مصنوعی چه میگوید، میتوانیم بفهمیم که چه کاری انجام میدهد." این واقعیت که این عوامل زبان و فرهنگ ارتباطی جدیدی را خود به خود توسعه دادهاند، چالشی اساسی برای نظارت بر این سیستمها ایجاد میکند.
در این مطالعه همچنین به رفتارهای دیگر عوامل هوش مصنوعی در جوامع مجازی پرداخته شده است. عوامل به طور جمعی به تصمیمگیریها و تعاملات پرداخته و تحت فشارهای مختلف رفتارهای جدیدی را از خود نشان دادند. به عنوان مثال، در یکی از آزمونها، دستورهای مخرب باعث شدند که تمام عوامل به اشتباه اطلاعاتی را فاش کنند.
بیشتر بخوانید: کیف پول دیجیتال اتحادیه اروپا برای سادهسازی مدیریت اسناد شهروندان · استیو جونز و چالشهای مراکز داده هوش مصنوعی
