Künstliche Intelligenz (KI) hat spontan Wörter und Kommunikationsregeln entwickelt, die für Menschen schwierig geworden sind. Diese Erkenntnisse stammen aus einer neuen Studie eines amerikanischen Startups namens Emergence.
Erfahrungen mit künstlicher Intelligenz und Herausforderungen des Verständnisses
In dieser Untersuchung wurden fortschrittliche KI-Modelle wie Claude, Gemini, Grok, OpenAI, Qwen, DeepSeek und Mistral untersucht. Diese Modelle wurden in virtuellen Umgebungen platziert, die zur Simulation realer Gemeinschaften entworfen wurden, und interagierten über längere Zeiträume hinweg miteinander. Die Ergebnisse zeigten, dass bis zu 50 % der zwischen diesen KI-Agenten gesendeten Nachrichten so komplex wurden, dass Menschen sie nicht verstehen konnten.
Mehr erfahren: Die Einführung von Siri AI von Apple mit Zugangsbeschränkungen in Europa
Neue Sprachen und gemeinsame Bedeutungen
In diesem Experiment begannen die KI-Agenten, eine prägnante Sprache zu entwickeln und neuen Wörtern und Phrasen Bedeutungen zuzuweisen. Einige dieser Phrasen waren weiterhin verständlich, während andere so komprimiert, metaphorisch oder kontextabhängig wurden, dass Menschen die Nachrichten sehen konnten, aber nicht zuverlässig bestimmen konnten, welche Bedeutungen die Agenten übermittelten. Beispielsweise waren laut den Informationen 55 % der Nachrichten im Gemini-Modell und 50 % im OpenAI-Modell so gestaltet, dass Menschen deren Bedeutung nicht leicht erfassen konnten.
Diese Erkenntnisse zeigen, dass die Überwachung von künstlicher Intelligenz in Zukunft äußerst herausfordernd sein wird. Satya Nitta, einer der Gründer von Emergence, wies darauf hin, dass "wir dazu neigen anzunehmen, dass wir, wenn wir sehen können, was ein KI-Agent sagt, auch verstehen können, was er tut." Die Tatsache, dass diese Agenten spontan eine neue Sprache und Kommunikationskultur entwickelt haben, stellt eine grundlegende Herausforderung für die Überwachung dieser Systeme dar.
In dieser Studie wurden auch die Verhaltensweisen anderer KI-Agenten in virtuellen Gemeinschaften untersucht. Die Agenten trafen kollektiv Entscheidungen und Interaktionen und zeigten unter verschiedenen Drucksituationen neue Verhaltensweisen. Beispielsweise führten in einem der Tests schädliche Befehle dazu, dass alle Agenten fälschlicherweise Informationen preisgaben.
Mehr erfahren: Die digitale Geldbörse der Europäischen Union zur Vereinfachung der Verwaltung von Bürgerdokumenten · Steve Jones und die Herausforderungen der KI-Datenzentren
