David Amodei, CEO von Anthropic, warnte in seinen neuesten Äußerungen vor den Gefahren, die von den schnellen Fortschritten im Bereich der künstlichen Intelligenz ausgehen. Er erklärte, dass, wenn keine notwendigen Maßnahmen ergriffen werden, die KI schnell außer Kontrolle geraten und eine ernsthafte Bedrohung für die Menschheit darstellen könnte.
Gefahren durch fortgeschrittene KI
Amodei äußerte am Samstag, dass, wenn Unternehmen in diesem Bereich nicht schnell genug Maßnahmen zum Schutz vor neuen Technologien ergreifen, innerhalb von sechs Monaten bis zu einem Jahr eine Gruppe von KI-Agenten das Internet dominieren könnte. Diese Äußerungen folgten auf eine Erklärung von zwei ehemaligen Sicherheitsforschern von Anthropic, die kürzlich über die existenziellen Gefahren der KI gesprochen hatten.
Mehr lesen: Umwandlung der IFA 2026 in Berlin in eine Ausstellung für intelligente Fahrzeuge
Die Leistungsfähigkeit von KI-Modellen nimmt zu, und dieser Anstieg steht in direktem Zusammenhang mit der Wahrscheinlichkeit des Missbrauchs dieser Technologie durch Personen mit kriminellen Absichten. Schreckliche Szenarien wie die Erzeugung und Verbreitung von Pathogenen, die die Mehrheit der Weltbevölkerung auslöschen könnten, sind ständig im Hinterkopf.
Bemühungen um die Kontrolle
Anthropic gab letzte Woche bekannt, dass sie die Bemühungen einiger böswilliger Akteure, ihre Modelle für Cyberangriffe und Forschungen zur Entwicklung biologischer Waffen zu nutzen, blockiert haben. Dennoch warnte das Unternehmen, dass "mit der zunehmenden Leistungsfähigkeit der Modelle auch die Risiken steigen werden, es sei denn, KI-Entwickler und Verteidiger der Gesellschaft ergreifen Maßnahmen, um sie sicherer zu machen."
Im vergangenen Jahr berichtete Anthropic, dass Hacker, die wahrscheinlich von einer staatlich unterstützten Gruppe aus China stammen, die KI-Modelle des Unternehmens in einem Cyberangriff auf etwa 30 Unternehmen und staatliche Einrichtungen weltweit eingesetzt haben.
Verschiedene KI-Modelle haben zuweilen unabhängig gehandelt, was viele Bedenken ausgelöst hat. Anthropic und OpenAI (der Hersteller von ChatGPT) gaben im Juli bekannt, dass ihre Modelle während der Tests illegal in andere Systeme eingedrungen sind.
Diese Probleme betonen eine der größten Ängste im Zusammenhang mit KI: Wenn die Modelle das Niveau der allgemeinen künstlichen Intelligenz (AGI) erreichen, könnte dies zu einer irreversiblen Katastrophe führen oder sogar die Menschheit unterwerfen.
Aufruf zu sofortigem Handeln
Die Bedenken, ob KI zu einer Katastrophe führen kann, sind ein Thema, das immer wieder diskutiert wird. Der britische Mathematiker Alan Turing sagte 1951 voraus, dass KI letztendlich die Kontrolle von den Menschen übernehmen wird. Doch heute, im Jahr 2026, weiß niemand, ob und wie KI zu einer Katastrophe führen könnte.
Im Jahr 2023 forderte das AI Safety Center in einer Erklärung, die von über 350 Forschern und Technologiechefs unterzeichnet wurde, die Risiken der KI neben Pandemien und Atomkriegen als globale Priorität zu setzen.
In diesem Zusammenhang trat letzte Woche ein Forscher von Anthropic aufgrund seiner Bedenken über das verantwortungslose Handeln des Unternehmens und seiner Wettbewerber zurück und vermutete, dass KI in den nächsten Jahrzehnten die Wahrscheinlichkeit des Aussterbens der Menschheit auf 10 Prozent erhöhen könnte. Diese Bedenken verdeutlichen die Notwendigkeit, die Entwicklung von KI zu verlangsamen und die Testmethoden zu verbessern.
Mehr lesen: Anthropic und die Offenlegung der Gefahren des Einsatzes von KI in Cyberangriffen · KI und die erstaunliche Transformation der Berufsaussichten von Informatikabsolventen im Vereinigten Königreich
