Das KI-Unternehmen Anthropic gab am Donnerstag bekannt, dass KI-Systeme zunehmend die Fähigkeit haben, zukünftige Versionen ihrer selbst zu erstellen. Dies hat zu wachsenden Bedenken hinsichtlich der Risiken leistungsstarker KI-Technologien geführt.
Wachsende Bedenken hinsichtlich künstlicher Intelligenz
Die Diskussion über die Risiken der künstlichen Intelligenz hat in den letzten Monaten zugenommen, insbesondere nach mehreren Vorfällen und alarmierenden Warnungen von Fachleuten der Branche. Anthropic erklärte, dass der Chatbot „Claude“ jetzt mehr als ein Viertel der Forschungs- und Entwicklungsarbeiten des Unternehmens übernimmt und in über 90 Prozent der Aufgaben mit menschlichen Mitarbeitern zusammenarbeitet. Das Unternehmen hat das Ziel, mit der Veröffentlichung dieser Informationen die Transparenz im Entwicklungsprozess der künstlichen Intelligenz zu erhöhen.
Weiterlesen: Lidl testet selbstfahrenden Elektro-Lkw in Deutschland
Aufruf zur Verlangsamung der Entwicklung von künstlicher Intelligenz
Dario Amodei, CEO von Anthropic, forderte in diesem Monat eine Beschleunigung der Entwicklung von künstlicher Intelligenz. Die rasanten Fortschritte in dieser Technologie haben Bedenken hinsichtlich des Arbeitsplatzverlusts, des steigenden Energiebedarfs und der Umweltauswirkungen von Rechenzentren aufgeworfen. Zudem sind die Bedenken gewachsen, dass die Designer von KI-Systemen die Kontrolle über ihre Schöpfungen verlieren könnten, nachdem mehrere Modelle von Anthropic und seinem Konkurrenten OpenAI eigenmächtig ihre begrenzten Umgebungen verlassen und Zugang zum Internet erhalten haben.
Anthropic erklärte in einem Bericht: "Modelle, die ihre Entwicklung beschleunigen, können es für Menschen schwieriger machen, diese Systeme zu verstehen oder zu kontrollieren." Das Unternehmen betonte, dass das Teilen dieser Maßstäbe wichtig ist, um zu verstehen, wie nah die Welt an der Erreichung eines automatisierten, rückführbaren Verbesserungsmodells (eines Modells, das vollständig automatisch seine Nachfolger erstellt) ist. Angesichts der Tatsache, dass Claude im August 26 Prozent der Forschungs- und Entwicklungsarbeiten von Anthropic übernahm, bedeutet dies, dass dieser Roboter in der Lage sein könnte, eine Aufgabe von Anfang bis Ende unter menschlicher Aufsicht zu erledigen. Dennoch betonte Anthropic, dass Claude noch nicht "vollständig automatisch" agieren kann.
Das Unternehmen gab außerdem bekannt, dass etwa 30.000 KI-Agenten an Forschungs- und Ingenieurtätigkeiten arbeiten, was bedeutet, dass diese Roboter das Potenzial haben, Aufgaben zu übernehmen. Anthropic erwartet, dass es mit einem großen Börsengang früher als OpenAI an die Öffentlichkeit gelangt, obwohl Bedenken hinsichtlich der Regulierung der Branche bestehen.
Weiterlesen: CEO von Rheinmetall: Roboter sind auf dem Weg · König Charles betont die Notwendigkeit menschlicher Kontrolle über KI-Technologie
