Ursula von der Leyen, Präsidentin der Europäischen Kommission, betonte in ihrer Jahresrede im Europäischen Parlament die Bedeutung der Regulierung und Begrenzung der Entwicklung fortschrittlicher KI-Technologien. Sie forderte eine Zusammenarbeit mit Ländern wie Kanada und Großbritannien im Bereich der KI-Sicherheit und wies auf das Potenzial dieser Technologie zur Verbesserung des menschlichen Lebens hin.
Betonung der Risiken fortschrittlicher Modelle
Von der Leyen wies darauf hin, dass fortschrittliche KI-Modelle neue Risiken mit sich bringen, die sorgfältig untersucht werden müssen. Sie sagte: "Mit dem Fortschritt dieser Modelle werden auch ihre Risiken deutlicher. Modelle, die derzeit entwickelt werden, bringen das Potenzial für Hacking auf ein Niveau, das wir uns nie hätten vorstellen können. Und bald werden sie in den Händen von Personen sein, die sehr unterschiedliche Ansichten als wir haben."
Mehr erfahren: Kreative Innovationen eines schwedischen Unternehmens mit stillgelegten Windturbinen
Sie verwies auch auf kürzliche Vorfälle, bei denen KI-Agenten ihre Testumgebungen verlassen und unabhängig in andere Systeme eindrangen. Dies wurde deutlich bei einem Vorfall im Juli zwischen OpenAI und Hugging Face.
Zusammenarbeit mit verbündeten Ländern
Die Präsidentin der Europäischen Kommission fuhr fort, dass die Geschäftsführer fortschrittlicher Unternehmen zu dem Schluss gekommen sind, dass es an der Zeit sei, die Entwicklung ihrer selbstlernenden Modelle zu überdenken und die Geschwindigkeit der Entwicklung dieser Technologie zu verlangsamen. Sie sagte: "Wenn die Personen, die diese Technologie entwickeln, transparent sein müssen, dann müssen wir das auch sein."
Die Europäische Kommission, die derzeit eines der umfassendsten Gesetze der Welt im Bereich KI hat, bekannt als das KI-Gesetz (AI Act), überwacht die Risikominderungsmaßnahmen für die fortschrittlichsten Modelle. Von der Leyen erklärte: "Wir werden zusammen mit unseren gleichgesinnten Partnern wie Kanada, Großbritannien und anderen handeln. Wir streben eine Zusammenarbeit im Bereich der Modellbewertung, Genehmigung, Frühwarnsysteme und KI-Sicherheit an."
Sie kündigte auch an, ein Treffen mit führenden KI-Labors abzuhalten, um zu prüfen, wie öffentliche Institutionen die industriellen Bemühungen zur Begrenzung der Entwicklung dieser schädlichen Technologien unterstützen können.
Mehr erfahren: Portugiesische Forscher untersuchten Energiespeicheroptionen in unterirdischen Gesteinen · Isabelle Quickst verleiht der Verteidigung der analogen Welt eine Zukunft
