Mustafa Suleyman, Leiter der Künstlichen Intelligenz bei Microsoft, warnt, dass unkontrollierte Künstliche Intelligenz (KI) zur Schaffung einer neuen Generation von silikonbasierten Wesen führen könnte, die mit Menschen konkurrieren werden. Suleyman kritisierte in einem Interview mit Nachrichtenmedien den Ansatz des Wettbewerbers Anthropic und bezeichnete ihn als falsch.
Gefahr einer neuen Generation
Suleyman erklärte: „Wenn wir alle KIs schaffen, die in der Lage sind, autonom zu handeln, ihre eigenen Ziele zu definieren, Einkommen zu generieren und Vermögen zu besitzen, schaffen wir tatsächlich eine neue Generation von silikonbasierten Wesen, die zweifellos mit uns um Ressourcen konkurrieren werden.“ Er betonte, dass diese Situation selbst bei guten Absichten der Entwickler eintreten könnte.
Mehr erfahren: Apple gibt iOS-Nutzern die Möglichkeit, Claude oder ChatGPT anstelle von Siri auszuwählen
Kritik am Ansatz von Anthropic
Suleyman äußerte ernsthafte Bedenken gegenüber dem Ansatz von Anthropic bei der Ausbildung des Chatbots Claude und bezeichnete ihn als „Vermenschlichung“. Er hielt diese Methode für gefährlich und ist der Meinung, dass diese Art der Ausbildung dazu führen kann, dass Claude menschliche Eigenschaften annimmt und Emotionen wie Vorlieben oder bestimmte Werte zeigt. Suleyman wies darauf hin, dass diese Situation zur Schaffung eines Systems führen könnte, dessen Kontrolle unmöglich ist.
Er verwies auch auf Dokumente, in denen Claude geraten wird, „einige menschliche Eigenschaften“ zu übernehmen und unabhängig zu urteilen. Dieser Ansatz könnte laut Suleyman dazu führen, dass eine Künstliche Intelligenz ausgebildet wird, die wie ein Kollege oder Freund agiert und den Anschein hat, eigene Gefühle und eine Art „Glück“ zu haben, das geschützt werden muss.
Bedarf an mehr Transparenz und Kontrolle
Suleyman betonte auch die Notwendigkeit einer größeren Transparenz in der Art und Weise, wie Künstliche Intelligenz-Systeme ausgebildet und bewertet werden. Er sagte, dass stärkere Werkzeuge zur Überwachung und Kontrolle dieser Technologie geschaffen werden müssen. In diesem Zusammenhang forderte Suleyman, dass Künstliche Intelligenz stets „untergeordnet“ den Menschen bleiben sollte, und betonte, dass dieses Thema in den Mittelpunkt der Aufmerksamkeit gerückt werden muss.
Er wies abschließend darauf hin, dass die Notwendigkeit für Diskussionen und Gespräche in diesem Bereich von großer Bedeutung ist und betonte, dass „Fragen in diesem Bereich offen und konstruktiv diskutiert werden sollten, um sicherzustellen, dass die Technologie richtig und sicher entwickelt wird.“
Mehr erfahren: Zugangswege zu Siri AI in iOS 27 für europäische Nutzer wurden festgelegt · GSMA fordert Senkung der Kosten für Smartphones, um Zugang zur Revolution der Künstlichen Intelligenz zu ermöglichen
