Im Ringen um die Kontrolle von rasant mächtigeren KI-Modellen bildet sich eine neue Allianz: Deutschland und eine Gruppe von 21 weiteren Staaten – darunter Australien, Kanada, Südafrika, Kenia, mehrere Golfstaaten und europäische Länder – haben am Montag eine Erklärung zur besseren Steuerung und Überwachung von KI-Modellen verabschiedet.

Darin fordern sie, dass die neue Technik „unter menschlicher Anleitung, Aufsicht und Kontrolle bleiben muss“. Zudem plädieren die Länder dafür, eine globale KI-Aufsicht zu schaffen. Die Erklärung wurde am Rande der Generalversammlung der Vereinten Nationen angenommen, die in dieser Woche stattfindet.

Der Vorstoß erfolgt im Vorfeld des für Donnerstag geplanten Treffens zwischen US-Präsident Donald Trump und dem chinesischen Präsidenten Xi Jinping, den Staatschefs der weltweit führenden KI‑Nationen.

Zwar haben weder die USA noch China die Erklärung unterzeichnet – doch der finnische Präsident Alexander Stubb, einer der Hauptinitiatoren, will weitere Staaten einbinden: „Ich denke, sowohl China als auch die Vereinigten Staaten haben ein Interesse daran, gewisse Leitplanken zu haben. Unsere Botschaft lautet: Es braucht menschliches Eingreifen. Menschen müssen die Kontrolle behalten“, sagte er der WELT-Partnerpublikation „Politico“ in einem Interview.

Die Länder warnen in der Erklärung davor, dass die „rasante Entwicklung von Frontier-KI-Modellen erhebliche Risiken für die Sicherheit“ mit sich bringe. Daher müsse sie angemessen kontrolliert werden.

KI-Unternehmen sollen verpflichtet werden, transparente Sicherheitsprotokolle einzuführen. Dazu gehören verpflichtende Tests vor der Einführung neuer Systeme sowie unabhängige Bewertungen durch qualifizierte Prüfer. Das Dokument geht jedoch nicht so weit, eine Verlangsamung oder einen Stopp der KI-Entwicklung zu fordern: Die Organisatoren erklären, sie wollten sich stattdessen auf das Risikomanagement konzentrieren.

Dafür sollten Staaten „gemeinsame Standards weiterentwickeln und koordinieren“ sowie die Transparenz stärken, etwa durch einen gemeinsamen Austausch über Sicherheitsvorfälle.

Außerdem sollten die Mitgliedstaaten prüfen, ob eine internationale Institution zur KI-Aufsicht eingerichtet werden kann. Stubb sprach sich dafür aus, diese nach dem Vorbild der Internationalen Atomenergiebehörde (IAEA) innerhalb des UN-Systems aufzubauen. So hatte sich auch Digitalminister Karsten Wildberger im „Politico“-Interview geäußert.

Mit Blick auf Trumps Skepsis gegenüber den Vereinten Nationen ergänzte Stubb jedoch: „Wir müssen die Formulierung offen halten, damit niemand die Idee allein deshalb ablehnt, weil sie im Rahmen der Vereinten Nationen angesiedelt wäre.“

Norwegens Ministerpräsident Jonas Gahr Støre, der die Erklärung gemeinsam mit Stubb initiierte, sagte: „Wir würden es sehr begrüßen, wenn sowohl die G7 als auch die künftige britische G20-Präsidentschaft dieses Thema aufgreifen. Die Vereinten Nationen sind groß, die G7 und G20 sind etwas fokussierter.“

Mehrere Unterschriften fehlen noch

Das Vereinigte Königreich hat die Erklärung jedoch noch nicht unterzeichnet, auch Unterschriften aus Frankreich, Italien und Polen fehlen.

Stubb fügte hinzu, dass weder er noch Støre in Bezug auf künstliche Intelligenz „Untergangspropheten“ seien, nannte jedoch drei Gründe, warum das Fehlen einer wirksamen Aufsicht bedrohlich sei: durch KI geschaffene Biowaffen, Cyberangriffe durch KI-Agenten und tödliche Angriffe durch KI-gesteuerte Waffen könnten zunehmen.

Stubb betonte jedoch, dass der Nutzen der KI „weitaus größer“ als die Gefahren sein könne — sofern die Technologie richtig eingesetzt werde —, und reiche von „der Ausrottung von Krankheiten über Produktivitätssteigerungen bis hin zu Informationsgewinn und vielen anderen Dingen“.

Haftungsausschluss: Das Urheberrecht dieses Artikels liegt bei seinem ursprünglichen Autor. Der Zweck dieses Artikels besteht in der erneuten Veröffentlichung zu ausschließlich Informationszwecken und stellt keine Anlageberatung dar. Sollten dennoch Verstöße vorliegen, nehmen Sie bitte umgehend Kontakt mit uns auf. Korrektur Oder wir werden Maßnahmen zur Löschung ergreifen. Danke