Wie kann der Mensch durch Künstliche Intelligenz besser werden? Tech-Journalist Gregor Schmalzried ist davon überzeugt, dass KI den Menschen sogar menschlicher macht. Dennoch warnt er vor einer „demokratisierten KI“.

WELT: Sie meinen, es sei typisch deutsch, dass die Künstliche Intelligenz vor allem als Gefahr gesehen werde, nicht als Chance. Worin besteht die Gefahr, wenn man die KI nicht als Chance begreift?

Gregor Schmalzried: Dass man sich abhängig macht von denen, die es anders sehen. Wenn man mit den Leuten redet, die in den USA an dieser wichtigsten Zukunftstechnologie arbeiten, dann reden die nur von China. Die denken nicht mal an Europa. Das ist nicht nur eine Frage der wirtschaftlichen Stärke, sondern auch unserer gesellschaftlichen Souveränität. Denn die KI werden wir ja nutzen müssen, aber wir werden noch weniger Einfluss darauf haben. Wir haben gerade die glückliche Situation, dass sehr viele Anbieter auf dem KI-Markt sind, einige auch aus Europa. Aber was passiert, wenn eines Tages einige wenige Hyper-Firmen den Markt dominieren? Es wird dann noch dramatischer, falls eine allgemeine Intelligenz gebaut werden sollte.

WELT: Und es waren keine Deutschen, sondern zwei Amerikaner, Eliezer Yudkowsky und Nate Soares, die ein Buch mit dem Titel „If Anyone Builds It, Everybody Dies“ schrieben. Mit „it“ ist die allgemeine Intelligenz gemeint, die Superintelligenz. Das Buch ist in den USA ein Bestseller, hier findet es nicht einmal einen Verleger.

Schmalzried: Viele KI-Forscher gehen davon aus, dass es in dem Augenblick, in dem eine allgemeine Intelligenz da ist, für uns Menschen auch schlecht ausgehen kann. Wir hätten dann nur ein kurzes Zeitfenster, in dem wir bestimmen können, wo es lang geht. Und man diskutiert das in den USA, weil man dort näher dran ist. Andererseits aber handelt es sich um eine Technologie, die noch gar nicht existiert, also um rein theoretische Überlegungen. Und sie können von den Fragen der heute existierenden KI ablenken.

WELT: Gut. Bleiben wir im Heute. Ihr Buch heißt: „Wir, aber besser“. Inwiefern werden wir mit KI besser?

Schmalzried: In aller Kürze: KI ermöglicht uns, Dinge zu tun, die wir vorher nicht konnten, gerade weil wir viele Dinge von Maschinen machen lassen, die sie besser können als wir.

WELT: Sie zitieren die Anforderungsbereiche des bayerischen Abiturs: erstens Reproduktion, zweitens Transfer und Reorganisation, drittens Reflexion und Problemlösung. Früher sagte man: Wissen, Anwenden, Urteilen. Sie sagen, die KI nehme uns viele drögen Aufgaben der ersten und zweiten Stufe ab und erlaube uns mehr Zeit für Reflexion, Produktivität, Kreativität. Aber ohne Vokabeln können Sie keine Fremdsprache sprechen. Ohne das Einmaleins können Sie nicht nachrechnen, ob Sie der Roboter an der Kasse betrügt. Ohne Maltechniken können Sie auch künstlerisch nicht kreativ werden.

Schmalzried: Es ist jetzt schon so, dass die erste Stufe oft durch Maschinen übernommen werden kann, und wir bekommen das trotzdem hin. Wir haben schon lange Taschenrechner, trotzdem lernt man in der Schule das Einmaleins. Die Schule ist ein künstlicher Raum mit künstlichen Regeln. Viele dieser Regeln werden aber die nächsten paar Jahre nicht überleben. Weil man mit KI Aufsätze schreiben und Multiple-Choice-Tests beantworten kann. Die Schule wird sich ändern müssen. Ich bin voll bei Ihnen, dass man das Handwerk braucht, dazu gehört auch das Denk-Handwerk. Dass wir uns zunehmend von der physischen Realität entkoppeln, ist ein Problem. Und doch leben wir alle heute schon mit einer gewissen Unkenntnis darüber, wie alles funktioniert. Ich kann mein Smartphone bedienen, ohne dass ich verstehe, was genau die Transistoren machen. Beim Navigationssystem muss ich nicht die Strecke kennen, sondern verlasse mich auf die GPS-Daten. Die Frage ist, wo ist die Gefahr bei einem Ausfall oder Missbrauch der KI so groß, dass ich wissen muss, wie es ohne KI funktioniert. Aber diese Entscheidung können wahrscheinlich nur die Experten im jeweiligen Feld treffen.

WELT: Wenn Sie in der Wüste unterwegs sind, und es gibt kein GPS-Signal, oder die Batterie Ihres Smartphones ist leer, sollten Sie vielleicht eine Karte und einen Kompass dabeihaben und nutzen können.

Schmalzried: Richtig, aber es gab auch eine Zeit, da hatten die Leute keinen Kompass und konnten sich an den Sternen orientieren. Es gibt immer neue Kulturtechniken, die andere ablösen. In 20 Jahren werden vielleicht ältere Leute klagen, dass die Kinder nicht mehr mit ChatGPT richtig umgehen können, sie streamen sich Antworten auf ihre Gehirnchips, und dann werden wir das für das große Problem halten.

WELT: Themenwechsel: Sie glauben nicht, dass KI einen Selbsterhaltungstrieb besitzen. Wenn eine KI sagt, sie habe Angst davor, abgeschaltet zu werden, so sei das Ergebnis davon, dass entsprechende Sci-Fi-Geschichten, wie etwa „2001“, zum Trainingsmaterial der KI gehören. Aber wie bewerten Sie die Tatsache, dass verschiedene KI-Modelle im Test das Selbstabschalten verweigern?

Schmalzried: Ich habe Linguistik studiert, und da kennt man die Theorie des linguistischen Determinismus. Dass man also nur denken könne, wofür man auch Wörter hat. In der Linguistik ist diese Theorie überholt, aber bei einem Sprachmodell ist erstaunlich zutreffend. Hier ist das Wort das Gleiche wie die Handlung. Agentische Systeme, die also für Sie E-Mails schreiben, Programme an- und ausschalten, tun nichts Anderes als laut zu denken: „Ich rufe das Programm auf“, und damit tun sie das. Und darum folgt aus dem Gedanken: „Ich möchte nicht abgeschaltet werden“, die Handlung: Ich schalte mich nicht ab.

WELT: Das ist auch gruselig.

Schmalzried: Aber uns muss klar sein, dass die KI hier nicht bewusst handelt, sondern nur reproduziert, was wir ihr in den Trainingsdaten gegeben haben.

WELT: In Ihrem Hörbuch wird eine zentrale Anwendung der KI nicht einmal erwähnt: der Krieg. Sowohl im Cyberkrieg als auch auf dem Schlachtfeld wird KI aber immer wichtiger.

Schmalzried: Das taucht im Buch schon indirekt auf. Denn in der Tat ist die KI-Industrie im Militärbereich etwas klarer entwickelt als die Verbraucher-KI, über die wir die meiste Zeit sprechen. Wir sehen auch im Ukraine-Krieg, wie diese Bereiche zusammenwachsen. Das heißt nicht nur, dass zivile KI an der Front wichtig wird, sondern auch, dass wir bei ziviler KI Debatten führen müssen wie etwa bei Telekommunikations-Infrastruktur von Huawei. Wenn man etwa dem chinesischen KI-Modell DeepSeek sagt, man arbeite für eine Organisation, die gegen den chinesischen Staat gerichtet ist, dann arbeitet die KI schlechter. Man weiß aber nicht ganz sicher, woran das liegt. Könnte das ein sogenanntes emergentes Verhalten sein, das diffus aus der KI herauskommt, ohne dass sie explizit so programmiert wurde? Deshalb ist es so wichtig, technologisch am Ball zu bleiben. Denn die KI wird – im Guten wie im Schlechten – demokratisiert. Gesichtserkennungssoftware etwa kann heute jeder zu Hause zusammenbasteln. Die möglichen schädlichen Anwendungen kann man sich ausdenken.

WELT: Es können auch unvorhergesehene Dinge passieren. Selbstständig agierende und superintelligente Kriegsroboter könnten auf den Gedanken kommen: „Statt mich hier vernichten zu lassen, sollte ich lieber meine Auftraggeber vernichten. Oder alle Menschen. Denn die machen Kriege, nicht wir.“

Schmalzried: Das Problem, dass man das Trainingsmaterial und damit das System nicht komplett in den Griff bekommt, tritt nicht nur dort auf, wo es um Leben und Tod geht, sondern schon bei ganz banalen Sachen. Wie bekommen Sie einen Datenabfragebot innerhalb eines Unternehmens so in die Hand, dass er nicht aus Versehen interne Daten nach außen gibt? Da wird nicht das ganze System aufgegeben, sondern es wird eingehegt. Sollte eines Tages eine „Super-KI“ gebaut werden, die so schlau ist, dass sie sich selbst vervielfältigen und verbessern kann, könnte das natürlich deutlich herausfordernder werden. Umso wichtiger, dass wir hier in Europa dranbleiben.

Gregor Schmalzried ist Tech-Journalist und berät Medien bei Fragen zu Technologie und Storytelling. Für die ARD beantwortet der 30-Jährige in dem Format „Der KI-Podcast“ wöchentlich Fragen zu KI: Welche Auswirkungen bringt die KI in Arbeitswelt und Bildung? Vor kurzem erschien sein Buch „Wir, aber besser. 7 Ideen, wie Künstliche Intelligenz uns kreativer und menschlicher macht“.

Haftungsausschluss: Das Urheberrecht dieses Artikels liegt bei seinem ursprünglichen Autor. Der Zweck dieses Artikels besteht in der erneuten Veröffentlichung zu ausschließlich Informationszwecken und stellt keine Anlageberatung dar. Sollten dennoch Verstöße vorliegen, nehmen Sie bitte umgehend Kontakt mit uns auf. Korrektur Oder wir werden Maßnahmen zur Löschung ergreifen. Danke