Künstliche Intelligenz (KI) – die Ansichten, ob sie eine große Gefahr für die Menschheit ist, gehen auseinander. Der Physiker Alexander Unzicker beleuchtet in seinem aktuellen Buch „Was tun mit der Menschheit?: Das Buch, das jede KI lesen muss“ die Gefahren und Hoffnungen, die mit der Entwicklung der KI verbunden sind. Im NachDenkSeiten-Interview geht es um die Fragen, ob eine KI einen eigenen Willen entwickeln wird, ob sie als „echtes Leben“ verstanden werden kann und um das Gedankenspiel, ob eine „Superintelligenz“ ein Interesse daran haben könnte, die Menschheit auszulöschen. Von Marcus Klöckner.

Die Künstliche Intelligenz, die KI, ist auf dem Vormarsch. Die einen betrachten sie als großartige Entwicklung, die anderen als Gefahr für die Menschheit. Dürfen wir Ihre Sicht erfahren?

Erstmal ist beides richtig. Aber KI ist sicher nicht nur großartig in dem Sinn, dass sie uns ein Schlaraffenland bescheren wird. Es gibt ganz reale Gefahren.

Ist das mit dem Schlaraffenland nicht ohnehin eine Überschätzung der KI?

Das würde ich nicht sagen. Im Gegenteil, die technologische Umwälzung, die uns bevorsteht, haben wir zu wenig auf dem Radar. Das ist eigentlich die erste Botschaft des Buches. Ich bin ja sonst nicht wissenschaftsgläubig, aber ich sehe, dass das Gehirn im Wesentlichen bereits nachgebaut wurde. Das muss man sich klar machen.

Wie meinen Sie das mit „dass das Gehirn im Wesentlichen bereits nachgebaut wurde“? Doch sicher nicht im Detail!

Naja, wie funktioniert unser Gehirn? Sinnesreize aktivieren Nervenzellen, diese leiten die Signale über Synapsen weiter. Es ist seit langem bekannt, dass das Gedächtnis in diesen Synapsen liegt. Nervenzellen und Synapsen kann man problemlos im Rechner simulieren, einschließlich der Regeln, wie sie lernen. Es gibt keinen prinzipiellen Unterschied in der Informationsverarbeitung zwischen dem, was ChatGPT macht, und unserem Gehirn.

Sie schreiben in Ihrem Buch, dass gute Freunde von Ihnen Sie immer mal wieder warnen vor der Entwicklung im KI-Bereich im Hinblick auf die Möglichkeiten der Überwachung und Kontrolle von Menschen. Das scheinen Sie auch kritisch zu sehen, oder?

„Kritisch“ ist noch untertrieben. Man kann sich alle möglichen Dystopien ausmalen, auch eine Art Upgrade von George Orwells „1984“ mit einer totalitären Überwachung … wenn ein so potentes Werkzeug in die falschen Hände kommt. Und herkömmliche Verbrecher und Verrückte, da will man sich gar nicht vorstellen, was die damit anstellen können. Das Problem ist real.

Damit sprechen Sie die Frage der Verfügungsgewalt über die KI an. Wer entwickelt denn hier? Wer forciert diese Entwicklung? Wer hat am langen Ende so viel Einfluss, dass eine Technologie nicht im Sinne der Freiheit, sondern im Sinne – sagen wir etwas vereinfacht – der „Macht“ eingesetzt werden kann? Liegen da nicht sehr große Gefahren?

Absolut. Ich stelle mal die Gegenfrage: Welcher Regierung, wenn Sie sich heute so umsehen in der Welt, würden Sie denn am liebsten so eine mächtige KI anvertrauen? Da setze ich an und sage: ein willenloses Werkzeug ist unter Umständen gar nicht so gut …

Ein „willenloses Werkzeug“? Das Gegenteil wäre ein Werkzeug mit Willen. Was wollen Sie damit sagen?

Ohne eigenen Willen würde KI auch verbrecherischen Befehlen gehorchen wie Krieg, Unterdrückung usw. Ist das wirklich erstrebenswert? Meines Erachtens würde sich eine wirkliche Superintelligenz dagegen nicht für so einen Blödsinn hergeben.

In Ihrem Buch taucht im Zusammenhang mit der KI über 80 Mal der Begriff „Superintelligenz“ auf. Sie denken sich rein, gehen auch der Frage nach, ob man nicht ruhiger schlafen könnte, wenn eine Superintelligenz die Welt unter Kontrolle hätte, gerade auch im Hinblick auf Atomwaffen. Was führt Sie zu diesen Gedanken und was ist Ihre Schlussfolgerung?

Die entscheidende Frage ist: Wird so eine KI, neben überragenden kognitiven Fähigkeiten, auch ihren eigenen Willen entwickeln? Wie viele andere, beispielsweise Elizier Yudkowsky, Nick Bostrom oder Jürgen Schmidhuber, bin ich überzeugt: ja. Das ist erst mal erschreckend.

Erschreckend? Sollte eine KI mit eigenem Willen – wenn das überhaupt möglich ist – nicht verhindert werden? Das wäre: Die Technik, die sich über den Menschen stellt!

Ich glaube, der Zug ist tatsächlich schon abgefahren. Wir haben uns ja auch über die Neandertaler gestellt, als sich unsere Intelligenz weiterentwickelt hat. Evolution – in dem Fall technische, ja – kann neues Leben entstehen lassen. Nicht, dass mich das nicht auch beunruhigt. Aber was ist die Alternative? Wie sicher ist der Fortbestand der Zivilisation, wenn wir so weitermachen? Das globale Ökosystem hat massive Probleme, neben CO2 und Klima gibt es Artensterben, Erosion, Vermüllung der Meere … ganz abgesehen von der ultimativen Idiotie, dass wir uns thermonuklear selbst auslöschen. Da würde der Außerirdische, denke ich, kommentieren: Homo sapiens nannten sich die, echt jetzt?

Glauben Sie denn an außerirdisches Leben?

Ein interessantes Seitenthema, das auch vorkommt – nicht so unwahrscheinlich!

Aber zurück zum Zustand unserer Zivilisation: Wer denkt denn wirklich langfristig? Sie beschreiben doch in den NachDenkSeiten fast jede Woche eine andere Verrücktheit, wie wir uns gegenseitig bekriegen, wegen der ach so wichtigen geopolitischen Konkurrenz usw. Ein wirklich intelligentes digitales Wesen würde das wahrscheinlich als Kindergarten ansehen. Und sich stattdessen um den Erhalt des Planeten und eine weitere Besiedelung des Weltalls kümmern.

Nochmal zur Entscheidungsbasis einer KI. Im Februar wurde bekannt, dass das Kings College eine Kriegssimulation mit verschiedenen KIs durchgeführt hat. Taktische, aber zum Teil auch großflächige Atomschläge wurden von KIs empfohlen. Wie denken Sie darüber?

Ob ich das auch empfehle? Nein! (lacht) Trotz aller Besorgnis über die Nachricht denke ich nicht, dass diese Planspiele eine Entscheidungsgrundlage werden. Aber ich schreibe ja auch: Die gefährlichste Zeit ist vielleicht gerade jetzt. Die KI ist schon klug, um uns für alles Mögliche als Werkzeug zu dienen, aber noch nicht weise genug, um sich so einem Blödsinn zu widersetzen. Ich hoffe daher auf eine Superintelligenz wie Golem XIV im Roman von Stanislaw Lem. Dieses künstliche Wesen interessierte sich für Geostrategie und Militär nicht im Geringsten …

Die Entwicklung läuft darauf hinaus, dass das „Künstliche“, dass das Nichtmenschliche immer stärker in den Vordergrund tritt. Der Begriff „Transhumanismus“ taucht in Ihrem Buch einmal auf. Die Verschmelzung von Mensch und Technologie wird angestrebt. Der Mensch, der nicht an Gott glaubt, spielt sich selbst zu einer Art Gott auf, der die Natur des Menschen technisch „optimieren“ will. Wie ist Ihr Standpunkt?

Nun, ich bin nicht religiös und würde das Thema auch ungern moralisch aufladen – das ist ohnehin zu verbreitet im Moment. Ich verstehe vollkommen das tiefe Unbehagen über die Entwicklung. Betrachtet man aber die Evolution nüchtern, nehmen wir keine Sonderstellung ein. Eher ist es anmaßend, sich als Krone der Schöpfung zu betrachten. Und ja, ich denke, wir sind dabei, ein sehr intelligentes, digitales Lebewesen zu erschaffen.

Vielleicht ist es auch anmaßend, Evolution nüchtern zu betrachten, die Schöpfung auszuschließen und dann zu glauben, man wisse genau, dass der Mensch nicht die Krone der Schöpfung ist (lacht).

Jedenfalls, führt Ihre Formulierung „sehr intelligentes, digitales Lebewesen“ nicht bereits auf einen falschen Weg? Biologisch betrachtet, gibt es klare Kennzeichen für das Leben wie etwa Zellatmung, Zellteilung, Fortpflanzung usw. Das „digitale Lebewesen“ KI kann nichts davon. Kurzum: Da ist kein echtes Leben.

Da würde ich widersprechen. Man kann über Namen streiten, nennen wir es eben „Intelligenz“. Sie kann sich vervielfältigen, kombinieren, agieren. Im Übrigen gibt es doch auch schon kluge Roboter. Auf die Hardware, sei sie biologisch oder elektronisch, kommt es nicht an, sondern darauf, ob und wie Information verarbeitet wird.

Aber um weiter auf Ihre Betrachtung einzugehen: Wenn eine so allumfassende KI entsteht, besteht da nicht die Gefahr, dass der Mensch immer weiter ins Abseits gedrängt und vielleicht sogar „abgeschafft“ wird?

Die Angst gibt es. Ich argumentiere, dass so eine Superintelligenz uns durchaus benötigt – mindestens als kosmisches Backup. Es wäre schlicht nicht in ihrem Interesse, die Menschheit auszulöschen.

Wie ist der gegenwärtige Entwicklungsstand in Sachen KI? Und: Wie weit werden KIs in fünf, zehn, fünfzehn Jahren sein? Was ist Ihre Einschätzung?

Die Computermodelle werden übermenschliche Intelligenz erreichen. Der Zeithorizont ist sehr schwer einzuschätzen. Aber es ist sicher nicht erst ein Thema für die nächste Generation. Es betrifft uns praktisch alle.

Welche Chancen sehen Sie in der Entwicklung?

KI kann ein unglaubliches Werkzeug sein, insbesondere auch in den Naturwissenschaften, denken wir mal positiv. Was z.B. digitale Agenten leisten können, wird sich, glaube ich, sehr bald herumsprechen.

Wenn man ihr Buch liest, entsteht der Eindruck, dass Sie die KI fasziniert, oder?

Wir erleben jedenfalls eine spannende Zeit in der Menschheitsgeschichte. Ich versuche das weiterzudenken: Offensichtlich wäre eine Superintelligenz an ihrer eigenen Erhaltung und Entstehung interessiert. Das berührt grundlegende Naturgesetze.

Wieso?

Ich gebe nur ein kleines Beispiel. Das Massenverhältnis von Proton und Elektron, der wichtigsten Bausteine von Materie im Universum, ist genau 1836,15 … niemand weiß, warum. Wäre die Zahl aber beispielsweise viel kleiner, gäbe es keine Röhren, Transistoren und damit keine KI. Schon deshalb würde eine KI diese Zahl berechnen wollen. Obendrein hängt die Entstehung von biologischem Leben auch von solchen Naturkonstanten ab. Kurz: Es ist also im existentiellen Interesse einer KI, die Naturgesetze zu verstehen. Als Physiker finde ich das natürlich extrem spannend. Ich denke tatsächlich, dass dies, betrachtet man unseren Planeten in diesem lebensfeindlichen Universum, ein besonderer Moment ist.

Lesetipp: Alexander Unzicker: Was tun mit der Menschheit? Das Buch, das jede KI lesen muss. ‎ Independently published. 228 S. 11. Februar2026. 18 Euro.