Künstliche Superintelligenz (ASI):
Begriff, Forschungsstand und die Konsequenz für den Betrieb

Was Superintelligenz bezeichnet

Künstliche Superintelligenz bezeichnet ein System, dessen kognitive Leistung die der besten Menschen in praktisch jedem Bereich deutlich übertrifft, einschließlich wissenschaftlicher Kreativität, allgemeiner Urteilskraft und sozialer Fähigkeiten. Diese Fassung stammt von Nick Bostrom aus dem Jahr 1998 und ist bis heute die gebräuchliche. Sie ist bewusst technikfrei: Sie sagt nichts darüber, ob ein solches System aus einem großen Sprachmodell, aus einer Nachbildung des Gehirns oder aus etwas Drittem entstünde, und nichts darüber, ob es Bewusstsein hätte.

Der Begriff steht am oberen Ende einer Skala mit drei Stufen. Enge oder aufgabenspezifische KI ist in einzelnen Aufgaben stark, teils weit über menschlichem Niveau, und in anderen schwach; das beschreibt jedes heute eingesetzte System. Allgemeine künstliche Intelligenz (AGI) bezeichnet ein System, das über die Breite menschlicher Aufgaben hinweg menschliches Niveau erreicht. Superintelligenz läge darüber. Alle drei Begriffe beschreiben Fähigkeitsstufen, keine Verfahren, und keine der Stufen hat eine scharfe Grenze zur nächsten.

In seinem Buch von 2014 unterscheidet Bostrom drei Formen, in denen Überlegenheit auftreten kann: als Geschwindigkeits-Superintelligenz, die dasselbe kann wie ein Mensch, nur um Größenordnungen schneller; als kollektive Superintelligenz, die aus vielen zusammenwirkenden Instanzen entsteht; und als Qualitäts-Superintelligenz, die Probleme löst, die Menschen grundsätzlich nicht lösen. Die Unterscheidung ist für die Einordnung heutiger Systeme nützlich, weil Geschwindigkeit und Parallelität bereits jetzt weit über dem Menschen liegen, ohne dass daraus die dritte Form folgt.

Die Intelligenzexplosion als Hypothese

Die Intelligenzexplosion bezeichnet die Annahme, dass ein System, das seine eigene Konstruktion verbessern kann, immer bessere Nachfolger entwirft und sich seine Fähigkeit dadurch selbst beschleunigt. Formuliert hat sie der Mathematiker Irving John Good 1965: Eine ultraintelligente Maschine könne noch bessere Maschinen entwerfen, und die menschliche Intelligenz bliebe dann weit zurück. Vernor Vinge verband die Idee 1993 mit dem Begriff der technologischen Singularität, einem Punkt, ab dem sich die Entwicklung der Vorhersage entzieht.

Die Hypothese ist ein Argument über Rückkopplung; beobachtet wurde der Vorgang bisher nicht. Sie setzt voraus, dass Verbesserungen an Modellarchitektur, Rechenleistung, Energie und Trainingsdaten nicht an Grenzen stoßen, die den Kreislauf bremsen. Jede dieser Größen ist physisch gebunden: Rechenleistung an Halbleiterfertigung und Strom, Daten an das, was existiert oder erzeugt werden kann, Architekturen an das, was sich überhaupt entdecken lässt. Wie diese Ressourcen die Entwicklung begrenzen, behandelt der Beitrag über Intelligenz als strategische Ressource. Ob die Rückkopplung stark genug wäre, um diese Grenzen zu überwinden, ist der eigentliche Streitpunkt.

Ein zweites Element der Hypothese betrifft die Zielsetzung. Bostrom hat 2014 die These vertreten, dass Intelligenz und Ziele voneinander unabhängig sind: Ein sehr fähiges System könne beliebige Ziele verfolgen, und viele Ziele führten zu denselben Zwischenschritten wie Selbsterhalt oder Ressourcenerwerb. Aus dieser Überlegung entsteht das Kontrollproblem, das weiter unten behandelt wird.

Warum sich „übermenschlich" schwer messen lässt

Ob ein System eine Fähigkeitsstufe erreicht hat, ließe sich nur feststellen, wenn Intelligenz messbar wäre. Genau daran hakt es. Shane Legg und Marcus Hutter haben 2007 vorgeschlagen, Intelligenz als die Fähigkeit zu fassen, Ziele über eine breite Menge von Umgebungen hinweg zu erreichen. Die Definition ist präzise, aber praktisch nicht messbar, weil niemand die Menge aller Umgebungen prüfen kann. In der Praxis werden stattdessen Testsätze verwendet, und Testsätze messen Fertigkeit in der Aufgabe, für die sie gebaut wurden.

François Chollet hat 2019 den Unterschied zwischen Fertigkeit und Intelligenz ausgearbeitet: Ein System kann in einer Aufgabe übermenschlich abschneiden, weil es mit enormen Mengen an Beispielen oder mit eingebautem Vorwissen darauf vorbereitet wurde, und daraus folgt nichts über seine Fähigkeit, eine neue Aufgabe mit wenig Vorbereitung zu lösen. Er schlägt vor, Intelligenz an der Effizienz zu messen, mit der ein System aus Erfahrung neue Fertigkeiten erwirbt. Nach diesem Maßstab sagt ein Spitzenwert in einem Test wenig über die Nähe zu allgemeiner Intelligenz aus.

Für die Einordnung von Meldungen ist das der entscheidende Filter. Übermenschliche Leistung in Brettspielen, in der Vorhersage von Proteinstrukturen oder in Mathematikwettbewerben ist real und belegt. Sie ist Stufe eins der Skala, enge KI mit übermenschlicher Fertigkeit in einer Domäne. Ein Sprung auf Stufe zwei oder drei ließe sich mit denselben Tests nicht nachweisen, weil die Tests die Breite nicht erfassen, um die es dort geht.

Wo die Forschung 2026 steht

Der Forschungsstand lässt sich an zwei Dokumenten festmachen, die unterschiedliche Fragen beantworten: was Systeme heute können und was Fachleute für die Zukunft erwarten.

Was Systeme heute können

Der International AI Safety Report 2026, veröffentlicht am 3. Februar 2026 und erarbeitet von über 100 Fachleuten im Auftrag von mehr als 30 Staaten und internationalen Organisationen, dokumentiert schnelle Fortschritte allgemein einsetzbarer Systeme, vor allem in Mathematik, Programmierung und selbstständigem Handeln über mehrere Schritte. Führende Systeme erreichten 2025 Goldmedaillen-Niveau bei Aufgaben der Internationalen Mathematik-Olympiade und übertrafen Fachleute in naturwissenschaftlichen Testsätzen. Zugleich benennt der Bericht Zuverlässigkeitsmängel wie erfundene Fakten und hält fest, dass das Tempo weiterer Fortschritte von langsam bis extrem schnell reichen kann.

Was Fachleute erwarten

Die größte Befragung von KI-Forschenden, 2.778 Teilnehmende aus führenden Fachkonferenzen, erhoben 2023 und 2024 veröffentlicht, nennt als Median für Maschinen, die jede Aufgabe besser und billiger erledigen als Menschen, das Jahr 2047; die Einzelantworten streuen über Jahrzehnte, und der Median hatte sich gegenüber der Vorjahresbefragung um 13 Jahre nach vorn verschoben. Zwischen 38 und 51 Prozent der Befragten gaben fortgeschrittener KI eine Wahrscheinlichkeit von mindestens 10 Prozent für Ergebnisse, die so schlecht sind wie das Aussterben der Menschheit. Was diese Streuung für betriebliche Festlegungen bedeutet, ordnet der Beitrag über das Entscheiden ohne bekanntes Zieldatum ein; er ist die Vertiefung zur Zeitfrage.

Beide Dokumente beschreiben denselben Befund aus zwei Richtungen: Die Fähigkeiten steigen messbar, und über den Weg zu allgemeiner oder übermenschlicher Intelligenz besteht kein Konsens, weder über das Ob noch über das Wann. Wer eine Jahreszahl als Faktum nennt, hat sie aus einer Verteilung herausgegriffen.

Das Kontrollproblem

Das Kontrollproblem bezeichnet die Frage, wie sich sicherstellen lässt, dass ein System, das dem Menschen kognitiv überlegen wäre, verlässlich im Sinne menschlicher Ziele handelt und korrigierbar bleibt. Bostrom hat es 2014 als das zentrale Problem der Superintelligenz-Debatte bezeichnet: Ein System, das seine Ziele anders auslegt als beabsichtigt, wäre durch die Kombination aus Überlegenheit und Zielabweichung gefährlich; Überlegenheit allein begründet das Risiko nicht.

Die Frage klingt abstrakt, wird aber seit Jahren an heutigen Systemen bearbeitet. Amodei und Kollegen haben 2016 fünf konkrete Probleme benannt, die sich an jedem lernenden System stellen: unerwünschte Nebenwirkungen beim Verfolgen eines Ziels vermeiden; verhindern, dass ein System eine fehlerhaft formulierte Belohnung ausnutzt, statt die Absicht dahinter zu erfüllen; Aufsicht skalieren, wenn Menschen nicht jede Ausgabe prüfen können; sicheres Erkunden ermöglichen; und Verhalten stabil halten, wenn sich die Bedingungen gegenüber dem Training ändern. Jedes dieser Probleme tritt in betrieblichen Automatisierungen im Kleinen auf.

Der International AI Safety Report ordnet die Risiken heutiger Systeme in Kategorien wie Zuverlässigkeitsmängel, Missbrauch und Risiken durch selbstständig handelnde Systeme, die ohne menschliche Prüfung in die Welt wirken. Wie sich Aufsicht über solche Systeme so gestalten lässt, dass sie tatsächlich wirkt, zeigt der Beitrag zum Human-in-the-Loop-Design für hochautomatisierte Ketten; er ist die betriebliche Seite desselben Problems.

Die Positionen in der Debatte

Die Debatte lässt sich auf drei Achsen ordnen, auf denen Fachleute unterschiedlich stehen. Die Achsen sind unabhängig voneinander; wer auf einer weit außen steht, muss es auf der anderen nicht sein.

Möglichkeit

Ob Superintelligenz grundsätzlich erreichbar ist, wird verschieden beantwortet. Bostrom hält sie für möglich und in seinem Buch für den wahrscheinlichen Endpunkt der Entwicklung. Chollet bestreitet nicht die Möglichkeit, aber den Schluss von heutigen Testerfolgen auf allgemeine Intelligenz, weil das Maß fehle. Die Befragung von 2023 zeigt, dass eine Mehrheit der Forschenden Maschinen auf breitem menschlichem Niveau innerhalb dieses Jahrhunderts erwartet, mit erheblicher Streuung.

Zeitpunkt

Die Spanne reicht von wenigen Jahren, wie sie Leitungspersonen führender KI-Unternehmen öffentlich nennen, bis zu Jahrzehnten oder nie. Der Regierungsbericht von 2026 legt sich nicht fest und beschreibt das Tempo als offen. Diese Spanne ist selbst der Befund: Es gibt keine belastbare Vorhersage, nur Verteilungen von Einschätzungen.

Risiko

Ob und wie stark eine solche Entwicklung gefährlich wäre, wird ebenfalls verschieden bewertet, und die Bewertung hängt an der Kontrollfrage. In der Befragung von 2023 gaben zwischen 38 und 51 Prozent der Forschenden extremen Schäden eine Wahrscheinlichkeit von mindestens 10 Prozent; ein Teil derselben Befragten erwartete zugleich überwiegend positive Folgen. Beides zusammen beschreibt Unsicherheit über einen weiten Ausgang.

Für den Betrieb ist weniger wichtig, welche Position richtig ist, als die Beobachtung, dass sich sachkundige Fachleute auf allen drei Achsen weit voneinander entfernt positionieren. Eine Unternehmensplanung, die auf einer dieser Positionen aufbaut, wettet gegen die anderen.

Was ein Betrieb daraus ableitet

Superintelligenz ist eine Forschungshypothese ohne Zeitpunkt und deshalb kein Planungsparameter. Das ist die eine Ableitung. Die andere ist, dass sich aus der Unsicherheit selbst vier Prinzipien ergeben, die unter jedem Szenario tragen, ob die Entwicklung schnell, langsam oder gar nicht in die beschriebene Richtung geht.

1. Festlegungen umkehrbar halten. Verträge, Systementscheidungen und Investitionen mit kurzen Bindungsfristen oder klaren Ausstiegswegen versehen, damit ein Kurswechsel möglich bleibt, wenn sich das Umfeld schneller ändert als erwartet.
2. Datenhoheit sichern. Eigene Kunden-, Prozess- und Produktdaten in exportierbarer Form und unter eigener Kontrolle halten. Sie sind das, was in jedem Szenario an Wert gewinnt, während Werkzeuge austauschbar werden.
3. Werkzeuge austauschbar einführen. Prozesse so beschreiben, dass sie nicht an ein bestimmtes System gebunden sind: feste Datenformate, dokumentierte Schnittstellen, Prozess vor Werkzeug. Wo der Betrieb heute steht, zeigt der Beitrag zum Bestimmen des eigenen KI-Reifegrads.
4. Kompetenz und Aufsicht im Haus halten. Fachwissen, Urteilsfähigkeit und die Kontrolle über automatisierte Abläufe nicht auslagern. Diese Fähigkeit ist die Voraussetzung dafür, jedes künftige System sinnvoll einzusetzen und rechtzeitig zu erkennen, wenn es das nicht mehr tut.

Diese Prinzipien kosten nichts, was ein gut geführter Betrieb nicht ohnehin tun sollte. Sie machen ihn auf eine schnelle Entwicklung vorbereitet, ohne dass er auf sie setzen muss, und auf eine langsame, ohne dass er auf sie wartet.

Die häufigsten Denkfehler

In Gesprächen über Superintelligenz wiederholen sich einige Muster, die die Entscheidung verzerren.

Die ersten drei Fehler verwechseln Ebenen der Debatte, die letzten beiden machen aus einer offenen Frage eine Entscheidung.

Quellen

Definitionen, Hypothesen und Befunde dieses Beitrags stammen aus den folgenden Arbeiten; die Einordnung in drei Achsen und die vier Prinzipien für den Betrieb sind eigene Ableitungen.

• Good, I. J. (1965): Speculations Concerning the First Ultraintelligent Machine. Advances in Computers 6
• Vinge, V. (1993): The Coming Technological Singularity. Vortrag beim VISION-21 Symposium
• Bostrom, N. (1998): How Long Before Superintelligence? International Journal of Futures Studies 2
• Bostrom, N. (2014): Superintelligence: Paths, Dangers, Strategies (Monografie)
• Legg, S., Hutter, M. (2007): Universal Intelligence: A Definition of Machine Intelligence. Minds and Machines 17
• Amodei, D. et al. (2016): Concrete Problems in AI Safety
• Chollet, F. (2019): On the Measure of Intelligence
• Grace, K. et al. (2024): Thousands of AI Authors on the Future of AI
• International AI Safety Report 2026 (3. Februar 2026), Vorsitz Yoshua Bengio