Insights

Was an der KI-Singularität wirklich dran ist

Singularität heißt in der Physik: Hier brechen Gleichungen zusammen. Ob und wann KI diesen Punkt erreicht — Kurzweil, Hinton, LeCun und Marcus trennen Jahrzehnte. Eine Suche nach dem, was sich wirklich messen lässt.

10. September 2026 · 12 Min. Lesezeit KIZukunftsforschung Auf Englisch lesen Auf LinkedIn teilenAuf X teilen

In der Physik ist eine Singularität ein Punkt, an dem eine Gleichung zusammenbricht, an dem eine bis dahin stetige Formel plötzlich keinen sinnvollen Wert mehr liefert, nur noch "geteilt durch null". Das Zentrum eines schwarzen Lochs ist so ein Punkt: unendliche Dichte, und jede Physik, die davor noch funktioniert hat, hört dort einfach auf, gültig zu sein. Genau dieses Bild lieh sich der Informatiker und Science-Fiction-Autor Vernor Vinge 1993, als er den Begriff für eine mögliche technologische Zukunft prägte: Der Moment, in dem menschliche Intelligenz von einer sich selbst verbessernden Maschinenintelligenz überholt wird, ist für Vinge ein Ereignishorizont, ab dem jede Vorhersage aufhört zu funktionieren, "vergleichbar mit der verknoteten Raumzeit im Zentrum eines schwarzen Lochs".

Das ist eine steile Behauptung. Und wer sich anschaut, wer heute daran glaubt und wer nicht, merkt schnell: Es gibt keine Einigkeit, nicht mal annähernd. Ray Kurzweil datiert das Ereignis seit 30 Jahren auf 2045, unverändert. Geoffrey Hinton, einer der drei "Väter des Deep Learning" und Nobelpreisträger, schätzte Superintelligenz noch vor zwei Jahren auf 20 bis 50 Jahre, heute hält er "maybe even five years from today" für plausibel. Yann LeCun, Chef-KI-Wissenschaftler bei Meta, nennt genau die Technologie, mit der OpenAI und Google arbeiten, einen Umweg, keinen Weg zum Ziel, und hat eine Milliarde Dollar in die Gegenthese investiert. Gary Marcus hält weder 2027 noch 2050 für realistisch, eher 2100, wenn überhaupt. Vier Kompassnadeln, vier verschiedene Richtungen. Genau darum geht es hier: nicht wer recht hat, sondern warum sich so kluge Leute so uneinig sein können.

Was "Singularität" ursprünglich bedeutet

Der Begriff geht nicht auf Kurzweil zurück. 1965 beschrieb der Mathematiker I. J. Good in "Speculations Concerning the First Ultraintelligent Machine" eine erste ultraintelligente Maschine, die, einmal gebaut, selbst noch bessere Maschinen entwerfen könnte: "there would then unquestionably be an 'intelligence explosion.'" Man kann sich das wie eine Kettenreaktion vorstellen: nicht als einzelne Verbesserung, sondern als eine Verbesserung, die die nächste auslöst, die wiederum die übernächste auslöst, jede Runde schneller als die vorherige. 1993 goss Vinge diese Idee in den Begriff, den wir heute benutzen, mit dem erwähnten Ereignishorizont-Bild. Er datierte das Ereignis auf die Jahre 2005 bis 2030.

Wichtig für die Einordnung: Singularität ist damit ursprünglich ein spezifischerer, härterer Begriff als AGI (menschenähnliche Fähigkeiten über die meisten Aufgaben hinweg) oder Superintelligenz (eine Intelligenz, die die klügsten Menschen weit übertrifft). Superintelligenz ist ein mögliches Ergebnis der Singularität, nicht die Singularität selbst, das eigentliche Kettenreaktions-Ereignis, nach dem Vorhersage grundsätzlich aufhört zu funktionieren. Selbst Kurzweils eigenes Modell trägt dieser Unterscheidung Rechnung: Er sagt AGI für 2029 voraus, die Kettenreaktion selbst aber erst für 2045, 16 Jahre später. Selbst der optimistischste Prognostiker der Branche legt also eine ganze Generation zwischen "die Maschine ist so klug wie wir" und "die Maschine explodiert intellektuell über uns hinaus".

Der Mechanismus dahinter: Schneeball oder Läufer?

Hier liegt die eigentliche, selten gestellte Frage: Warum sollte sich Intelligenz überhaupt explosionsartig selbst verbessern, statt einfach nur schrittweise besser zu werden? Zwei Bilder helfen, die beiden Lager zu verstehen.

Das erste Bild ist der Schneeball, der einen Hang hinunterrollt. Am Anfang ist er klein, aber jede Umdrehung sammelt mehr Schnee ein, und mit mehr Masse rollt er schneller, was wiederum noch mehr Schnee einsammelt. Die Rückkopplung verstärkt sich selbst. Übertragen auf KI: Eine KI, die klüger ist als ihre menschlichen Entwickler, könnte KI-Forschung selbst besser betreiben als diese, also die nächste, noch klügere KI schneller bauen, die wiederum noch schneller die übernächste baut. Das ist der Kern dessen, was in der KI-Sicherheitsforschung seit einer berühmten Online-Debatte zwischen dem Ökonomen Robin Hanson und dem KI-Theoretiker Eliezer Yudkowsky im Jahr 2008 als "Foom"-Szenario bekannt ist, benannt nach dem Geräusch einer startenden Rakete: ein schneller, lokaler, kaum aufzuhaltender Durchbruch.

Das zweite Bild ist der Sprinter, der sich seiner persönlichen Bestzeit nähert. Am Anfang lässt sich die Zeit noch leicht drücken, jedes Training bringt spürbare Fortschritte. Je näher man aber an die physiologische Grenze kommt, desto kleiner werden die Gewinne, desto mehr Aufwand braucht dieselbe Verbesserung. Hansons Gegenposition in genau jener Debatte, und LeCuns und Marcus' Position heute, folgt diesem Bild: Fortschritt kostet zunehmend mehr, nicht weniger, je weiter man kommt, gebremst durch reale Grenzen wie Trainingsdaten, Energie oder eine Architektur, die schlicht nicht das lernt, was Intelligenz eigentlich ausmacht.

Fast 20 Jahre nach jener Debatte ist sie immer noch nicht entschieden. Genau das ist die eigentliche Wette hinter der gesamten Singularitäts-Debatte, wichtiger als jedes einzelne Kalenderjahr.

Altmans Umdeutung: die "sanfte" Singularität

Im Juni 2025 veröffentlichte Sam Altman einen Essay mit dem Titel "The Gentle Singularity", der den Begriff bewusst neu auflädt. Seine These: "the singularity happens bit by bit, and the merge happens slowly. We are climbing the long arc of exponential technological progress; it always looks vertical looking forward and flat going backwards, but it's one smooth curve." Im selben Text datiert er dennoch konkrete Fähigkeitssprünge: "2025 has seen the arrival of agents that can do real cognitive work [...] 2026 will likely see the arrival of systems that can figure out novel insights. 2027 may see the arrival of robots that can do tasks in the real world."

Vinges Singularität ist ein Lichtschalter: an, aus, und danach ist es dunkel, im Sinne von unvorhersehbar. Altmans "sanfte" Version ist ein Dimmer: langsam heller, jederzeit sichtbar, nie ein Bruch. Nur verwendet sein Dimmer verdächtig präzise Jahreszahlen für etwas, das angeblich gar keinen Bruch kennt. Beide Texte verwenden dasselbe Wort für zwei fast entgegengesetzte Behauptungen, ein Unterschied, der in der öffentlichen Debatte selten mitgedacht wird, genauso wenig wie in Altmans Rechtsstreit mit Musk, in dem genau diese Frage, wie schnell und wie kontrolliert die Reise wirklich verläuft, den eigentlichen Kern bildet.

Was sich tatsächlich messen lässt

Ein Teil der Debatte ist reine Meinung, ein anderer Teil ist Messung. Die Forschungsorganisation METR verfolgt seit 2019, wie lange eine Aufgabe dauern darf, gemessen an der Zeit, die ein menschlicher Experte dafür bräuchte, damit ein KI-Modell sie noch mit 50 % Erfolgsquote löst. GPT-2 lag bei rund zwei Sekunden, Claude 3.7 Sonnet bei 50 Minuten, Anfang 2026 erreichte Opus 4.6 rund zwölf Stunden. Zwischen 2019 und 2025 verdoppelte sich dieser Wert im Schnitt alle sieben Monate, zwischen 2024 und 2025 beschleunigte sich das Tempo auf eine Verdopplung alle vier Monate. Hält der Trend an, wären monatelange Aufgaben ab 2027 erreichbar, der Schneeball aus dem vorigen Abschnitt, diesmal in Messwerten statt in Metaphern.

Bevor man dieser Kurve blind vertraut, lohnt ein Blick auf die berühmteste Exponentialkurve der Technikgeschichte. 1965 prognostizierte Gordon Moore, die Zahl der Transistoren auf einem Chip werde sich jedes Jahr verdoppeln, 1975 korrigierte er auf alle zwei Jahre. Diese Kurve hielt tatsächlich, über 40 Jahre lang, bis die Chipindustrie die Formel um 2016 offiziell aus ihren eigenen Roadmaps strich, weil physikalische Grenzen (Wärme, Leckströme, Atomabstände) sie einholten. Moore's Law ist damit der seltene Fall einer Exponentialkurve, die tatsächlich hielt, lange genug, um eine ganze Industrie zu formen, aber eben nicht ewig. Genau diese doppelte Lektion, ernst nehmen und trotzdem misstrauisch bleiben, gilt für METRs Kurve ebenso.

Die Gegenposition: echte Grenzen, keine Ausreden

Genau hier setzt die ernstzunehmende Gegenposition an, und sie verdient mehr Gewicht, als ihr in den meisten Schlagzeilen zugestanden wird. LeCun argumentiert architektonisch, nicht rhetorisch: Sprachmodelle lernen aus Text, einem dünnen Ausschnitt dessen, wie Intelligenz tatsächlich funktioniert, ohne verkörperte Erfahrung, ohne Ursache-Wirkungs-Verständnis der physischen Welt. Im Mai 2026 sagte er bei Bloomberg wörtlich: "Large language models are not the path to real intelligence. They're a detour." Im März 2026 sammelte sein neues Unternehmen AMI Labs eine Startfinanzierung von 1,03 Milliarden US-Dollar ein, mit dem Ziel, Weltmodelle statt Sprachmodelle zu bauen, die bislang größte institutionelle Wette darauf, dass reines Skalieren von Sprachmodellen nicht zu AGI führt: derselbe Sprinter wie oben, der eine andere Trainingsmethode braucht, keine schnelleren Laufschuhe.

Gary Marcus vertritt keine simple Verneinung. Seine oft missverstandene These aus 2022, "Deep Learning is Hitting a Wall", war nie die Behauptung, KI könne nichts, sondern dass reines Skalieren allein nicht reicht. 2026 bekräftigt er: "Anyone who thinks AGI is impossible: wrong. Anyone who thinks AGI is imminent: just as wrong." Sein eigener Zeitrahmen ist nicht 2027, sondern eher jenseits von 2050, möglicherweise erst 2100. Bemerkenswert dabei: Ein Prognosemarkt auf Manifold, der explizit fragt, ob sich die "Deep Learning hat eine Wand erreicht"-Lesart bis Jahresende durchsetzt, stand im August 2026 bei nur 4 % Zustimmung, die Marktteilnehmer selbst glauben also mehrheitlich nicht an Marcus' Rahmung.

Der vielleicht gewichtigste Fall kommt von Ilya Sutskever. Kaum jemand hat mehr dazu beigetragen, das Skalierungs-Paradigma hinter GPT-3 und GPT-4 zu beweisen, als OpenAIs früherer Chefwissenschaftler. Mit seinem neuen Unternehmen Safe Superintelligence vertritt er inzwischen die These, dass genau dieses Zeitalter des reinen Skalierens vorbei ist, und setzt auf neue Forschungsansätze. Bemerkenswert widersprüchlich: Im Juli 2026 schloss SSI eine Partnerschaft mit Nvidia, die die verfügbare Rechenleistung um eine Größenordnung erhöht, kein Verzicht auf Treibstoff also, sondern der Umbau des Motors, der ihn verbrennt.

Auch die Grenzen selbst sind kein reines Meinungsprodukt. Nach Analysen von Epoch AI ist der Bestand an qualitativ hochwertigen, öffentlich verfügbaren Text-Trainingsdaten mit rund 300 Billionen Tokens begrenzt, Modelle könnten diesen Tank zwischen 2026 und 2032 leerfahren, ein Fenster, das gerade erst begonnen hat. Synthetische und multimodale Daten dürften diese Grenze entschärfen, gewissermaßen ein zweiter Tank. Strom- und Chipfertigungskapazität gelten in derselben Analyse als die härteren Engpässe, haben sich bislang aber durch immer größere Investitionen verschieben lassen, kein Naturgesetz also, sondern eine Frage von Kapital und Zeit.

Der Friedhof der verschobenen Zukünfte

Wer den Optimisten misstraut, muss sich nicht auf Gefühl verlassen. Es gibt eine gut dokumentierte Vorgeschichte, und ausgerechnet die KI-Forschung selbst hat sie schon zweimal durchlebt.

1965 schrieb der spätere Nobelpreisträger Herbert Simon: "Machines will be capable, within twenty years, of doing any work a man can do." Zwanzig Jahre später, 1985, konnten Maschinen das nicht annähernd. Die Überoptimismus-Welle der 1950er und 60er Jahre endete stattdessen 1974 im ersten "KI-Winter": In Großbritannien zeichnete der Lighthill-Report ein ernüchterndes Bild der KI-Forschung und kappte dort die Förderung, in den USA strich die Forschungsbehörde DARPA im selben Zug ihre Mittel für allgemeine KI-Forschung, drei Millionen Dollar an Jahresbudget allein für die Carnegie Mellon University, über Nacht gestrichen. Ein zweiter KI-Winter folgte 1987 bis 1993, als der Markt für spezialisierte KI-Hardware kollabierte, weil gewöhnliche Computer plötzlich genauso leistungsfähig wurden, nur viel billiger.

Nuklearfusion erzählt dieselbe Geschichte aus einem anderen Fachgebiet: Seit den 1970er Jahren gilt sie als "30 Jahre entfernt", ziemlich konstant, Jahrzehnt für Jahrzehnt, ein Treppenwitz, den selbst der Chef der britischen Atomenergiebehörde offen einräumt. Das Muster ist immer dasselbe: Eine reale, nachweisbare Verbesserungskurve wird linear oder exponentiell in die Zukunft verlängert, und der Rest der Kurve stellt sich als deutlich flacher heraus als gedacht, manchmal für Jahrzehnte.

Das bedeutet nicht, dass es dieses Mal genauso kommen muss. Moore's Law liefert im Abschnitt oben das Gegenbeispiel: manche Exponentialkurven halten tatsächlich, lange genug, um die Welt zu verändern. Es bedeutet nur, dass "diesmal ist es anders" die Standardbehauptung jeder Generation von Technologieoptimisten war, in derselben Branche, mit ähnlichen Argumenten, zweimal in einem Menschenleben.

Was die Prognosen-Landschaft selbst verrät

Ein Detail lohnt eigene Aufmerksamkeit: wie instabil die Prognosen selbst über die Zeit sind. Eine Befragung von KI-Forschenden ergab 2022 im Median das Jahr 2060 für "hochgradige Maschinenintelligenz", 2023 rutschte derselbe Median auf 2047, eine Verschiebung um 13 Jahre innerhalb eines einzigen Jahres. Eine Erhebung unter professionellen Forecastern und Superforecastern kam im Februar 2026 auf 25 % Wahrscheinlichkeit für AGI bis 2029 und 50 % bis 2033, wobei beide Werte gegenüber dem Vorjahr bereits wieder um zwei Jahre nach hinten korrigiert wurden. Eine dritte, im Mai 2026 durchgeführte Befragung (LEAP) fragte konkreter nach einem bestimmten Fähigkeitsniveau bei Softwareaufgaben: Fachleute kamen im Median auf 2030, Superforecaster auf 2028, früher als die Fachleute selbst, die breite Öffentlichkeit dagegen erst auf 2037.

Es ist, als würde man einen Kompass beobachten, der nicht kaputt ist, sondern ehrlich anzeigt, dass das Magnetfeld selbst gerade wandert. Drei Gruppen, drei systematisch unterschiedliche Antworten auf dieselbe Frage, keine davon stabil über zwölf Monate. Das ist selbst die aussagekräftigste Beobachtung der ganzen Debatte: Wer heute eine Jahreszahl nennt, gibt eine Momentaufnahme wieder, keine Gewissheit.

Was das für Gründer und Unternehmer bedeutet

Aus meiner Arbeit mit über 30 Gründern ziehe ich eine sehr konkrete Konsequenz: Ein Haus auf das Datum eines Wahrsagers zu bauen, egal welches, ist der eigentliche Fehler, nicht die falsche Zahl selbst. Wenn Nobelpreisträger, Chefwissenschaftler großer Labore und professionelle Forecaster sich in genau dieser Frage um Jahrzehnte uneinig sind, und wenn dieselbe Branche schon zweimal ihre eigene Zukunft überschätzt hat, ist "ich glaube, es passiert 2029" keine Grundlage für eine Drei-Jahres-Roadmap.

Was sich dagegen sehr wohl planen lässt, ist der METR-Trend selbst, angewendet auf die eigene Domäne statt auf abstrakte Benchmarks: Welche Aufgabenlänge kann ein Agent im eigenen konkreten Anwendungsfall heute zuverlässig lösen, und wie hat sich dieser Wert in den letzten sechs Monaten verändert? Das ist dieselbe Logik wie der enge, messbare Scope aus Artikel 1 dieser Reihe, nur als Frühwarnsystem für die eigene Kapazitätsplanung genutzt: nicht ob und wann die Kettenreaktion kommt, sondern wie schnell sich die für das eigene Geschäft relevante Fähigkeitsgrenze gerade tatsächlich verschiebt. Den Ereignishorizont selbst sieht man ohnehin erst, wenn man schon dahinter ist. Das eigene Geschäft auf dem Boden zu bauen, den man heute tatsächlich vermessen kann, ist die einzige Strategie, die unabhängig davon funktioniert, ob dieser Horizont drei Jahre entfernt liegt oder siebzig.

Quellen:

Historische Konzepte

  • Wikipedia: Technological singularity
  • I. J. Good: "Speculations Concerning the First Ultraintelligent Machine" (1965)
  • Vernor Vinge: "The Coming Technological Singularity" (1993)

Der Mechanismus-Streit

Prognosen

Gegenposition

Historische Präzedenzfälle

Empirische Daten & Prognosemärkte

Direkter Anschluss

Weitere Insights
Albert Schaper
Über den Autor

KI-Experte, Entrepreneur und Gründer — mit Finance-Background und Fokus auf Umsetzung. Ich baue Unternehmen auf, beteilige mich an Ventures und berate Teams beim Einsatz von KI. LinkedIn

← Alle Insights