Exponentielles Denken: Die Kaninchen sind längst über den Zaun

Warum wir uns schwertun mit dem exponentiellen Denken, also warum wir Verdopplungen erst bemerken, wenn sie uns überrollen, und was das im Zeitalter der KI kostet. Bei der 500-Euro-Frage geht es um Gartenzwerge, und die Kandidatin antwortet, bevor der Moderator die letzte Möglichkeit ganz vorgelesen hat. Das Publikum lacht, sie lacht mit. Sechs Fragen später ist von dieser Leichtigkeit nichts mehr übrig. Das Studio liegt im Halbdunkel, aus den Lautsprechern pocht ein tiefer Ton, und dieselbe Frau fährt sich zum dritten Mal mit der Hand über den Mund, weil sie zwischen A und C schwankt. Es geht um 32.000 Euro, und die Frage ist eine, die sie auf dem heimischen Sofa in drei Sekunden gelöst hätte.

Seit bald drei Jahrzehnten führt „Wer wird Millionär?“ vor, was mit Menschen geschieht, wenn Beträge sich verdoppeln. Die Anspannung steigt Stufe für Stufe, das Geld im Sprung. Dabei ist die Gewinnleiter ein kleines Lehrstück in Mathematik. Ab der 500-Euro-Stufe verdoppelt sich der Betrag fast Frage für Frage: 1.000, 2.000, 4.000, 8.000, 16.000, 32.000, 64.000. Mit jeder Antwort steht also noch einmal so viel auf dem Spiel, wie bis dahin insgesamt erreicht ist. Gefühlt ist es trotzdem einfach die nächste Frage, eine Stufe wie jede andere. Wer hier falsch einschätzt, verliert Geld. Wer denselben Fehler bei der künstlichen Intelligenz macht, womöglich etwas mehr.

Ein Kopf, gebaut für Treppenstufen

Der Grund für diese Fehleinschätzung ist wenig schmeichelhaft, aber verständlich: Unsere Alltagserfahrung ist linear. Wer jede Woche zehn Kilometer läuft, hat nach einem Monat vierzig geschafft. Wer jeden Monat hundert Euro zurücklegt, hat nach einem Jahr zwölfhundert. Die Welt, in der sich unser Denken über Jahrtausende eingerichtet hat, wächst Schritt um Schritt und Ernte um Ernte. Prozesse, bei denen der Zuwachs selbst wächst, kommen darin selten vor. Und wenn doch, dann meist als Plage.

Die älteste Warnung davor ist bekanntlich eine Legende. Der Erfinder des Schachspiels wünschte sich als Lohn nur ein paar Weizenkörner: eines auf das erste Feld, zwei auf das zweite, vier auf das dritte und so fort. Der König lachte über so viel Bescheidenheit. Zusammengezählt wären es rund 18 Trillionen Körner geworden, nach heutigem Stand mehr als tausend Jahresernten der gesamten Menschheit. Die eigentliche Pointe der Geschichte steckt im Lachen des Königs.

Der amerikanische Physiker Albert Bartlett hat das Problem in seinen Vorträgen über Jahrzehnte hinweg auf den Punkt gebracht: Die größte Schwäche der Menschheit sei ihre Unfähigkeit, die Exponentialfunktion zu verstehen. Das klingt nach Übertreibung. Probieren Sie es trotzdem aus: Wie hoch wäre ein Stapel, wenn Sie ein gewöhnliches Blatt Druckerpapier 42-mal falten könnten? Die meisten schätzen irgendwo zwischen Tischkante und Kirchturm.

Rechnen wir nach. Ein Blatt ist etwa einen Zehntelmillimeter dick, jede Faltung verdoppelt die Lagen. Nach sieben Faltungen liegen 128 Schichten übereinander, gut einen Zentimeter hoch. Hier ist in der Praxis meist Schluss, das Papier wehrt sich. Die amerikanische Schülerin Britney Gallivan schaffte 2002 immerhin zwölf Faltungen, allerdings mit einer mehr als einen Kilometer langen Rolle Toilettenpapier. Für unser Gedankenspiel lassen wir die Physik großzügig beiseite und falten weiter.

Nach zehn Faltungen ist der Stapel zehn Zentimeter hoch, etwa so dick wie ein ordentliches Telefonbuch aus den Neunzigern. Nach siebzehn überragt er ein Einfamilienhaus. Nach zwanzig misst er gut hundert Meter, nach 23 ist er mit rund 840 Metern höher als der Burj Khalifa in Dubai, das höchste Gebäude der Welt.

Nach 27 Faltungen hat er den Mount Everest hinter sich gelassen und kratzt an der Reiseflughöhe von Verkehrsflugzeugen. Nach 30 Faltungen, rund 107 Kilometern, ragt er über die Grenze, ab der offiziell der Weltraum beginnt. Und nach 42 Faltungen reicht er mit etwa 440.000 Kilometern über den Mond hinaus, der im Mittel gut 384.000 Kilometer entfernt ist. Wer bei der 51. Faltung ankäme, hätte die Sonne erreicht.

Das Verblüffende daran ist weniger die Endzahl als der Verlauf. Nach zwanzig Faltungen, also fast der Hälfte des Weges, steht ein Turm von hundert Metern, eindrucksvoll, aber irdisch. Nach 41 Faltungen ist gerade einmal die halbe Strecke zum Mond geschafft. Die letzte Faltung allein fügt mehr hinzu als alle vorherigen zusammen. Genau so fühlen sich exponentielle Entwicklungen von innen an: lange harmlos, dann in wenigen Schritten jenseits jeder Vorstellung. Und wer an irgendeinem Punkt unterwegs auf den Stapel schaut und daraus schließt, wie es weitergeht, liegt fast immer daneben, und zwar gewaltig nach unten.

Anzeige

Medienkompetenz
in Zeiten von KI

Bilder beweisen nichts mehr. Generative KI hat die Grenze zwischen echter und simulierter Wirklichkeit nahezu unsichtbar gemacht. In „Synthetische Wahrheit“ liefert DOCMA-Herausgeber Christoph Künne eine fundierte und nüchterne Bestandsaufnahme dieses historischen Epochenbruchs. Fernab von Technik-Euphorie und apokalyptischen Untergangsszenarien. 

Mehr erfahren

Ein Hauch von England

Dieser Denkfehler steckt auch in einem Fall aus der Kolonialgeschichte. Im Oktober 1859, im selben Jahr, in dem Charles Darwin „Über die Entstehung der Arten“ veröffentlichte, ließ der Gutsbesitzer Thomas Austin auf seinem Anwesen im australischen Victoria rund zwei Dutzend Wildkaninchen frei. Er wollte jagen wie in der alten Heimat. Ein paar Kaninchen, so wird er oft zitiert, könnten kaum Schaden anrichten und brächten einen Hauch von England. Ob der Satz genau so gefallen ist, lässt sich nicht mehr sicher belegen. Die Haltung dahinter schon.

Kaninchen vermehren sich sprichwörtlich schnell, und in Australien fanden sie ideale Bedingungen: milde Winter, reichlich Futter, kaum Feinde. Nach wenigen Jahren wurden sie zu Millionen geschossen, ohne dass der Bestand nennenswert schrumpfte. Wenige Jahrzehnte später hatten sie große Teile des Kontinents erobert, ihre Zahl wird für die folgenden Jahrzehnte auf Hunderte Millionen geschätzt. Sie fraßen Weiden kahl, verdrängten heimische Arten und rissen ganze Landstriche in die Erosion.

Am lehrreichsten ist an dieser Geschichte die Gegenwehr. Westaustralien ließ zwischen 1901 und 1907 ein Zaunsystem von mehr als 3.000 Kilometern Länge bauen, das die Kaninchen aufhalten sollte. Ein gewaltiges Bauwerk, Pfosten um Pfosten, Kilometer um Kilometer, also streng linear errichtet. Als es fertig war, hatten die Kaninchen die Linie an vielen Stellen längst überquert. Die Antwort kam zur richtigen Zeit, nur leider für die falsche Kurve.

Der Blick in den Rückspiegel

Womit wir bei der KI wären. Noch vor wenigen Jahren scheiterten die großen Sprachmodelle an Schulaufgaben, erfanden Quellen und zählten die Buchstaben in einfachen Wörtern falsch. Das hat sich tief ins kollektive Gedächtnis eingegraben, und genau darin liegt das erste Missverständnis. Viele Nutzer beurteilen die Maschinen von heute nach den Fehlern von vorgestern. Sie haben einmal hingeschaut, gelacht wie der König vor dem Schachbrett und sich wieder abgewandt.

Die Forschungsgruppe METR hat untersucht, wie lang die Aufgaben sein dürfen, die KI-Systeme noch zuverlässig bewältigen, gemessen daran, wie lange ein Mensch dafür bräuchte. Diese Spanne hat sich über mehrere Jahre hinweg ungefähr alle sieben Monate verdoppelt. Aus Minuten wurden Stunden. Wer das Muster fortschreibt, landet bei Arbeitstagen, dann bei Arbeitswochen. Ob es so weitergeht, weiß niemand. Aber die Leiter, auf der wir uns bewegen, hat eindeutig keine gleich hohen Stufen.

Das zweite Missverständnis ist subtiler. Die Wissenschaftsjournalistin Sibylle Anderl hat kürzlich im Magazin „human“ beschrieben, wie bereitwillig Menschen Maschinen Objektivität zuschreiben und ihnen einen großen Vertrauensvorschuss geben, obwohl der keineswegs immer gedeckt ist. Auch dieses Vertrauen ist linear angelegt. Wir eichen es an den Erfahrungen der letzten Monate. Ein System, das sich alle paar Monate neu erfindet, entzieht sich genau dieser Eichung. Das Modell, dem Sie im Frühjahr misstraut haben, gibt es so nicht mehr. Das Modell, dem Sie heute vertrauen, kann Dinge, von denen Sie womöglich noch nichts ahnen. Wir fahren nach dem Rückspiegel und wundern uns über die Kurven vor uns.

Auch der Zaun hat sein Gegenstück. Gesetze, Aufsichtsbehörden und Prüfverfahren entstehen nach demselben Muster wie das australische Bollwerk: gründlich, mühsam, Paragraf um Paragraf. So arbeiten demokratische Verfahren, und das hat gute Gründe. Offen bleibt, auf welcher Seite der Linie die Kaninchen stehen, wenn der letzte Pfosten eingeschlagen ist.

Die umgekehrte Falle

Es gibt allerdings auch den entgegengesetzten Denkfehler, und er ist in der Technikgeschichte kaum seltener. Manche Kurve, die heute steil nach oben zeigt, flacht morgen ab. Viele vermeintlich exponentielle Prozesse entpuppen sich im Nachhinein als S-Kurven: steiler Anstieg, dann Sättigung. Auch die australischen Kaninchen stießen irgendwann an die Grenzen des Futters, und Moores Gesetz, die berühmte Beobachtung von 1965 über die Verdopplung der Transistoren auf einem Chip, hat seinen Takt über die Jahrzehnte immer wieder verlangsamt.

Der Zukunftsforscher Roy Amara hat das Dilemma elegant zusammengefasst: Wir überschätzen die Wirkung einer Technik kurzfristig und unterschätzen sie langfristig. Beide Fehler entspringen derselben linearen Brille, nur zweimal aufgesetzt. Erst erwarten wir die Revolution für nächste Woche, und wenn sie ausbleibt, erklären wir sie für abgesagt. Der Ökonom Robert Solow spottete 1987, man sehe das Computerzeitalter überall, nur nicht in den Produktivitätsstatistiken. Es dauerte gut ein Jahrzehnt, bis es dort auftauchte. Wer heute darauf verweist, dass sich KI noch kaum in den Bilanzen niederschlägt, sollte diesen Satz im Hinterkopf behalten. Wer auf LinkedIn wöchentlich das Ende aller Berufe ausruft, allerdings auch.

So gesehen liegt das Problem auf der Zeitachse. Menschen erraten erstaunlich gut, wohin eine Entwicklung führt. Sie sind miserabel darin, zu schätzen, wann sie dort ankommt.

Ohne Joker

Daraus folgt zunächst eine gewisse Demut gegenüber dem eigenen Bauchgefühl. Das schnelle, intuitive Denken, das Daniel Kahneman so eindrücklich beschrieben hat, ist ein Kind der linearen Welt. Bei Verdopplungen führt es in die Irre. Wer mit KI arbeitet, sollte deshalb weniger fragen, was ein Werkzeug heute kann, als vielmehr, was es in einem Jahr können dürfte, wenn sich die Kurve auch nur halbwegs fortsetzt. Und dann die unbequemere Frage: Welche Fähigkeiten und welche Kontrolle will ich bis dahin behalten, auch wenn es verlockend ist, alles abzugeben?

Denn darin steckt das eigentliche Paradox. Je schneller die Maschinen besser werden, desto wichtiger wird der Mensch, der ihre Ergebnisse noch beurteilen kann. Und desto größer ist zugleich die Versuchung, genau diese Fähigkeit verkümmern zu lassen.

In der Quizshow gibt es für solche Momente immerhin Hilfen: den Publikumsjoker, den Telefonjoker, die Sicherheitsstufe bei 16.000 Euro, notfalls die Möglichkeit, einfach aufzustehen und mit dem Erspielten nach Hause zu gehen. Bei der künstlichen Intelligenz fehlen alle vier. Das Publikum ist so ratlos wie der Kandidat, der Anruf beim Experten landet zunehmend bei der Maschine selbst, eine Sicherheitsstufe hat niemand eingezogen, und aussteigen will auch keiner mehr. Bleibt also nur, die nächste Frage ernster zu nehmen als die letzte. Mit ihr steht, man ahnt es, noch einmal so viel auf dem Spiel wie bisher insgesamt.