Die Intelligenz, die wir immer wieder erfinden

Von der Analytical Engine bis zum Zeitalter der Agenten: eine Geschichte von Maschinen, Versprechen und wechselnden Definitionen.

Der Sommer, der die Intelligenz klären sollte

Im August 1955 reichten vier Forscher einen Antrag für den folgenden Sommer ein. Eine kleine Gruppe von Wissenschaftlern sollte zwei Monate am Dartmouth College untersuchen, ob Maschinen Sprache verwenden, Begriffe bilden, Probleme lösen und sich selbst verbessern können. Ihre Ausgangsvermutung war kühn: Vielleicht lasse sich jedes Merkmal des Lernens oder der Intelligenz so genau beschreiben, dass eine Maschine es nachbilden kann.

John McCarthy, Marvin Minsky, Nathaniel Rochester und Claude Shannon gaben dem geplanten Gebiet seinen Namen: künstliche Intelligenz. Ihr Dokument trägt das Datum 31. August 1955; das Treffen fand im Sommer 1956 statt. Die Daten sind wichtig, weil die populäre Fassung der Geschichte einen Antrag, eine Veranstaltung und die Geburt einer ganzen Disziplin gern zu einem einzigen Moment zusammenschiebt.¹²

Im Antrag steht auch ein Satz, den man heute noch einmal lesen sollte. Das Haupthindernis sahen die Autoren nicht einfach in fehlender Rechenleistung, sondern darin, dass niemand Programme zu schreiben verstand, die die vorhandenen Maschinen wirklich ausnutzten.¹

Siebzig Jahre später streiten wir über dieselbe Frage, nur vom anderen Ende her. Rechenleistung haben wir im Überfluss. Wir haben Systeme, die Programme schreiben. Und doch tun wir uns schwer zu sagen, wann solche Systeme verlässlich sind, wahrhaftig, befugt zu handeln oder kompetent genug, um ohne ständige Aufsicht Folgen zu tragen.

Die Gruppe in Dartmouth hat die Intelligenz nicht entschlüsselt. Sie gab einem Streit, der längst begonnen hatte, einen dauerhaften Namen. Und dieser Streit hat seine Bedingungen seither immer wieder geändert.

Diese Geschichte lohnt es zu erzählen.

01 · Bevor die KI einen Namen hatte, hatte sie schon ein Problem

1843 veröffentlichte Ada Lovelace ausführliche Anmerkungen zu Charles Babbages geplanter Analytical Engine. Die Maschine wurde nie so gebaut, wie sie entworfen war. Aber Lovelace erkannte, dass eine universelle Symbolmaschine im Prinzip mehr bearbeiten konnte als gewöhnliche Arithmetik. Liessen sich Beziehungen formal ausdrücken, dann konnte die Maschine damit arbeiten. Zugleich warnte sie davor, ihre Kräfte zu überschätzen: Sie könne ausführen, was Menschen ihr anzuordnen wüssten, aber keine mathematischen Wahrheiten von sich aus vorwegnehmen.³

Das war weder eine Vorhersage von ChatGPT noch eine endgültige Widerlegung maschineller Kreativität. Es war etwas Nützlicheres: eine Unterscheidung zwischen der Maschine, den Anweisungen und den Behauptungen, die man über beide aufstellt. Turing griff diesen Einwand, später «Lady Lovelace’s objection» genannt, ein Jahrhundert danach wieder auf.⁴

1936 beschrieb Alan Turing mathematisch, was ein berechenbares Verfahren ist. 1943 fassten Warren McCulloch und Walter Pitts vereinfachte, neuronenähnliche Elemente in logische Begriffe. 1948 bot Norbert Wieners Cybernetics ein anderes Vokabular an: Rückkopplung, Kommunikation, Steuerung und die Ähnlichkeiten zwischen Lebewesen und Maschinen. Das waren verschiedene Vorhaben, keine Spielarten eines einzigen Algorithmus. Aber sie erlaubten die Frage, ob man Denken und Handeln als Vorgänge behandeln kann statt als Rätsel.⁵⁶⁷

1950 fragte Turing, ob Maschinen denken können, und ersetzte die Frage dann durch einen praktischen Test mit einem Gespräch, das Imitationsspiel. Ein Messgerät für Bewusstsein wollte er damit nicht liefern. Er forderte seine Leser auf zu prüfen, welche Belege sie für intelligentes Verhalten gelten lassen würden, und warum.⁴

Man beachte die Reihenfolge. Zuerst kamen die formale Berechnung, künstliche Neuronen, Rückkopplung und der Streit um Belege. Erst danach kam das institutionelle Etikett KI.

Der Name schuf nicht die Möglichkeit. Er schuf ein Fach, in dem unvereinbare Methoden um das Recht wetteifern konnten, sie zu erklären.

02 · Die ersten Vorführungen und ihre kleinen Welten

Schon vor Dartmouth, 1954, führten IBM und die Georgetown University öffentlich eine maschinelle Übersetzung vor. Ein begrenzter Wortschatz vom Russischen ins Englische und eine Handvoll Grammatikregeln ergaben einen eindrücklichen Auftritt. Im sorgfältig kontrollierten Rahmen tat die Maschine, was man sie tun liess. Was sie nicht zeigte, war die Übersetzung freier, unbeschränkter Sprache.⁸

Nach Dartmouth entwickelte das Fach rasch mehrere Persönlichkeiten.

Allen Newell, Herbert Simon und Cliff Shaw arbeiteten an Programmen, die Symbole verarbeiteten und logische Beweise suchten. Diese Tradition verstand Intelligenz als geordnetes Schliessen: die Welt darstellen, erlaubte Operationen festlegen, nach Schlussfolgerungen suchen. Frank Rosenblatts Perzeptron, 1958 öffentlich vorgeführt, verfolgte einen ganz anderen Ehrgeiz: das Verhalten der Maschine anpassen, indem man aus Beispielen numerische Verbindungen verändert. Arthur Samuels Forschung am Damespiel zeigte, dass ein Programm durch Erfahrung besser spielen konnte.²⁹¹⁰

Die verbreitete Vorstellung, die KI habe als symbolisches Schliessen begonnen und das Lernen erst Jahrzehnte später entdeckt, ist falsch. Lernen war fast von Anfang an da. Ebenso Methoden, die auf Wahrscheinlichkeit, Regelung, Suche und Verkörperung setzten. Die Frage war nicht, ob Computer lernen oder schliessen sollten. Die Frage war, welcher Ansatz noch trägt, wenn das ordentliche Beispiel aufhört.

Zwischen einer Vorführung und einem Einsatz gab es zudem ein wiederkehrendes Ungleichgewicht. Bei einer Vorführung wählen die Forschenden die Aufgabe, die Beispiele, den Zeitpunkt und die Grenzen. Im Einsatz wählt die Welt vieles davon für sie.

Dieser Unterschied sollte fast jeden späteren Aufschwung und jede Enttäuschung prägen.

03 · Die Maschine, die klang, als verstünde sie

Joseph Weizenbaums ELIZA, 1966 beschrieben, konnte ein Gespräch nachahmen, indem es Muster erkannte und Teile des eingegebenen Textes nach Regeln umstellte. Eines der Skripte glich einem nicht-direktiven Psychotherapeuten. Die Antworten brachten Menschen erstaunlich gut dazu, weiterzureden, obwohl das Verständnis fehlte, das viele dem Programm zuschreiben wollten.¹¹

ELIZA ist nicht deshalb wichtig, weil es eine frühe Form heutiger Sprachmodelle gewesen wäre. Technisch war es grundlegend anders. Wichtig ist es, weil es etwas Dauerhaftes über uns zeigte: Menschen schliessen aus der Form eines Austauschs auf Kompetenz, Zuwendung oder Verständnis, bevor sie nachsehen, wie das System funktioniert.

Im selben Jahr legte das amerikanische Automatic Language Processing Advisory Committee eine skeptische Bilanz der maschinellen Übersetzung vor. Der Bericht stellte optimistische Aussagen über Fortschritt und praktischen Nutzen in Frage und trug dazu bei, dass die amerikanische Forschungsförderung umgelenkt wurde. Er stoppte die Forschung nicht überall, und er bewies auch nicht, dass Übersetzung unmöglich sei.¹²

Ein einziges Jahr fasste also beides: den Anschein von Gesprächsverständnis und den institutionellen Vertrauensverlust in die Sprachtechnik.

Im scheinbaren Widerspruch liegt die Lehre. Eine Maschine kann vor Ort eine überzeugende Erfahrung erzeugen, ohne das allgemeine Problem zu lösen. Und ein Fach kann erhebliche Fortschritte machen, ohne schon die wirtschaftlichen oder betrieblichen Ergebnisse zu liefern, die es versprochen hat.

04 · Warum der erste Winter kam

Die KI-Forschung lernte, dass die naheliegenden Beispiele oft die einfachen waren. Ein mathematisches Rätsel, ein vereinfachtes Spielbrett oder ein eigens eingerichteter Raum liessen sich formal beschreiben. Gewöhnliche Wahrnehmung, Alltagswissen, Sprache und körperliches Handeln entzogen sich einer sauberen Beschreibung.

Shakey, zwischen 1966 und 1972 am Stanford Research Institute entwickelt, war ein bemerkenswerter fahrender Roboter. Er konnte eine begrenzte Umgebung wahrnehmen, Wege planen und einfache Gegenstände bewegen. Ein selbständiger Roboter für die unberechenbare Welt der Menschen war er nicht. Seine Leistung lag im schwierigen Zusammenspiel von Sehen, Planen und Bewegen, nicht darin, die Annahmen über seine Umgebung loszuwerden.¹³

1969 erschien Perceptrons von Marvin Minsky und Seymour Papert und legte Grenzen wichtiger Klassen früher Perzeptron-Modelle offen. Eine vereinfachte Rückschau behauptet oft, das Buch habe die neuronalen Netze im Alleingang erledigt. Das ist zu glatt. Bestimmte mathematische Grenzen, die Hardware, Forschungsmoden und Förderstrukturen wirkten zusammen; die Arbeit an lernenden Netzen ging weiter.¹⁴

In Grossbritannien schrieb James Lighthill 1972 eine kritische Bewertung der KI-Forschung. Sie erschien 1973 und wurde im selben Jahr in einer Fernsehdebatte ausgefochten. Programme und Forschungsprioritäten gerieten unter Druck. Auch amerikanische Geldgeber verschärften in Teilen des Fachs ihre Erwartungen. Historiker sprechen heute von einem ersten KI-Winter, meist angesetzt auf die Mitte der 1970er-Jahre. Aber «Winter» ist eine Metapher im Rückblick, kein weltweiter Schalter, den jemand umgelegt hätte.¹⁵

Das Aufschlussreichste daran ist nicht, dass die Begeisterung unvernünftig gewesen wäre. Viele frühe Systeme waren genial. Das Problem war, dass man ihre Erfolge leicht als Beleg für eine baldige Allgemeinheit missverstand. Die Aufgaben, die wir zuerst formalisieren können, stehen nicht unbedingt für die Arbeit, die die Maschine am Ende leisten soll.

Ein Benchmark kann bezwungen sein, und die Welt bleibt davon unberührt.

05 · Als Intelligenz zum Produkt aus Regeln wurde

Nach den ersten Enttäuschungen verschwand die künstliche Intelligenz nicht. Sie wurde nützlich, in engeren, besser umrissenen Aufgaben.

DENDRAL half, wissenschaftliche Daten in der Chemie auszuwerten. MYCIN erprobte regelbasierte medizinische Empfehlungen. In der Wirtschaft fassten Expertensysteme Fachwissen in Regeln und Schlussverfahren. XCON von der Digital Equipment Corporation, um 1980 eingeführt, um Computerbestellungen zu konfigurieren, wurde zum Sinnbild dieses Ansatzes: Software konnte ein kompliziertes Geflecht von Expertenregeln mit echtem betrieblichem Nutzen anwenden.¹⁶

Aber die Regeln mussten von irgendwoher kommen. Fachleute lieferten sie. Wissensingenieure übersetzten sie. Andere bereinigten Widersprüche, pflegten Ausnahmen nach, prüften Ergebnisse und unterhielten ein wachsendes Netz von Abhängigkeiten.

Dass man diese Software intelligent nannte, schaffte die menschliche Arbeit nicht ab, die ihre Intelligenz erst nützlich machte.

1982 startete Japan das Projekt Fifth Generation Computer Systems, ein ehrgeiziges nationales Vorhaben rund um Logikprogrammierung, Parallelrechnen und neue Rechnerarchitekturen. Es wurde weltweit als Wettbewerbssignal verstanden: KI war nicht mehr nur eine Frage für Universitäten, sondern eine der Industriepolitik. Das Projekt brachte Forschung und technische Ergebnisse hervor, seine weiterreichenden kommerziellen Ziele liessen sich dagegen schwerer erreichen.¹⁷

Auf den Boom der Expertensysteme folgte Ende der 1980er- und Anfang der 1990er-Jahre eine zweite Ernüchterung. Wartungskosten, geringe Flexibilität, sich verschiebende Hardwaremärkte und überzogene Erwartungen spielten alle mit. Wieder stand das Fach nicht still. Manche Firmen stiegen aus, andere Forschende arbeiteten weiter, und brauchbare Methoden wanderten in gewöhnliche Software.

Dieser Zyklus enthält eine Warnung für die Agentenplattformen von heute. Ein Prototyp, der den Normalfall beherrscht, ist noch kein Geschäftsprozess. Verlässlichkeit, Aktualisierungen, der Umgang mit Ausnahmen, Berechtigungen, Wiederherstellung und die Kosten menschlicher Aufsicht entscheiden darüber, ob ein scheinbar kluges System eingesetzt werden sollte.

06 · Was unter dem Winter überlebte

Die geläufige Geschichte springt von den Expertensystemen direkt zum Deep Learning. Dabei geht einige der wichtigsten Arbeit verloren.

Karen Spärck Jones’ Forschung zur Spezifität von Suchbegriffen von 1972 half, Grundsätze der statistischen Informationssuche zu begründen: Manche Wörter unterscheiden mehr als andere. Statistische und probabilistische Methoden kamen in Spracherkennung, Sprachverarbeitung, Klassifikation und Informationssuche voran, auch als die grossen KI-Ambitionen gerade neu bewertet wurden.¹⁸¹⁹

1986 zeigten David Rumelhart, Geoffrey Hinton und Ronald Williams, wie die Rückführung von Fehlern, die Backpropagation, mehrschichtige Netze so trainieren kann, dass sie nützliche innere Darstellungen lernen. Das war eine entscheidende Demonstration und Verbreitung, nicht die alleinige Erfindung der Idee. Frühere mathematische und rechnerische Arbeiten zählten mit.²⁰

1989 wendeten Yann LeCun und Kollegen die Backpropagation auf das Erkennen handgeschriebener Postleitzahlen an. Spätere neuronale Systeme verarbeiteten Dokumente im kommerziellen Betrieb. Das war keine allgemeine Intelligenz. Es war die Brücke zwischen einer reizvollen Lerntheorie und wiederkehrenden, messbaren Aufgaben, deren Fehler und Kosten man untersuchen konnte.²¹

Die grössere Lehre übersieht man leicht: Nicht alles, was die Welt verändert, ist neu, wenn es berühmt wird. Eine Idee kann warten, auf passende Daten, Chips, Werkzeuge, Institutionen und Wirtschaftlichkeit. Manchmal ist der Durchbruch der Algorithmus. Manchmal ist es die Umgebung, in der dieser Algorithmus endlich praktikabel wird.

Der Fortschritt der KI gleicht eher vielen Zuflüssen als einem einzigen Strom.

07 · Die Maschine gewinnt im Schach, die Definition verschiebt sich

1997 besiegte IBMs Deep Blue Schachweltmeister Garri Kasparow in einem Match über sechs Partien. Das Ergebnis war historisch bedeutsam. Es war auch sehr speziell. Deep Blue verband gewaltige Suche, Schachwissen, Bewertungsmechanik, Ingenieurskunst und menschliche Vorbereitung. Um Kasparow im Schach zu schlagen, musste es nicht denken wie Kasparow.²²

Nach dem Match liessen sich entgegengesetzte Schlüsse ziehen: Computer hatten eine Schwelle überschritten, die bisher menschlicher Intelligenz vorbehalten war. Oder Schach hatte sich als spezielle Rechenaufgabe entpuppt und nicht als das Mass des Geistes, für das wir es gehalten hatten.

In beiden Behauptungen steckt etwas Wahres, und keine klärt die philosophische Kernfrage.

2011 besiegte IBM Watson geübte menschliche Spieler in der Quizsendung Jeopardy!. Es verband Sprachanalyse, Suche, Rangierung und sorgfältige Ingenieursarbeit in einem System, das für die engen Regeln einer Quizshow gebaut war. Der Sieg war echt; die Architektur und die Grenzen der Aufgabe waren entscheidend.²³

Das waren keine Umwege auf dem Weg zum Chatbot. Sie zeigten, dass sich verschiedene Formen intelligenzähnlicher Leistung mit verschiedenen Kombinationen von Methoden bauen lassen.

Die Torpfosten verschoben sich nicht einfach, weil man den Maschinen nichts gönnen wollte. Sie verschoben sich, weil der Erfolg uns zwang zu sehen, wie viel mehr zur Intelligenz gehört als die Aufgabe, die wir als ihr Stellvertreter gewählt hatten.

08 · Daten werden Teil der Erfindung

Das Projekt ImageNet, 2009 in einem Aufsatz von Jia Deng und Kollegen vorgestellt, half, eine viel grössere, hierarchisch beschriftete Sammlung zum Erkennen von Objekten in Bildern aufzubauen. Dafür mussten Kategorien gebildet, Bilder gesammelt und von Menschen annotiert werden. Die Daten waren kein objektives, natürlich gewachsenes Inventar der Welt. Forschende und Arbeitskräfte haben sie entworfen und zusammengetragen.²⁴

2012 zeigten Alex Krizhevsky, Ilya Sutskever und Geoffrey Hinton, dass ein tiefes faltendes neuronales Netz, mit viel Rechenleistung trainiert, bei der ImageNet-Klassifikation ein spektakuläres Ergebnis erzielen konnte. Die Bedeutung reichte weiter als eine einzelne Netzarchitektur. Hier liefen Trainingsdaten, Grafikprozessoren, Optimierungsverfahren, eine Benchmark-Infrastruktur und wiederholbare Experimente zusammen.²⁵

Man beachte, was sich daran änderte, was das Entwicklungsteam selbst schreiben musste. Bei einem Expertensystem hielt ein Mensch einen umfangreichen Bestand an Entscheidungsregeln fest. Bei einem trainierten neuronalen System legten die Ingenieure Architektur, Lernverfahren, Datensatz, Zielgrössen und Auswertung fest; die angepassten Darstellungen entstanden durch Optimierung.

Die Arbeit änderte ihre Form. Sie verschwand nicht.

Auch Verzerrungen verschwanden nicht, nur weil niemand die Regeln mehr von Hand schrieb. Was der Datensatz abbildete, was das Modell optimierte und was der Benchmark belohnte, blieben menschliche Entscheidungen, manchmal ausdrücklich, manchmal unsichtbar.

09 · Die Welt ist nicht mehr ein Benchmark nach dem anderen

2016 besiegte AlphaGo von DeepMind Lee Sedol mit vier zu eins Partien. Die Leistung beruhte auf Deep Learning, bestärkendem Lernen und Baumsuche. Oft wird sie als Beweis angeführt, dass das Lernen die klassische KI abgelöst habe. Die tatsächliche Architektur erzählt eine interessantere Geschichte: Verschiedene Methoden können einander stärken.²⁶

2017 stellten acht Forschende in Attention Is All You Need die Transformer-Architektur vor. Den Anstoss gaben Sequenzmodellierung und maschinelle Übersetzung. Der Entwurf verzichtete in der zentralen Encoder-Decoder-Architektur auf rekurrente Berechnung und stellte die Aufmerksamkeit ins Zentrum. Diese Entscheidung half, das Training grosser Sprachmodelle wirksamer zu machen. Dass die allgemeine Intelligenz gelöst sei, verkündete der Aufsatz nicht.²⁷

Die folgenden Jahre brachten mehrere Zweige hervor, nicht ein einziges, unvermeidliches Produkt. BERT, 2019 veröffentlicht aus Arbeiten, die 2018 erschienen waren, zeigte die Kraft bidirektionalen Vortrainings für Aufgaben des Sprachverstehens. GPT-3, 2020 beschrieben, zeigte verblüffende Fähigkeiten mit wenigen Beispielen, aus einem sehr grossen autoregressiven Sprachmodell. Forschung zur Skalierung hielt empirische Zusammenhänge zwischen Rechenaufwand, Daten, Modellgrösse und Fehlerwert fest, während spätere Arbeiten zum rechenoptimalen Training die verbreitete Annahme erschütterten, die Zahl der Parameter allein bestimme den Fortschritt.^28293031

Anderswo leistete AlphaFold 2 einen grossen Beitrag zur Vorhersage von Proteinstrukturen; der wegweisende Aufsatz erschien 2021. 2022 enthielt die zugehörige Datenbank Vorhersagen für rund 200 Millionen Proteinstrukturen. Vorhersagen sind keine experimentell gemessenen Strukturen, und Proteinstrukturen vorherzusagen heisst nicht, die Biologie zu lösen. Der wissenschaftliche Nutzen ist trotzdem beträchtlich.³²

Die Bilderzeugung mit Diffusionsmodellen eröffnete einen weiteren Weg zu brauchbaren generativen Systemen. Die moderne KI lief nicht ausschliesslich auf eine einzige Art von Sprachmodell zu. Sie wurde zu einer Familie industrieller und wissenschaftlicher Techniken, die sich die Recheninfrastruktur teilten, aber verschiedene Probleme lösten.³³

Besser als «Welches Modell wurde intelligent?» ist die Frage: «Welche Fähigkeiten wurden in welchem Umfeld verlässlich genug, um zu zählen?»

10 · Als die Oberfläche zum Wendepunkt wurde

Die Öffentlichkeit erinnert sich an den 30. November 2022. OpenAI veröffentlichte ChatGPT als dialogorientierte Forschungsvorschau. Erfunden wurden an diesem Tag weder Transformer noch neuronale Netze noch Sprachmodelle. Es war eine Oberfläche, ein Trainingsrezept, ein Entscheid über die Verbreitung und ein kultureller Moment, der eine bisher spezialisierte Klasse von Systemen ungewöhnlich leicht befragbar machte.³⁴

Forschung zu menschlichem Feedback und zum Befolgen von Anweisungen half, aus reiner Textvorhersage Modelle zu machen, die sich öfter wie Assistenten verhielten. Besonders wichtig ist hier die Arbeit zu InstructGPT von 2022. Menschliche Präferenzen konnten das Verhalten der Modelle formen, doch eine Optimierung auf Präferenzen verleiht nicht automatisch Wahrhaftigkeit, Fachkompetenz oder eine Verpflichtung gegenüber den tatsächlichen Interessen der Nutzer.³⁵

GPT-4, im März 2023 vorgestellt, erweiterte die öffentliche Vorstellung davon, was ein Modell über Aufgaben und Eingabearten hinweg leisten kann, auch wenn der Entwickler selbst Schwächen dokumentierte, darunter selbstsicher falsche Antworten. Andere Gruppen machten Modellgewichte breiter zugänglich und stellten in Frage, wie zentralisiert diese Fähigkeiten bleiben würden. Zugang zu Gewichten ist allerdings nicht dasselbe wie voller Zugang zu Trainingsdaten, Rechenleistung, Dokumentation oder den Mitteln, das System unabhängig nachzubauen.³⁶³⁷

Die Oberfläche war wichtig, weil sie veränderte, wer etwas übernimmt. Frühere Systeme brauchten oft ein Forschungsteam oder eine eigene Anwendung. Ein Chatbot lud fast alle ein, durch blosses Tippen tausende mögliche Verwendungen auszuprobieren. Zum ersten Mal begegneten viele Menschen der KI nicht als enger Produktfunktion, sondern als Gesprächspartner für fast alles.

Das machte die Technik oberflächlich leichter verständlich und viel schwerer, sie gründlich zu beurteilen.

Wir erlebten ein bemerkenswertes Paradox: Je flüssiger die Systeme wurden, desto mehr Arbeit mussten die Nutzer leisten, um Beredsamkeit von Belegen zu unterscheiden, Vollständigkeit von Richtigkeit und hilfreiche Vorschläge von befugten Entscheidungen.

11 · Was die Benchmark-Kurven aus der KI-Geschichte weglassen

Fortschritt, gemessen an Genauigkeit und Tempo, ist echt. Aber er ist nicht die ganze Geschichte.

2018 dokumentierten Joy Buolamwini und Timnit Gebru erhebliche Unterschiede in den Fehlerraten kommerzieller Systeme zur Geschlechtsklassifikation. Ihre Studie Gender Shades erinnert daran, dass eine gute Durchschnittsleistung verdecken kann, wer die Fehler trägt. Die Befunde galten für die untersuchten Systeme, Datensätze und Aufgaben; man sollte sie nicht als allgemeine Fehlerraten auf jedes spätere Modell übertragen.³⁸

2021 warnte der Aufsatz Stochastic Parrots von Emily Bender, Timnit Gebru, Angelina McMillan-Major und Shmargaret Shmitchell vor Risiken rund um die Grösse der Trainingsdaten, Umweltkosten, Undurchsichtigkeit und gesellschaftliche Schäden. Manche seiner Thesen darüber, was Sprachmodelle verstehen können, sind weiterhin umstritten. Seine historische Bedeutung hängt nicht davon ab, eine Seite dieser philosophischen Debatte für entschieden zu halten.³⁹

Trainingsdaten werden gesammelt, lizenziert, gefiltert, annotiert und manchmal angefochten. Hinter Datensätzen stehen Urheber, Arbeitskräfte, Sprachen, Institutionen und ungleiche Verhandlungsmacht. Hinter dem industriellen Einsatz stehen Infrastruktur, Strom, Kühlung, Staatspolitik und Marktkonzentration. Hinter einem System, das als autonom vorgestellt wird, stehen oft menschliche Bewertungen, Sicherheitseingriffe, Werkzeugberechtigungen und Leute, die die Ausnahmen behandeln.

2024 trat die KI-Verordnung der Europäischen Union in Kraft, ein risikobasierter Rechtsrahmen, dessen Bestimmungen stufenweise gelten. In den Vereinigten Staaten bot das AI Risk Management Framework des NIST eine freiwillige Struktur für die Steuerung von Risiken. Das sind verschiedene Instrumente. Keines beendet den Streit. Dass es sie gibt, ist selbst eine historische Wende: Ob KI funktioniert, ist nicht mehr die einzige Frage. Es geht auch darum, was die Gesellschaft ihr erlaubt, wer ein Ergebnis anfechten kann und wer es korrigieren muss.⁴⁰⁴¹

Hier wird die Geschichte der künstlichen Intelligenz zu einer Geschichte der Institutionen. Die Frage «Können wir es automatisieren?» bekommt eine notwendige Begleiterin: «In wessen Auftrag, mit wessen Daten, mit wessen Recht, nein zu sagen?»

12 · 2024–2026: mehr Schliessen, mehr Handeln, mehr Angriffsfläche

Ab 2024 betonten KI-Entwickler zunehmend Modelle, die darauf trainiert sind, für schwierige Aufgaben mehr Rechenzeit aufzuwenden, und Systeme, die Werkzeuge aufrufen und mehrstufige Arbeit erledigen können. OpenAI stellte seine o1-Modelle für das Schliessen im September 2024 vor. DeepSeek-R1, 2025 veröffentlicht, zeigte, wie schnell sich auf das Schliessen ausgerichtete Methoden über Labore und Landesgrenzen hinweg verbreiten. Die Etiketten Reasoning und Agent sind nützliche Produktbezeichnungen, keine anerkannten philosophischen Urteile über Geist oder Absicht.⁴²⁴³

Der gemessene Fortschritt ist beträchtlich. Laut dem AI Index 2026 der Universität Stanford stieg die Erfolgsquote führender Agenten im Computer-Benchmark OSWorld im Laufe von 2025 von rund 12% auf 66,3%. Derselbe Bericht hält fest, dass Roboter nur 12% realer Aufgaben im Haushalt bewältigten, obwohl sie in simulierten Umgebungen viel besser abschnitten. Verschiedene Benchmarks, Aufgaben, Daten und Versuchsanordnungen darf man nicht zu einer einzigen Zahl namens Intelligenz verschmelzen.⁴⁴

Nach demselben Bericht stammten 2025 über 90% der bedeutenden Spitzenmodelle aus der Industrie, und die AI Incident Database verzeichnete für dieses Jahr 362 dokumentierte KI-Vorfälle, nach 233 im Jahr 2024. Die Zahl der Vorfälle spiegelt Meldeverhalten und Dokumentation ebenso wie die Ereignisse selbst; sie ist keine vollständige Erhebung aller Schäden durch KI. Aber sie zeigt, wie sich Fähigkeit, Konzentration und Angriffsfläche heute gemeinsam entwickeln.⁴⁵⁴⁶

Das heisst nicht, dass autonome Systeme nie funktionieren. Es heisst, dass man agentische Leistung im Detail beurteilen muss: nach Aufgabe, Umgebung, erteilter Befugnis, Korrigierbarkeit von Fehlern und Häufigkeit menschlicher Eingriffe. Eine Benchmark-Episode zu bestehen ist nicht dasselbe, wie die Lohnbuchhaltung einer Firma zu führen, Patientendaten zu bearbeiten oder ohne Aufsicht etwas in den produktiven Betrieb zu bringen.

Die Forscher von 1955 wollten Maschinen, die Sprache verwenden und sich selbst verbessern. 2026 ist dieser Ehrgeiz nicht mehr bloss Rhetorik. Aber die praktischen Fragen, die ihr Antrag beiseitelassen konnte, Kosten, Eigentum, Daten, Sicherheit, Souveränität, Umweltbedarf, Wiederherstellung und Verantwortlichkeit, sind heute untrennbar mit der Technik verbunden.

13 · Sieben Dinge, die uns diese Geschichte immer wieder sagt

1. Die Vorführung ist nicht der Einsatz. Die Übersetzungsschau von Georgetown, ELIZAs flüssiger Dialog, frühe fahrende Roboter, Siege in Quizshows und die Agenten-Benchmarks von heute lehren alle dieselbe Unterscheidung. Leistung in einer gebauten Umgebung lässt sich nicht stillschweigend auf die unkontrollierte Welt übertragen.

2. Das Lernen kam nicht nach dem Schliessen. Symbolische Methoden, neuronale Methoden, Statistik, Rückkopplung und Suche sind seit Jahrzehnten verflochten. Die Geschichte ist keine geordnete Abfolge sich ausschliessender Glaubensrichtungen.

3. Der Benchmark ist nicht der Geist. Schachkönnen, Bildklassifikation, Übersetzungsqualität, Benchmark-Mathematik und erledigte Computeraufgaben sind bedeutende Leistungen. Keine davon beweist für sich menschenähnliches Verstehen, Bewusstsein, Urteilskraft oder moralische Handlungsfähigkeit.

4. Die menschliche Arbeit wandert. Auf Regeln folgten Daten, auf Datensätze das Vortraining im grossen Stil, auf statische Ausgaben Agenten mit Werkzeugen. Auf jeder Stufe legten Menschen Ziele fest, wählten Belege aus, gaben Rückmeldungen, stellten Infrastruktur bereit und trugen die Verantwortung, wenn das System versagte.

5. Die Wirtschaft entscheidet, welche Erfindungen Geschichte werden. Schnellere Rechner, billigerer Speicher, Datensätze, die Übernahme durch Organisationen und das Geld von Investoren können eine alte Technik zum prägenden Durchbruch eines neuen Jahrzehnts machen. Eine Geschichte, die nur als Folge wissenschaftlicher Aufsätze erzählt wird, verdeckt das.

6. Ein Winter ist ein Urteil über Versprechen, nicht das Fehlen von Fortschritt. Wichtige Arbeit ging weiter, während Geld und Aufmerksamkeit abwanderten. Dass eine Schlagzeile verschwindet, beweist nicht, dass die Forschung dahinter gescheitert ist.

7. Fähigkeit und Befugnis sind zweierlei. Wer eine richtige Antwort geben kann, hat damit nicht das Recht, auf einen Datensatz zuzugreifen, sich als Fachperson auszugeben, das Geld anderer auszugeben oder zu handeln, ohne dass es einen Weg gibt, das anzufechten und zu reparieren.

14 · Die Frage, die wir von Anfang an hätten stellen sollen

Es gibt eine verlockende Art, diese Geschichte zu beenden. Man reiht Meilenstein an Meilenstein, legt eine Kurve mit wachsender Rechenleistung darüber und folgert, dass die Maschinen sich ihrem unvermeidlichen Ziel nähern.

Aber eine Zeitleiste kann eine schlechte Erklärung sein. Sie bringt Durchbrüche in eine Reihe und lässt den Weg geplant aussehen. Die Geschichte war nicht geplant. Forschende setzten auf konkurrierende Theorien. Kommerzielle Produkte hatten aus Gründen Erfolg, die keine Philosophie vorhergesagt hatte. Fördergeld verschwand und kehrte zurück. Ein Algorithmus konnte zwanzig Jahre lang übersehen werden und dann plötzlich die Hardware und die Daten finden, die er brauchte. Ein Spielzeug von Dialogsystem konnte mehr über menschliches Vertrauen verraten als eine weit kompliziertere wissenschaftliche Leistung.

Ada Lovelace warnte, dass neue Maschinen uns zuerst verleiten, ihre Kräfte zu überschätzen, und dann, aus Enttäuschung, zu unterschätzen, was sie wirklich leisten können.³ Fast zwei Jahrhunderte künstliche Intelligenz haben diesen Rhythmus nicht abgeschafft.

Die heutigen Systeme können Dinge, die die Organisatoren von Dartmouth verblüfft hätten. Das zählt. Der Fortschritt ist keine Täuschung. Er ist aber auch kein Freipass für die Annahme, das nächste System werde können, was das letzte nicht konnte, oder flüssige Antworten bedeuteten verlässliches Handeln.

Vielleicht handelt die Geschichte der KI darum nicht in erster Linie von dem Moment, in dem Maschinen intelligent werden. Sie handelt von dem immer wiederkehrenden Moment, in dem Menschen entscheiden, welche Fähigkeiten sie Intelligenz nennen, und davon, was geschieht, wenn diese Fähigkeiten das Labor verlassen.

Jede Generation hat versucht, die Frage mit einer neuen Vorführung zu klären.

Die folgenreichere Frage kommt danach.

Wer versteht die Maschine gut genug, um sie zu steuern, wer kann ihr widersprechen, wenn sie sich irrt, und wer kann sie noch abschalten?

Diese Frage wartete schon 1843. Sie wartet 2026 wieder.

Die historische Spur: ausgewählte Meilensteine

Methode und redaktionelle Anmerkung

Dieser Band ist eine historische Synthese, keine abschliessende Geschichte jedes Teilgebiets der KI. Die Daten stützen sich wo immer möglich auf Originalaufsätze, amtliche Archive und Unterlagen der Institutionen. Der Essay unterscheidet zwischen einem Forschungsaufsatz, einer öffentlichen Vorführung, einem kommerziellen Einsatz und einem späteren Rückblick. Seine wertenden Aussagen, besonders zu Hype, Vertrauen und den Grenzen von Benchmarks, sind redaktionelle Deutungen, die auf diesen Quellen beruhen, aber nicht von ihnen selbst behauptet werden. Umstrittene Punkte sind im Text als solche bezeichnet: die Ansprüche auf das erste Programm rund um Lovelace, die Urheberschaft der Backpropagation, Ursachen und Reichweite der KI-Winter und die Übertragung vom Benchmark auf die Welt.

Die Meilensteine lassen wichtige Beiträge von Einzelnen, Regionen und Disziplinen weg, darunter die sowjetische Kybernetik und viel Forschung aus Kontinentaleuropa, Kanada und China. Die Auswahl soll begriffliche Wendepunkte erklären, nicht ausschliessliche Verdienste zuteilen. Alle Beobachtungen zu Technik und Politik geben den Stand der Recherche vom 20. Oktober 2026 wieder. Die Quellen unten nennen zu jedem Eintrag, welche Art von Beleg er ist und was er nicht zeigt.

Quellen