Im Juni veröffentlichten vierzehn Forschende — die meisten von ihnen bei Google DeepMind, darunter einer der Mitgründer — eine sorgfältige, 57 Seiten lange Studie darüber, was mit künstlicher Intelligenz passiert, nachdem sie mit uns gleichgezogen hat. Sie kartierten jeden technischen Weg nach vorn und jedes Hindernis auf dem Weg. Dann kamen sie zu der Frage, was das alles für das ganz normale menschliche Leben bedeutet, schrieben etwa hundertdreißig Wörter — und hörten auf.
Genau dieser Stopp ist das Interessanteste an dem Papier. Dieser Beitrag handelt davon, warum.
Zuerst: Was das Papier tatsächlich sagt
Das Papier trägt den Titel From AGI to ASI, und es lohnt sich, hier präzise zu sein, denn die Berichterstattung war es nicht. Es ist kein Zeitplan. Es nennt kein Jahr für menschenähnliche KI und kein Jahr für alles, was darüber hinausgeht. Es klammert die ganze Frage nach dem Wann bewusst aus und sagt, das Ziel sei, das Terrain zu kartieren, "unabhängig davon, wann die Menschheit diesen Meilenstein erreicht." Wer dir erzählt, dieses Papier sage ein Datum voraus, erzählt dir etwas über eine Schlagzeile — nicht über das Papier.
Stattdessen geht es davon aus, dass menschenähnliche KI kommt, und stellt dann zwei Fragen mit echter Sorgfalt: Auf welchen Wegen könnte die Fähigkeit von Maschinen über diesen Punkt hinaus weiter wachsen, und was könnte das verlangsamen oder aufhalten? Vier Wege werden kartiert — größer bauen, wirklich neue Methoden erfinden, Systeme, die sich selbst verbessern, und Intelligenz, die aus großen Kollektiven zusammenarbeitender KI-Agenten entsteht. Dann kommen die Bremsen, und das ist die Hälfte, die niemand zitiert: Der Welt könnten hochwertige Trainingsdaten ausgehen; die Energie, Chips, Mineralien und das Geld, die dafür nötig sind, könnten schlicht unbezahlbar werden; die heutigen Methoden könnten an eine Grenze stoßen; Forschung selbst wird schwerer, je reifer ein Feld wird. Zwei der Bremsen erden besonders. Modelle, die mit menschlichen Konzepten trainiert wurden, könnten von menschlichen Konzepten eingezäunt sein. Und jede neue Idee über die physische Welt muss immer noch in der physischen Welt getestet werden, in dem Tempo, in dem die physische Welt läuft. Wie sie es formulieren, könnte allein das "das Tempo des Intelligenzwachstums möglicherweise auf das Tempo der empirischen Wissenschaft begrenzen, statt auf das Tempo der Rechenleistungsskalierung."
Ihr eigenes Fazit wird, in ihren Worten, "mit viel Unsicherheit (und damit geringer Zuversicht)" angeboten. Diese Zurückhaltung ist keine Schwäche. So klingen ernsthafte Menschen, wenn sie etwas beschreiben, dessen Ende sie nicht absehen können — und das ist ein guter Grund, ausgerechnet der einen Stelle zu vertrauen, an der sie unzweideutig sind.
Der Absatz, der aufhört
Tief im Abschnitt darüber, warum Gesellschaften all das absichtlich verlangsamen könnten, wendet sich das Papier kurz den Menschen zu. Hier ist im Wesentlichen der ganze Absatz:
"Es ist unklar, wie eine Arbeitswelt nach der AGI aussehen würde, wenn viele kognitive Aufgaben automatisiert und über KI-Dienste günstiger angeboten werden könnten als über menschliche Arbeitskräfte."
Sie fahren fort: In ausreichendem Umfang würde dies "ein Umdenken bei den grundlegenden ökonomischen Mechanismen erfordern" — konkret nennen sie "die Verschiebung von Arbeit zu Kapital als zentrale wirtschaftliche Ressource und ihre möglichen Auswirkungen auf den Gesellschaftsvertrag." Viele weitere Aspekte davon, wie Menschen zusammenleben, müssten, so fügen sie hinzu, darauf hin untersucht werden, wie tragfähig sie noch sind.
Und dann endet der Absatz so: "Antworten auf diese wichtigen Fragen zu geben, liegt außerhalb des Rahmens dieses Berichts."
Das war's. In einem Dokument, das seitenweise über Trainingsdaten-Nachschub, Speicherbandbreite und die theoretischen Grenzen von Intelligenz schreibt, bekommt die Frage, wie Menschen essen werden, hundertdreißig Wörter und eine freundliche Weiterleitung. Durchsuche das ganze Papier nach Ungleichheit, danach, wer die Gewinne einstreicht, danach, wie der Überfluss verteilt wird — du wirst es nicht finden. Nicht, weil die Autoren nachlässig waren — sondern weil sie eine Grenze gezogen und das auch offen so gesagt haben.
Warum sie aufgehört haben, und warum das fair ist
Es wäre leicht und falsch, diesen Satz als Ausweichmanöver zu lesen. Das ist er nicht. Es ist eine Kategoriengrenze, und eine ehrliche.
Alles andere in diesem Papier ist eine technische Frage. Wird diese Architektur skalieren? Reichen die Daten aus? Wie schnell lassen sich Experimente durchführen? Diese Fragen haben richtige Antworten, die sich irgendwann durch Belege klären lassen, und diese Menschen gehören zu den bestqualifizierten der Welt, um genau das zu verfolgen.
„Wie sollen die Vorteile von all dem die Menschen erreichen?" ist keine Frage dieser Art. Keine Menge an Rechenleistung löst sie. Es ist eine Gestaltungsfrage — eine Frage danach, wie wir uns entscheiden, die Dinge zu ordnen, beantwortbar nur, indem man eine Ordnung vorschlägt und offen dafür argumentiert. Ein völlig anderes Handwerk. Und, das muss man ihnen zugutehalten: Einer der Autoren des Papiers arbeitet anderswo genau an diesem Problem — der Text verweist Lesende auf eine begleitende Analyse zu dem, was sie Post-Labor-Prosperität nennen, statt vorzugeben, dieses Papier hätte das Thema selbst abgedeckt.
Die Leerstelle ist also keine Nachlässigkeit. Sie ist eine Vakanz. Jemand muss sie füllen, und es werden nicht diejenigen sein, die die Maschinen bauen.
Sie haben jede Route kartiert, die die Maschinen nehmen könnten. Das Einzige, was sie nicht kartiert haben, ist das Einzige, das entscheidet, ob irgendetwas davon eine gute Nachricht ist.
Wie eine Antwort aussehen könnte
Copiosis ist eine mögliche Antwort — ein konkreter, nachprüfbarer Vorschlag, genau für die Lücke, die dieses Papier offenlässt.
Schau dir an, was „die Verschiebung von Arbeit zu Kapital als zentraler wirtschaftlicher Ressource" eigentlich bedroht. Sie ist beängstigend wegen einer einzigen versteckten Annahme in dem System, das wir zufällig verwenden: dass der Zugang eines Menschen zu Essen, Wohnraum und Fürsorge über den Verkauf seiner Arbeit läuft. Zerbrich diese Verbindung, und die Verschiebung wird zur Katastrophe. Stelle diese Verbindung erst gar nicht her, und die Verschiebung ist einfach nur … Maschinen, die mehr von der Arbeit übernehmen.
Das ist der strukturelle Kniff. In Copiosis werden Grundbedürfnisse einfach bereitgestellt — Essen, Wohnen, Gesundheitsversorgung, Bildung, ohne Rechnung. Menschen verdienen sich Nettonutzen-Belohnungen, indem sie das Leben für andere und den Planeten besser machen, und mit diesen Belohnungen kaufen sie die Luxusgüter des Lebens. Nichts in diesem Design verlangt, dass ein Mensch die Routinearbeit verrichtet. Wenn eine Maschine das Essen anbaut, erreicht das Essen die Menschen trotzdem, weil der Zugang nie über einen Lohn lief.
Das bedeutet: Die Verschiebung von Arbeit zu Kapital muss nicht bekämpft, verlangsamt oder umgekehrt werden. Sie muss dort landen, wo man bereits dafür gebaut hat, sie aufzunehmen. Die ausführlichere Version dieses Arguments haben wir in KI baut die Auffahrt dargelegt; neu ist hier, dass die Menschen, die diese Technologie entwickeln, dieselbe Frage nun selbst auf den Tisch gelegt haben — in einem begutachteten Fachmedium, in ihren eigenen Worten.
Zwei weitere Sätze, bei denen es sich lohnt zu verweilen
Das Papier enthält zwei Sätze, die mehr Aufmerksamkeit verdienen, als sie bekommen haben.
Der erste betrifft die Frage, ob die Welt sich ihren Weg zu einem sicheren Tempo erkoordinieren könnte: Angesichts der Schwierigkeit internationaler Koordination und der historischen Seltenheit globaler Regulierungsrahmen bleibe eine abgestimmte multilaterale Steuerung, so schreiben sie, "ein schwer fassbares, vielleicht unrealistisches Ziel."
Der zweite Befund ist schärfer. Aufbauend auf einem etablierten Modell dazu, wie sich Technologie unter geopolitischer Rivalität verbreitet, kommen sie zu dem Schluss, dass anhaltender Wettbewerb zwischen Gruppen "systematisch die Entwicklung und Übernahme von wettbewerbssteigernden Technologien begünstigt — unabhängig von deren Auswirkungen auf das menschliche Wohlergehen."
Lies das noch einmal, denn es ist keine Klage über Technologie. Es ist die Beschreibung einer Anreizstruktur — einer, in der "macht das die Leben der Menschen besser?" nicht zu den gestellten Fragen gehört, weil nichts im Getriebe diese Frage überhaupt stellt. Genau das ist die Diagnose, von der Copiosis ausgeht, und genau das, was der Algorithmus korrigieren soll: ein System, in dem das Belohnte der erzeugte Nutzen selbst ist, sodass die Frage nicht übersprungen werden kann.
Und dann, großzügigerweise, liefert das Papier einen Maßstab, an dem sich beide Systeme messen lassen. Fortschritt, schreiben die Autoren, bedeute Entwicklungen, die "individuelle und kollektive Autonomie bewahren oder stärken, menschliches Aufblühen und Würde fördern und von Gesellschaften breit als vorteilhaft und nützlich anerkannt werden." Diesen Satz würden wir ohne Änderung unterschreiben. Die ehrliche Anschlussfrage lautet schlicht: Welche Ordnung erzeugt das wahrscheinlicher — eine, die Wohlstand über Geld leitet, oder eine, die darauf gebaut ist, ihn direkt zum Nutzen zu leiten?
Ehrlichkeits-Abschnitt, wie immer
Ein paar Dinge, die dieser Beitrag nicht behauptet, klar ausgesprochen, damit niemand raten muss.
- Niemand bei DeepMind hat irgendetwas wie Copiosis befürwortet. Sie haben eine Frage benannt. Wir bieten eine Antwort an. Das sind zwei verschiedene Dinge, und sie zu vermischen wäre genau die Art von Übertreibung, die wir zu vermeiden versuchen.
- Das Papier nennt keine Daten. Solltest du diesen Beitrag zitiert sehen als "Google sagt AGI bis Jahr X", ist das Zitat falsch. Es heißt, die Möglichkeit, weit über menschliches Niveau hinauszukommen, "innerhalb der nächsten ein bis zwei Jahrzehnte" lasse sich nicht leicht verwerfen — eine doppelte Verneinung bezüglich einer Möglichkeit, und eine sorgfältig formulierte.
- Das Papier setzt voraus, dass das Sicherheitsproblem gelöst wird. Die Autoren weisen selbst darauf hin: Das sei "keineswegs selbstverständlich, und auch keine leichtfertige Annahme." Alles Nachfolgende, auch unser Argument, übernimmt diese Annahme.
Lücke füllen
Das ist es, was bei uns bleibt. Vierzehn Menschen mit einem so klaren Blick auf diese Technologie wie kaum jemand sonst auf der Erde haben sich hingesetzt, um zu kartieren, wohin sie führt. Sie haben die Routen eingezeichnet, die Hindernisse, die Physik, die offenen Forschungsfragen — und eine Region unbeschriftet gelassen, nur markiert mit wichtig, und nicht unsere Aufgabe, sie zu beantworten.
Die Lücke ist eine Einladung. Sie wird entweder bewusst gefüllt, von Menschen, die gründlich darüber nachgedacht haben, wie Wohlstand die Menschen erreichen sollte, oder per Standardfall, von dem, was die bestehenden Anreize ausspucken, während niemand etwas festlegt. Das eine erzeugt etwas, das wir gewählt haben. Das andere erzeugt, was auch immer wir eben bekommen.
Deshalb gibt es dieses Projekt — damit, wenn die Frage endlich ernsthaft gestellt wird, bereits eine vollständig durchdachte Antwort auf dem Tisch liegt. Beginne mit wie es funktioniert, prüfe sie an dem Übergang und den harten Einwänden und sag uns dann, wo es hakt. Skepsis ist willkommen. Eine so wichtige Lücke zu füllen, sollte nicht leicht sein.