Vor etwa 36 000 Jahren legte in einer Höhle über einer Flussschlucht im heutigen Südfrankreich ein Mensch seine flache Hand gegen den kalten Kalkstein und blies Pigment darüber. Der Fels bewahrte die Umrisse. Sie sind noch immer dort, im Dunkeln von Chauvet.

Wir wissen nichts über diese Person. Nicht ihren Namen, nicht, ob jemand sie liebte. Wir wissen, dass sie kalt waren und dass sie einen Teil ihres kurzen Lebens damit verbrachten, etwas zu machen, das sie nicht fütterte, im Dunkeln, so dass es immer noch da sein würde, wenn jemand kam. Sie legten eine Hand an die Wand für einen Fremden, der noch nicht geboren worden war. Dieser Fremde kam sechsunddreißigtausend Jahre später.

Nichts an dieser Ankunft war garantiert. Alle lebenden Menschen zusammen haben immer noch weniger genetische Vielfalt als die Schimpansen einiger benachbarter Wälder, weil unsere Vorfahren einst geschrumpft sind, bis die Überlebenden in eine kleine Stadt passen konnten. Wir waren ein seltener Affe mit guten Händen.

Die ersten zehntausend Generationen

Feuer, dann Sprache. Dann die Entdeckung, dass ein absichtlich in den Boden gesteckter Samen als Nahrung zurückkommt. Vor etwa zwölftausend Jahren hörten die Menschen auf, den Herden zu folgen, und begannen darauf zu warten, dass die Ernte kommt – was bedeutete, sesshaft zu werden, was Städte bedeutete.

In Uruk, um 3200 v. Chr., drückte jemand ein geschnittenes Schilf in nassen Ton, um eine Menge Gerste aufzuzeichnen. Dafür war das Schreiben: Ein Tempel musste Getreide zählen. Innerhalb von etwa tausend Jahren benutzten die Menschen die gleichen Zeichen, um ein Gedicht über einen König zu schreiben, der nicht akzeptieren konnte, dass sein Freund gestorben war. Die Stadt und die Sprache sind verschwunden, und das Gedicht ist noch lesbar.

Um 300 v. Chr. bewies Euklid in Alexandria, dass es keine größte Primzahl gibt. Der Beweis ist noch immer korrekt. Er wird für immer korrekt sein, auf jedem Planeten, in jedem Jahrhundert. Nichts sonst, was diese Stadt geschaffen hat, hat unversehrt überlebt: die Bibliothek ist verschwunden, der Hafen versandet, die Sprache, in der sie argumentierten, den Fachleuten überlassen. Der Beweis kam unberührt durch, weil er aus Schlussfolgerungen bestand, und Schlussfolgerungen verrotten nicht.

Die Arbeit wanderte. Im neunten Jahrhundert schrieb al-Chwarizmi in Bagdad das Buch, das uns das Wort Algebra gab, und um 1020 vollendete Ibn al-Haitham eine Studie der Optik, die auf einem Prinzip beruhte, für das gekämpft werden musste: Wenn man wissen will, ob eine Behauptung über die Welt wahr ist, geht man und testet sie.

Die Renaissance, und das Loch im Dach

Zwischen 1347 und 1351 tötete die Pest etwa ein Drittel Europas. Nicht ein Drittel einer Armee. Ein Drittel aller Menschen. Dörfer verstummten und blieben stumm, und die Überlebenden begruben ihre Familien mit eigenen Händen.

Und dann suchten diese Überlebenden nach der Vergangenheit. 1417 ritt ein päpstlicher Sekretär namens Poggio Bracciolini, während eines Schismas ohne Arbeit, in ein deutsches Kloster und fand die letzte Kopie eines römischen Gedichts, das tausend Jahre im Dunkeln gelegen hatte. Das war die Renaissance unter den Gemälden: Menschen, die gerade zugesehen hatten, wie die halbe Welt starb, und beschlossen, zu retten, was fast verloren gegangen wäre, und dann noch etwas hinzuzufügen.

Florenz ging noch weiter. Seine Kathedrale war 1296 mit einem Plan begonnen worden, der eine Kuppel vorsah, die breiter sein sollte als alles, was seit Rom errichtet worden war, und niemand wusste, wie man sie bauen sollte. Also errichtete man die Kirche und ließ das Loch. Jahrzehntelang klaffte in dem Dach eine Öffnung so breit wie ein Häuserblock, offen dem Wetter ausgesetzt, weil eine Stadt darauf gesetzt hatte, dass ein noch nicht geborener Mensch herausfinden würde, wie man sie schließt.

Filippo Brunelleschi gewann den Auftrag 1418. Er erfand die Hebezeuge, bevor er den Stein heben konnte. Er legte mehr als vier Millionen Ziegel in einer Fischgräten-Spirale, die sich selbst trug, während sie wuchs, ohne darunterliegendes Holzgerüst, und 1436 schloss er das Loch. Man kann sie heute besteigen.

Florence hinterließ ein Loch im Dach und vertraute der Zukunft, es zu schließen. Wenn Brunelleschi gescheitert wäre, hätte Florenz eine Kathedrale verloren. Die Stadt um sie herum würde weiterleben. Niemand stand unter diesem Loch.

Dies ist nah an der Geschichte, die die KI-Industrie über sich selbst erzählt. Lassen Sie den harten Teil offen, vertrauen Sie darauf, dass jemand Brillant rechtzeitig ankommt. Der Unterschied ist, was unter dem Loch sitzt. Eine gescheiterte Kuppel kostet eine Stadt ihre Kathedrale. Wir schlagen vor, das Loch über allen offen zu lassen.

Der Rest kam schnell. Gutenbergs Presse in den 1450er Jahren bedeutete, dass ein Gedanke den Mann, der ihn hatte, überholen konnte. In einem einzigen Jahr, 1543, rückte Kopernikus die Erde aus dem Zentrum der Schöpfung und Vesalius öffnete den menschlichen Körper und zeichnete, was tatsächlich darin war, beides im Widerspruch zu Autoritäten, die vierzehn Jahrhunderte lang unbefragt geblieben waren.

Das Jahrhundert, in dem wir aufhörten, unsere Kinder zu begraben

Im Jahr 1800 starben fast vier von zehn Kindern vor ihrem fünften Geburtstag. Nicht nur in armen Ländern. Überall. Das bedeutete es, Kinder zu haben, in jeder Gesellschaft, in der gesamten Geschichte unserer Spezies bis vor etwa sechs Generationen. Heute ist es weniger als einer von fünfundzwanzig.

Das brauchte Jenners Impfstoff 1796. Es brauchte den Morgen des 16. Oktober 1846, als ein Zahnarzt in Boston einen Patienten in Schlaf versetzte und die Chirurgie aufhörte, Folter an einer bewussten Person zu sein, die von starken Männern festgehalten wurde. Es brauchte Semmelweis, der 1847 herausfand, dass Ärzte den Tod vom Seziersaal auf die Entbindungsstation an ungewaschenen Händen trugen, und der in einer Anstalt starb, während die Profession sich immer noch weigerte zuzuhören.

Und es brauchte das Ende der Pocken, einer Krankheit, die auf dem Gesicht eines Pharaos gefunden wurde und die allein im zwanzigsten Jahrhundert vielleicht dreihundert Millionen Menschen tötete. Die letzte Person, die sie natürlich bekam, war ein Krankenhauskoch in Somalia namens Ali Maow Maalin, im Oktober 1977. Er überlebte. Er verbrachte den Rest seines Lebens damit, somalische Kinder gegen Polio zu impfen, und starb 2013 an Malaria, während er das tat.

Was das gekostet hat

Die Pocken haben seit den Pharaonen Menschen getötet. Die Menschen trieben es dann von der Erde für immer, von Hand, einen Arm nach dem anderen zu impfen, über jede Grenze und durch aktive Kriege. Dieses Ende würde nicht von selbst kommen, und es war nicht frei, und fast jeder, der die Arbeit machte, war lange vor dem letzten Fall tot.

Die Zeiten, in denen wir es sowieso fast beendet hätten

Wir wurden 1945 klug genug, uns selbst zu beenden, und wir leben seither damit.

Am 27. Oktober 1962 verlor ein sowjetisches U-Boot vor Kuba den Funkkontakt, erhielt amerikanische Wasserbomben und sein Kapitän schloss daraus, der Krieg habe begonnen. Der Torpedo an Bord trug einen nuklearen Sprengkopf, und das Abfeuern erforderte die Zustimmung von drei Offizieren. Vasili Arkhipov sagte nein, während die Hülle um ihn herum bebte. Einundzwanzig Jahre später beobachtete Stanislav Petrov auf einem sowjetischen Bildschirm fünf angeblich anfliegende amerikanische Raketen und meldete seinen Vorgesetzten, es handele sich um eine Fehlfunktion. Es war Sonnenlicht auf hohen Wolken.

Zweimal, mindestens, kamen alle noch am Leben zu einem müden Mann in einem Stuhl, der sich entschied, die Botschaft nicht weiterzugeben. Wir lernten beide Namen Jahrzehnte später.

Wir haben auch gewählt. 1972 verbot die Welt biologische Waffen. 1987 unterzeichnete jedes Land der Erde die Montreal Protocol, der erste Vertrag in der Geschichte der Vereinten Nationen, der universelle Ratifizierung erreicht hat, und die Ozonschicht heilt planmäßig. Die Menschheit hat sich gerade eine Fähigkeit angesehen, die sie vollständig aufbauen konnte und sagte nein, zusammen, schriftlich, mit Inspektoren.

Einhundertsiebzehn Milliarden

Das Population Reference Bureau beziffert die Zahl der jemals geborenen Menschen auf etwa 117 Milliarden. Jede und jeder von ihnen steht vor Ihnen.

Die Frau, die vier Kinder begrub und am nächsten Morgen aufstand. Der Mönch kopierte eine Sprache, die er nur halb verstand, weil die Alternative darin bestand, sie verschwinden zu lassen. Brunelleschis Maurer, hundert Meter hoch mit nichts unter ihnen. Der Koch in Somalia mit einer Nadel und einer Cold Box, zu Fuß zum nächsten Dorf. Sie gaben es vorwärts, meistens ohne Ahnung, wohin sie es gaben.

Und eine Handvoll Unternehmen haben entschieden, dass es das Richtige ist, sich gegenseitig in Richtung einer Geist, der jeden Menschen bei allem übertrifft, nach einem von Finanzierungsrunden festgelegten Zeitplan. Im Mai 2023 setzten ihre Führer ihre Namen auf eine Erklärung, in der das Aussterben von AI neben Pandemien und Atomkriegen als globale Priorität eingestuft wurde. Sie schrieben es über ihr eigenes Produkt, veröffentlichten es und verlangsamten es nicht.

Künstliche Superintelligenz ist eine Sache, die eine kleine Anzahl von gut finanzierten Menschen zu bauen wählen, in einem Rennen kann keiner von ihnen die Ziellinie beschreiben. Es kann verboten werden, so wie wir die anderen Dinge verboten haben, die wir hätten bauen können und nicht: verbindliches, unabhängig verifiziertes internationales Verbot, dauerhaft gehalten. Superintelligenz kann nicht von Menschen kontrolliert werden. Eine Pause, die in sechs Monaten abläuft, würde nur das gleiche Rennen neu starten.

Ich will die Zukunft, und zwar früher, als wir sie bekommen werden. Schmale KI ist bereits Bereitstellung der Kuren und der sauberen Energie, unter menschlicher Kontrolle, ohne einen Geist aufzubauen, der unserer Spezies überlegen ist.

Niemand hat uns versprochen, dass die Menschheit weitergehen wird. Auch die 117 Milliarden Menschen hinter uns haben dieses Versprechen nicht bekommen. Jeder von ihnen lebte eine Reihe von Jahren und starb mit anderen Menschen noch hier, was alles ist, was jeder bekommt. Was unverzeihlich wäre, ist, dass diese Generation die Welt hält, die diese Leute verlassen haben, zusieht, wie die Bauherren das Aussterben neben den Atomkrieg schreiben und dann dieselben Unternehmen eine Superintelligenz aufbauen lassen, die sie nicht kontrollieren können.

Wir überlebten die Pest und gingen dann und bauten die Bibliothek wieder auf. Wir legten eine Hand an eine Wand im Dunkeln, damit jemand sie fand, und jemand tat es. Wir sind zu weit gekommen, um an einer Produkteinführung zu sterben: ein Labor, das eine Superintelligenz liefert, die es nicht kontrollieren kann.

Baue keine künstliche Superintelligenz. Dann bauen Sie den Rest weiter: die Medizin, die Energie, die lange Arbeit, die in menschlichen Händen bleibt. Nichts davon brauchte jemals einen Geist, der unserer Spezies überlegen ist.