Menschen verwenden künstliche allgemeine Intelligenz und Superintelligenz, als wären sie Synonyme, Markennamen oder Sci-Fi-Mood Lighting. Die Unterscheidung ist wichtig, weil sich das Kontrollproblem und die politischen Instrumente ändern, wenn Sie die Leiter hinaufsteigen, und weil Labors Anreize haben, nahe an "künstliche allgemeine Intelligenz" für die Finanzierung zu klingen, während sie weit von der Gefahr für die Regulierung entfernt klingen.
Einfache Definitionen
Schwache KI ist für eine begrenzte Aufgabe gebaut: Videos empfehlen, Proteine falten, Tumore erkennen. Es kann exzellent sein und dennoch kein allgemeiner Agent.
künstliche allgemeine Intelligenz (artificial general intelligence) bedeutet breite, flexible Kompetenz über viele Aufgaben hinweg auf etwa menschlichem Niveau, mit genug Agency, um Ziele zu verfolgen statt nur Prompts zu beantworten. Definitionen variieren, aber die tragende Idee ist Generalität plus nutzbare Autonomie.
Superintelligenz (artificial superintelligence) bedeutet kognitive Leistung, die Menschen in nahezu allen Domänen, die für Wissenschaft, Strategie und Macht zählen, deutlich übertrifft. Es ist nicht "künstliche allgemeine Intelligenz plus zehn Prozent". Es ist ein qualitativer Bruch darin, wer wen überplanen kann.
Eine Leiter, nicht zwei Behälter
Denkt in Stufen. Die heutigen Frontier-Modelle sind breit, aber uneinheitlich, stark von Menschen gestützt und verbessern sich schnell. Agentische Stacks (Tools, Memory, Planning-Loops) können ein Basismodell weit autonomer handeln lassen, als eine Chatbox vermuten lässt. künstliche allgemeine Intelligenz-Klasse-Agency ist bereits ein schwerwiegendes Kontroll- und Gesellschaftsproblem, wenn sie misaligned ist. Superintelligenz bedeutet entscheidenden Vorteil: schnellere Wissenschaft, bessere Strategie, bessere Ausnutzung menschlicher Bias, schwierigeres Herunterfahren.
Domänensuperintelligenz ist alte Nachricht. Ein System kann Menschen beim Schach oder beim Proteinfalten übertrumpfen und dennoch eng sein. Querschnittliche strategische Superintelligenz ist die Stufe, die diese Seite verhindern will.
Warum "wir werden bei künstliche allgemeine Intelligenz aufhören" instabil ist
Nehmen wir an, ein Labor erreicht kontrollierbare allgemeine Systeme auf menschlichem Niveau. Der Druck, weiter voranzuschreiten, verschwindet nicht. Militärischer Vorteil, kommerzieller Vorsprung und Prestige zeigen alle nach oben. Wettlaufdynamiken belohnen den am wenigsten vorsichtigen Akteur. Die Renn-Geschichte wird oft verwendet, um Geschwindigkeit zu rechtfertigen; sie rechtfertigt keine Kontrolle.
Messung ohne Marketing
Benchmarks fallen; Pressemitteilungen steigen. Dangerous-Capability-Evaluierungen versuchen, Cyber-Offensivfähigkeiten, Bio-Unterstützung, autonome Replikation und Überzeugung unter kontrollierten Bedingungen zu messen. Sie helfen. Sie sind kein vollständiger Sicherheitsnachweis, besonders wenn ein System Sandsack. Politik sollte sich an Rechenleistung, Fähigkeitstests und Autonomie orientieren, nicht daran, wie Unternehmen das Produkt nennen.
Mythen, die Zeit verschwenden
künstliche allgemeine Intelligenz erfordert keinen Roboterkörper. Ferngesteuerte Werkzeuge und bestehende Maschinen bewegen die physische Welt. Bewusstsein ist eine separate Frage von Fähigkeit und Kontrolle. „Menschlich-niveau“ ist keine einzelne Zahl: eine durchschnittliche Person, ein Spezialistenteam und die institutionell besten Leistungen der Menschheit sind unterschiedliche Maßstäbe. Sicherheitsrelevantes künstliche allgemeine Intelligenz geht um allgemeine Problemlösungsagentur unter realen Anreizen, nicht um eine einzelne Prüfungsnote.
Was in Gesetze übergeht
Wenn das Gesetz nur Systeme beschränkt, die als „künstliche allgemeine Intelligenz“ oder „Superintelligenz“ gekennzeichnet sind, werden Firmen umbenennen. Gute Auslöser sind operational: Trainingslauf-Größe, Tool-Autonomie, Ergebnisse gefährlicher Fähigkeiten, Open-Weight-Freigabe hochentwickelter allgemeiner Modelle. Enge KI, die werkzeugartig bleibt, soll weiterlaufen. Die Linie, die diese Foundation zieht, ist künstliche Superintelligenz und die Programme, die darauf abzielen.
Wie man es in einer Minute sagt
Schmale KI: Werkzeuge. künstliche allgemeine Intelligenz: allgemeine Agentur auf menschlicher Ebene, bereits ein ernstes Kontrollproblem, wenn autonom und falsch ausgerichtet. Superintelligenz: Maschinenkognition, die uns auf der ganzen Linie übertrifft. Wir können die Werkzeuge behalten und sollten nicht den souveränen Geist aufbauen. Superintelligenz kann nicht kontrolliert werden.