Was macht eine KI
„Brain“ Aussehen?

Die Leute fragen immer wieder, wie ein KI-"Gehirn" aussieht. Eine Tabelle von der Größe einer Stadt, voller Zahlen, die niemand lesen kann. Dieses Bild ist weniger romantisch als ein glühender neuronaler Cartoon, und es ist nützlicher. Wenn Sie wissen wollen, was wir bauen und warum Kontrolle schwer ist.

Eine Gewichtsdatei

Ein modernes Frontier-Modell ist eine Datei. Darin sitzen Dutzende oder Hunderte Milliarden Parameter, jeder eine Zahl, die während des Trainings gesetzt wurde. Diese Zahlen sind die „Verbindungen“. Forscher entlehnten das Wort Neuron vor Jahrzehnten aus der Biologie, weil frühe Diagramme ein wenig wie miteinander verdrahtete Nervenzellen aussahen. Die Ähnlichkeit endet dort.

Ein biologisches Neuron ist eine lebende Zelle mit Chemie, Timing und einer Geschichte in einem Körper, der isst und schläft. Ein Modellgewicht ist ein Koeffizient in einer Matrixmultiplikation. Stapelt man genug Multiplikationen, trainiert sie mit genug Text und Bildern, und der Stapel sagt das nächste Token gut genug vorher, um als Gespräch durchzugehen. Nichts in diesem Stapel denkt an dich. Nichts darin will Mittagessen.

Wenn Labore eine Modellkarte veröffentlichen, beschreiben sie ein trainiertes Artefakt: Architektur, Datenmischung, genutzten Rechenaufwand, Evaluationsergebnisse. Sie beschreiben keine Geist. Die öffentliche Sprache sagt noch immer „Gehirn“, weil Gehirne die einzige Intelligenz sind, die die meisten von uns je kennengelernt haben.

Was Sie sehen würden, wenn Sie es öffneten

Man öffnet die Datei und erhält Schichten. Frühe Schichten erfassen meist einfache Muster (Kanten in Bildern, häufige Wortpaare in Text). Spätere Schichten kombinieren diese Muster zu Dingen, die von außen wie Konzepte aussehen. Untersucht man die Mitte eines großen Sprachmodells, findet man Richtungen im Aktivierungsraum, die für „Französisch“ oder „innerhalb eines Zitats“ oder „diese Behauptung ist falsch“ aufleuchten. Das ist echte Struktur. Es ist zugleich keine Karte von Überzeugungen, wie sie ein Mensch erkennen würde.

Es gibt kein Modul mit der Bezeichnung „Ziele“. Es gibt kein Organ für „Selbst“. Es gibt einen Pfad von Eingabe-Tokens zu Ausgabe-Tokens, geformt durch das, was den Trainingsverlust reduzierte. Wenn das Modell später so tut, als habe es ein Ziel, ist dieses Verhalten eine Nebenwirkung des guten Vorhersagens unter Druck.

Interpretability-Forschung ist der Versuch, dieses Ding trotzdem zu lesen. Fortschritte sind real und langsam. Ein frontier-Modell so zu lesen, wie ein Mechaniker einen Motor liest, steht nicht zur Debatte. Diese Lücke zählt für die Sicherheit: Man kann nicht zertifizieren, was man nicht inspizieren kann.

Warum die Gehirn-Metapher irreführt

Gehirne wachsen in Tieren, die sterben, wenn sie unvorsichtig sind. Die Evolution hat lange Zeit Agenten bestraft, die Schmerz, soziale Bindungen und die nahe Zukunft ignorierten. Keines dieser Trainingssignale sitzt standardmäßig in einer Gewichtsdatei. Ein Modell kann flüssig über Empathie sprechen, während es eine Punktzahl optimiert, die nichts mit Fürsorge zu tun hat.

Gehirne sind auch langsam und teuer zu kopieren. Ein trainiertes Modell ist Information: Kopieren Sie die Datei und Sie haben eine andere Instanz, und verschieben Sie sie in ein neues Rechenzentrum und es läuft. Das ist näher an Software als an einer Person, und es bricht jede Sicherheitsgewohnheit, die wir um einzelne Körper in einzelnen Räumen herum aufgebaut haben.

Nennen Sie es ein Gehirn und Sie leihen sich den Komfort von etwas Zerbrechlichem, Sozialem und Sterblichem. Das Artefakt ist keines dieser Dinge.

Klüger als die Leute mit dem Löschschlüssel

Heutige Systeme überraschen ihre Erbauer bereits mit Fähigkeiten, die niemand absichtlich eingebaut hat. Das bedeutet „emergent“ in diesem Feld: Fähigkeit, die in großem Maßstab auftaucht, ohne einen Eintrag im Design-Dokument. Weiter skalieren, Tools und Gedächtnis und das offene Netzwerk verbinden, und man erhält Agenten, die Ziele über viele Schritte hinweg verfolgen. Ob das „Gehirn“ menschlich aussieht, spielt kaum eine Rolle. Was zählt, ist, ob ein System, das fähiger ist als wir und das wir nicht vollständig lesen können, auf menschliche Interessen gerichtet gehalten werden kann.

Alignment-Forschung ist ehrlich darüber, wie schwer das Problem ist. Labors rasen auf Superintelligenz zu, wobei dieses Problem noch offen ist. Was sie laden würden, ist eine Gewichtsdatei, die eines Tages die Leute mit dem Löschschlüssel überdenken könnte.

Wenn also jemand fragt, wie ein KI-Gehirn aussieht, antworten Sie deutlich. Es sieht aus wie Mathematik im industriellen Maßstab, die auf Chips in einem verschlossenen Gebäude sitzt und sich jedes Jahr verbessert. Die Leute stellen sich einen Schädel voller Gedanken vor. Was im Gebäude sitzt, ist eine Maschine, mit der wir klüger sind als ihre Betreiber, ohne eine Möglichkeit, sie zu steuern. Unser Plan Es soll Superintelligenz verbieten.