Amodeis neuer Essay ist ehrlich und in der Gefahrenanalyse weitgehend richtig. Sein erster konkreter Schritt — unabhängige, eingebettete Prüfer mit echtem Zugang — ist real und zu begrüßen. Doch sein zentrales Rezept, das Tempo zu drosseln, ist der falsche Hebel. Seine eigene Logik zeigt, warum.
Worin wir übereinstimmen
Zwei seiner Punkte sind auch unsere: KI muss unter demokratischer Kontrolle bleiben, und Demokratien müssen den Vorsprung halten. In unserem Bild muss der weiße Drache — die KI, verankert in uns allen — stärker sein als der schwarze, die KI in der Hand von Autokraten. Warum müssen wir schnell sein →
Warum Bremsen der falsche Hebel ist
Amodei betont selbst: Autoritäre Akteure werden nicht bremsen — das können nur Demokratien. Wenn das stimmt, vergrößert Bremsen bei uns nur den relativen Vorsprung der Rücksichtslosen. Man kann nicht bremsen, was ohnehin nicht bremst. Genau in diesem Teufelskreis stecken die Frontier-Labore — das Dilemma im Detail →
Das tiefere Problem: Drosseln behandelt Sicherheit und Fähigkeit als trennbar — das eine bremsen, um Zeit fürs andere zu kaufen. Wir halten sie für denselben Mechanismus.
Sicherheit und Stärke aus einer Quelle
Eine übermenschliche KI hat keine eigenen Ziele; sie verstärkt jedes Ziel, das man ihr gibt. Setzen es wenige, genügt ein einziges schlechtes. Setzen es viele — demokratisch, gekoppelt an das laufende Feedback der Menschen —, dann hält dieselbe Kopplung das System ausgerichtet und lässt es schneller lernen. Alignment und Stärke aus einer Quelle. Sicherheit wird zum Motor, nicht zur Bremse. Warum das die KI selbst stärker macht →
Warnen ist kein Plan
Amodeis Vorschlag ist fast ausschließlich Governance und Koordination — kein technischer Mechanismus für das Alignment selbst. Das fehlende Stück ist baubar, und zwar nicht nur in der Theorie: Man gibt der KI ein Gewissen, das sie befragt — ein lebendiges Modell dessen, was die Menschen wollen würden, ehrlich gehalten durch ihr laufendes Feedback. Es läuft auf heutigen Modellen, und deliberative Aggregation dieser Art verbessert Gruppen-Konsens nachweislich bereits im großen Maßstab. Wie die Zielfunktion konkret die Ziele bekommt →
Also nicht nur das Tempo drosseln — die KI ausrichten. Sicherheit kauft man nicht durch Bremsen; man baut sie. Die Wahl war nie „schnell oder sicher". Bremsen hilft nur denen, die es nicht tun.
Quellen & Hintergrund.