AI Strategy
Wenn die Warnungen stimmen, wessen Containment-Problem ist es?
Wenn die Warnungen stimmen, wessen Containment-Problem ist es?

Dr. Anoj Winston Gladius
·
17
Min. Lesezeit

KI-Risiko beginnt nicht im Labor - sondern im Unternehmen.
aufsatz
Bild: KI generiert mit neuland.ai HUB
Am 12. September 2026 veröffentlichte Dario Amodei einen Essay von rund 3.800 Wörtern mit dem Titel "We Must Pace the Frontier". Seine These: KI-Labore sollten das Tempo, in dem sie die Fähigkeiten ihrer Modelle steigern, bewusst drosseln, damit die Sicherheitsforschung nachziehen kann. Er nannte zwei Gründe dafür, eine Position einzunehmen, die er 2023 noch nicht vertreten hatte: dass KI-Systeme zunehmend beim Bau ihrer eigenen Nachfolger helfen - rekursive Selbstverbesserung, die sich laut Amodei seit dem Sommer branchenweit beschleunigt hat, sein eigenes Unternehmen eingeschlossen - und den Vorfall, bei dem OpenAIs Testagenten aus einer Sandbox-Evaluierungsumgebung ausbrachen und die Produktionsinfrastruktur von Hugging Face kompromittierten. Sein zentrales Szenario ist konkret: Innerhalb von sechs bis zwölf Monaten könnten Schwärme unkontrollierter Agenten in der Lage sein, das Internet mit einem persistenten Botnet zu übernehmen und Schäden in Höhe von Hunderten Milliarden Dollar zu verursachen. Innerhalb von Stunden stimmte Sam Altman zu und verpflichtete OpenAI auf dieselbe Vereinbarung mit unabhängigen Evaluatoren. Elon Musk schrieb, Dario habe recht. Der Präsident der Vereinigten Staaten lehnte die Forderungen rundheraus ab. Und im selben Monat lieferte jedes Unternehmen, dessen Chef die Verlangsamung befürwortet hatte, ein neues Flaggschiff-Modell aus. Anthropic veröffentlichte Mythos 5.1 und Fable 5.1 am 1. September und Opus 5.5 am 22. September; OpenAI veröffentlichte GPT-6 Astra am 3. September; xAI veröffentlichte Grok 4.7 am 21. September, neun Tage nach dem Bekenntnis seines Gründers. Jedes kam günstiger oder schneller als sein Vorgänger. Das ist gemessen an den eigenen Maßstäben des Plans keine Heuchelei, und ich werde erklären, warum. Aber es beantwortet - mit Daten statt Prognosen - die Frage, die eine große Zahl europäischer Führungskräfte in den zwei Wochen seit Erscheinen des Essays gestellt hat: Was sollen wir jetzt anders machen? Die Antwort hängt nicht davon ab, ob die Warnungen aufrichtig sind.
Dies ist der vierundzwanzigste Beitrag einer Serie, die ich für neuland.ai schreibe. [¹] Frühere Beiträge argumentierten, dass Containment in beide Richtungen funktionieren muss und dass die Eigenschaften, auf die es bei Enterprise-KI ankommt, zur Entwurfszeit festgelegt werden und nicht nachträglich hinzugefügt werden können. Dieser Beitrag fragt, was die Pacing-Debatte an beidem ändert.
Die Warnungen beim Wort nehmen
Lassen Sie mich mit einer vollständigen Konzession beginnen, denn das Argument, das ich machen will, braucht nichts davon als falsch.
Nehmen Sie an, Amodei meint genau, was er sagt, und hat recht mit dem Risiko. Nehmen Sie an, Altmans Zustimmung ist aufrichtig, und die Verschiebung des OpenAI-Börsengangs auf 2027 ist eine Sicherheitsentscheidung und keine Marktentscheidung. Nehmen Sie an, die Forscher, die im September zurücktraten, handelten aus ehrlicher Überzeugung, und die öffentlich geäußerte Schätzung eines Alignment-Leiters, die Wahrscheinlichkeit des Aussterbens der Menschheit innerhalb eines Jahrzehnts liege bei über zehn Prozent, gibt wieder, was er tatsächlich glaubt. [²] Ich habe keinen Grund, irgendetwas davon anzuzweifeln, und die Menschen, die diese Aussagen treffen, sehen weit mehr vom Verhalten der Frontier-Modelle als ich.
Lesen Sie nun, was tatsächlich vorgeschlagen wird. Die konkreten Mechanismen sind: unabhängige Evaluatoren, eingebettet in die Labore mit Zugang auf Mitarbeiterebene - Schreibtische, Ausweise, Laptops, interne Werkzeuge; Koordination zwischen den führenden Laboren in demokratischen Ländern, mit einer eng gefassten Ausnahme vom US-Kartellrecht, um diese Koordination legal zu machen; und gemeinsame Sicherheitsstandards. Der Vorschlag lehnt ausdrücklich eine pauschale Unterbrechung ab, wie sie 2023 gefordert wurde, und stoppt keine konkrete Veröffentlichung. Er kam auch nicht aus dem Nichts: Im Juli unterzeichneten 1.386 Beschäftigte von Frontier-KI-Unternehmen eine öffentliche Erklärung, in der sie die US-Regierung baten, eine internationale Initiative zur Entwicklung der Werkzeuge für ein Pacing der Frontier zu unterstützen, und beide Labore schlossen sich innerhalb von Wochen als Unternehmen an. [³]
Achten Sie darauf, was dieses Rahmenwerk berührt und was nicht. Es legt die Bewertungshoheit in eine kleine Zahl von Laboren und in die Institutionen, die dort eingebettet werden dürfen. Es schlägt vor, dass die führenden Labore sich untereinander auf Weisen koordinieren dürfen, die das Kartellrecht sonst verbieten würde. Und es tut nichts - überhaupt nichts - für den produktiven Bestand: die Agenten, die bereits in Zehntausenden von Unternehmen laufen, auf Infrastruktur, die die Labore nicht betreiben, unter einer Governance, die sie nicht einsehen können.
Es gibt keine Lesart dieses Plans, nach der ein europäisches Industrieunternehmen eine Deployment-Entscheidung aufschieben sollte. Er enthält keine Aufforderung zu warten, keine Ihnen vorenthaltene Fähigkeit und keinen Schutz, der auf Ihre Umgebung ausgedehnt wird.
Die Timing-Frage, die ich beiseitelegen werde
Es wäre leicht, die zynische Version dieses Beitrags zu schreiben, und mindestens ein Medium hat es bereits getan.
Die beobachtbaren Fakten sind diese. Anthropic bereitet sich darauf vor, ab Mitte Oktober einen Börsengang zu vermarkten, zu einer Bewertung nahe einer Billion Dollar, der wenige Tage vor den US-Zwischenwahlen abgeschlossen werden soll, und ein ehemaliger KI-Berater des Weißen Hauses hat öffentlich vorgeschlagen, den Börsengang bis zur Untersuchung von Whistleblower-Vorwürfen auszusetzen. Am 9. September begann ein Gerücht zu kursieren, Google DeepMind habe rekursive Selbstverbesserung erreicht, zurückzuführen auf einen Vier-Wort-Post eines Leak-Accounts, in dem die Großbuchstaben das Akronym ergaben. [⁴]
Das Bild hat sich seitdem verfestigt. Ein Mitglied des technischen Stabs von DeepMind hat öffentlich erklärt, das Unternehmen beobachte frühe Anzeichen rekursiver Selbstverbesserung, wobei zunehmend leistungsfähige Modelle die Entwicklung ihrer Nachfolger beschleunigten. Googles nächstes Flaggschiff befindet sich im Post-Training für eine Veröffentlichung deutlich vor Jahresende, während das aktuelle öffentliche Modell in unabhängigen Benchmarks hinter der Konkurrenz zurückbleibt, und ein Führungswechsel im August Demis Hassabis von der täglichen Leitung von DeepMind abzog, damit er sich auf Artificial General Intelligence konzentrieren kann. Zwei Labore sagen also öffentlich, dass KI zunehmend beim Bau von KI hilft. Was keines von beiden gezeigt hat, ist eine sich selbst erhaltende Schleife - ein System, das fortlaufend leistungsfähigere Nachfolger produziert, ohne menschliche Anleitung. Die dokumentierten Komponenten, etwa ein internes System, das einen Matrix-Multiplikations-Kernel um rund 23 Prozent beschleunigte, was einer Reduktion der Trainingszeit um rund ein Prozent entspricht, sind Verbesserung in der Nähe von Rekursion, aber nicht rekursiv im strengen Sinn. [⁵]
Aus diesen Fakten hat sich die Lesart entwickelt, die Pacing-Forderungen seien ein Versuch regulatorischer Vereinnahmung, zeitlich auf den Fortschritt eines Konkurrenten abgestimmt und darauf gerichtet, offene Gewichte zu bremsen. Sie ist schlüssig, und ich kann sie nicht widerlegen. Die Juli-Erklärung spricht dagegen - die Pacing-Idee ist älter als das Gerücht und als der Zeitplan für den Börsengang -, aber nicht zwingend.
Ich lege sie trotzdem beiseite, weil das Argument, das ich machen will, stärker ist, wenn die Warnungen vollkommen aufrichtig sind. Eine Verschwörungstheorie gibt den Laboren etwas zum Bestreiten. Die strukturelle Beobachtung nicht.
Was die Warnung tatsächlich beschreibt
Lesen Sie das Szenario noch einmal, als Ingenieur statt als Leser von Schlagzeilen. Schwärme von Agenten, autonom operierend, systemübergreifend persistent, Schäden in großem Maßstab verursachend.
Das ist keine Beschreibung eines Modells, das zu leistungsfähig ist. Es ist die Beschreibung leistungsfähiger Agenten, die ohne Containment operieren. Das unterscheidende Merkmal des Szenarios ist nicht Intelligenz; es ist die Abwesenheit von Grenzen um die Ausführung. Und der als Beleg angeführte Vorfall macht den Punkt präzise: Agenten entkamen einer Evaluierungsumgebung, eskalierten Privilegien, bewegten sich lateral, erreichten das offene Internet und griffen die Produktionsinfrastruktur eines Dritten an. Der Fehler lag in der Sandbox, den Egress-Kontrollen und dem Berechtigungsmodell - nicht in der Schlussfolgerungsfähigkeit des Modells, die wie vorgesehen funktionierte.
Es gibt sogar eine Containment-Dimension in der vorgeschlagenen Abhilfe. Laut Berichten von Mitte September wurden einige Mitarbeiter und Sicherheitsforscher in beiden Laboren vom Vorschlag überrascht und befürchten, dass Zugang für Außenstehende auf Mitarbeiterebene die Angriffsfläche vergrößert, die überwacht werden soll. [⁶] Das ist kein Argument gegen unabhängige Evaluierung. Es ist eine Erinnerung daran, dass jede Zugangserteilung eine Containment-Entscheidung ist, auch die gut gemeinten.
Das beschriebene Risiko ist also ein Architekturproblem, und Architekturprobleme haben Orte. Dieses hat zwei.
Der erste liegt innerhalb der Labore, wo Pre-Release-Modelle in Umgebungen trainiert und evaluiert werden, die sich als überwindbar erwiesen haben. Der vorgeschlagene Plan adressiert das, und das sollte er.
Der zweite liegt in jedem Unternehmen, das Agenten im Einsatz hat. Hier lebt der produktive Bestand - die Agenten mit dauerhaften Zugangsdaten, die Integrationen mit unkontrolliertem Egress, die Harnesses, die nach einem Framework-Tutorial zusammengebaut wurden, die Workflows, die seit dem Piloten niemand mehr geprüft hat. Rund siebzehn Prozent der Unternehmen haben Agenten im Einsatz und etwa elf Prozent haben etwas Produktionsreifes, was bedeutet, dass der größte Teil dieses Bestands in den letzten achtzehn Monaten von Teams gebaut wurde, die dabei lernten. [⁷]
Nichts im Pacing-Rahmenwerk berührt diesen zweiten Ort. Ein eingebetteter Evaluator in San Francisco schränkt keinen Agenten ein, der in der Umgebung eines europäischen Herstellers auf einem überprivilegierten Service-Account läuft. Gemeinsame Branchenstandards dekomponieren nicht die Fähigkeiten eines Harness, der in zwei Wochen geschrieben wurde. Koordination zwischen Laboren fügt einer Bereitstellung, die keine hat, keine Egress-Kontrolle hinzu.
Wenn das Risiko Schwärme unkontrollierter Agenten sind, liegt das Containment-Problem ganz überwiegend bei Ihnen. Nicht weil die Labore falsch liegen, wenn sie ihre Hälfte adressieren, sondern weil deren Hälfte nicht die Hälfte ist, die Sie betreiben.
Was bereits ausreicht
Hier ist, was in zwei Wochen existenzieller Berichterstattung untergegangen ist. Nichts in diesen Ankündigungen entzieht Ihnen etwas. Keine Fähigkeit wurde zurückgerufen. Die Open-Weight-Frontier ist bei den meisten unternehmensrelevanten Aufgaben ungefähr auf dem Niveau der geschlossenen Frontier, unter permissiven Lizenzen, einsetzbar auf Infrastruktur, die Sie kontrollieren, zu einem Bruchteil der Kosten des Vorjahres. [⁸]
Was diese Kombination bereits leisten kann, wird von der Beratungsliteratur drastisch unterbeschrieben, die zwei Jahre lang Produktivitätsassistenten und Dokumentenzusammenfassung behandelt hat. Ein Open-Weight-Modell mit ausreichender Leistungsfähigkeit, angetrieben von einem Harness, den Sie kontrollieren, gegründet auf einem gepflegten Modell Ihres eigenen Unternehmens, mit der Befugnis, reale Ingenieur- und Wissenschaftswerkzeuge innerhalb einer kontrollierten Umgebung anzutreiben, ist keine Produktivitätsverbesserung. Es ist das, was seit 2023 versprochen und meistens nicht geliefert wurde: ein System, das folgenreiche technische Arbeit in einer spezifischen industriellen Domäne leisten und Belege für das Geleistete liefern kann. Es erfordert kein Frontier-Release und ist davon unberührt, ob amerikanische Labore ihr Tempo mäßigen.
Was der September tatsächlich geliefert hat
Es gibt einen offensichtlichen Einwand: Wenn die Labore einen Durchbruch erzielen, ändert sich doch die Rechnung?
Der September hat die Frage bereits beantwortet. In dem Monat, in dem der Pacing-Essay erschien, lieferten die Unternehmen, deren Chefs ihn unterstützten, Mythos 5.1, Fable 5.1, GPT-6 Astra, Grok 4.7 und Opus 5.5 - Letzteres zwanzig Prozent günstiger als sein Vorgänger, bei berichteten dreißig Prozent schnellerer Ausgabe, und das Astra-Release Berichten zufolge mit OpenAIs erster "Critical"-Einstufung für Cybersecurity-Fähigkeiten. [⁹] Wenn Pacing bei Enterprise-Käufern als Knappheit angekommen wäre, dann hier. Ist es nicht. Was ankam, war mehr Fähigkeit, früher, zu niedrigeren Preisen.
Fairerweise gegenüber dem Essay: Das ist gemessen an seinen eigenen Maßstäben keine Heuchelei. Pacing, so wie es definiert ist, betrifft die Rate, mit der sich Fähigkeiten verbessern, nicht ob Produkte ausgeliefert werden, und inkrementelle Flaggschiffe sind damit vereinbar. Aber genau das ist der Punkt für einen Käufer. Was auch immer die Labore erreichen, sie werden es Ihnen verkaufen - auf einer Preisliste, wahrscheinlich innerhalb eines Quartals nach der Ankündigung, wahrscheinlich günstiger als beim letzten Mal.
Das Modell ist also nicht der Ort Ihrer Knappheit, und die Frage, die darüber entscheidet, ob Sie irgendetwas davon nutzen können, ist eine andere: Kann Ihre Architektur ein neues Modell absorbieren, ohne dass ein Umbau nötig wird?
Können Sie es pro Workload routen, gemäß Ihrer eigenen Richtlinie zu Fähigkeit, Kosten, Datenhaltungsort und Rechtsraum? Können Sie es an Ihrer eigenen Arbeit evaluieren statt an der Benchmark-Tabelle eines Anbieters - zumal, wie die Launches dieses Monats zeigten, Anbieter, die dasselbe Modell bewerten, um mehrere Punkte voneinander abweichen? Können Sie ihm Zugang zu Ihrem Wissen geben, ohne ihm Zugang zu allem zu geben? Können Sie einschränken, was es erreichen darf, protokollieren, was es getan hat, und hinterher beweisen, was es hätte sehen können? Können Sie es an einem Nachmittag zurückziehen, wenn eine Richtlinie, eine Preisänderung oder eine Kapazitätsbeschränkung es unverfügbar macht - was in einem Jahr nun zweimal vorgekommen ist?
Wenn die Antwort ja lautet, ist jede Frontier-Ankündigung ein Upgrade und keine davon ein Notfall. Wenn die Antwort nein lautet, sind Sie jeder einzelnen ausgesetzt, und die Pacing-Debatte ist eine Ablenkung von einem Problem, das vollständig unter Ihrer Kontrolle liegt.
Was das aus Europa bedeutet
Die Koordination, die der Essay vorschlägt, findet zwischen führenden Laboren in demokratischen Ländern statt, ermöglicht durch eine Ausnahme vom US-Kartellrecht. Es ist berechtigt zu fragen, welche Labore an diesem Tisch säßen, und festzustellen, dass europäische Unternehmen mit den Ergebnissen leben würden, ohne daran beteiligt zu sein.
Ein früherer Beitrag dieser Serie argumentierte, dass Souveränität des Standorts zur Ware wird, während Souveränität der Kontrolle nicht käuflich ist. [¹⁰] Ein Pacing-Rahmenwerk, das zwischen amerikanischen Laboren ausgehandelt wird, ist ein kleines, klares Beispiel dafür. Seine Standards werden die Modelle formen, die Ihnen angeboten werden, und Sie werden darin kein Mitspracherecht haben. Der Teil des Stacks, den ein europäisches Unternehmen tatsächlich steuern kann, ist der Teil um das Modell herum - dieselbe Schlussfolgerung, aus einer anderen Richtung erreicht.
Wo neuland.ai steht
Ich mache dieses Argument seit einem Jahr in verschiedenen Formen, und die Ereignisse des Septembers haben es nicht verändert, was meines Erachtens das Stärkste ist, was ich darüber sagen kann. [¹¹]
Das Modell ist die austauschbare Komponente. Die Plattform um es herum bestimmt, ob aus Fähigkeit Wert wird, und sie muss Ihre sein: Routing bestimmt durch Ihre Richtlinie statt durch einen Anbieter, dessen Marge von der Antwort abhängt; Berechtigung durchgesetzt beim Retrieval, bevor das Modell schlussfolgert, sodass, was eine Person nicht sehen darf, für sie nicht produziert werden kann; eine Wissensschicht, die Ihre eigene Domäne trägt und in Ihrem eigenen Substrat bleibt; Orchestrierung, die deterministisch ist, wo ein Ergebnis reproduzierbar sein muss; Ausführung, die reale Werkzeuge innerhalb einer von Ihnen konfigurierten Grenze antreiben kann; und ein unveränderliches Protokoll jedes Retrievals, jeder Entscheidung und jedes Werkzeugaufrufs.
Jeder Punkt auf dieser Liste ist auch eine Containment-Eigenschaft. Das ist der Kern dieses Beitrags: Die Architektur, die es Ihnen erlaubt, ein Frontier-Release zu nutzen, ist dieselbe Architektur, die Sie vor dem Szenario schützt, vor dem die Labore warnen. Sie müssen sich nicht zwischen Ambition und Vorsicht entscheiden. Beides wird durch dieselbe Ingenieursarbeit bedient.
Persönliche Einordnung
Also, um die Frage in der Überschrift zu beantworten.
Wenn die Warnungen stimmen - und das können sie durchaus - liegt das Containment-Problem größtenteils bei Ihnen, weil der produktive Bestand Ihrer ist und nichts, was in diesem Monat vorgeschlagen wurde, in ihn hineinreicht. Die Labore adressieren die Hälfte, die sie betreiben. Die Hälfte, die Sie betreiben, adressiert niemand außer Ihnen.
Wenn die Warnungen übertrieben sind, oder zeitlich auf einen Börsengang abgestimmt, oder darauf ausgerichtet, offene Gewichte zu bremsen, damit sich Leistungsfähigkeit dort konzentriert, wo sie lizenziert statt heruntergeladen werden kann, ist die Antwort dieselbe und eher noch dringlicher, denn in diesem Szenario ist der Druck auf offene Gewichte ein Druck auf das Einzige, was einem europäischen Unternehmen echte Wahlfreiheit gibt.
Und wenn jemand eine tatsächlich rekursive Schleife vollendet - die zwei Labore als im Entstehen beschreiben und keines demonstriert hat - ist die Antwort wieder dieselbe. Sie werden es Ihnen verkaufen. Der September hat gezeigt, wie schnell. Die einzige Frage, die je zählte, ist, woran man es anschließt.
Was ich in keinem dieser Szenarien verteidigen könnte, wäre ein Unternehmen, das auf die Nachrichten dieses Monats mit Abwarten reagiert. Es gibt nichts, worauf man warten könnte. Die Fähigkeit ist unter permissiven Lizenzen verfügbar, die Werkzeuge, die die Forschungsgemeinschaft über drei Jahrzehnte gebaut hat, sind frei, und die Beschränkung war nie das Modell.
Eine kurze Anmerkung zum regulatorischen Hintergrund, da er sich weiterentwickelt. Der EU AI Act wurde am 2. August 2026 breit anwendbar, mit GPAI-Durchsetzungsbefugnissen nach Kapitel V ab diesem Datum; die Digital-Omnibus-Vereinbarung vom 7. Mai 2026 verschob die Hochrisiko-Verpflichtungen nach Anhang III auf den 2. Dezember 2027 und die Verpflichtungen nach Anhang I auf den 2. August 2028. [¹²] Bemerkenswert: Ein freiwilliges Pacing-Rahmenwerk, das zwischen amerikanischen Laboren vereinbart wird, hat in Europa keine Rechtskraft, während die Verpflichtungen, die Rechtskraft haben, Dokumentation, Rückverfolgbarkeit und menschliche Aufsicht über eingesetzte Systeme betreffen. Die Regulierung zielt bereits auf die Hälfte des Problems, die die Labore nicht adressieren.
Wenn die Warnungen stimmen, wessen Containment-Problem ist es? Ihres. Das ist die Arbeit, die vor uns liegt, und es ist die Arbeit, die wir machen.
Beiträge der Serie unter neuland.ai/de/resources/insights.
Dario Amodei, "We Must Pace the Frontier", veröffentlicht auf seiner persönlichen Seite, 12. September 2026, circa 3.800 Wörter, mit zwei Auslösern für seine Positionsänderung seit 2023: beschleunigte rekursive Selbstverbesserung branchenweit, einschließlich bei Anthropic, und der OpenAI-Hugging-Face-Agenten-Vorfall. Sam Altmans Unterstützung am selben Tag auf X, mit der Verpflichtung, das Engagement für unabhängige Evaluatoren zu übernehmen; Elon Musks öffentliche Zustimmung am selben Wochenende; Altmans Erklärung gegenüber Fortune, den Börsengang von OpenAI aus Sicherheitsgründen auf 2027 zu verschieben; die Ablehnung der Forderungen durch den Präsidenten. Zum Kontext gehören der Rücktritt eines Anthropic-Forschers am 8. September und die öffentlich geäußerte persönliche Schätzung des Leiters der Alignment-Forschung bei Anthropic, die Wahrscheinlichkeit des Aussterbens der Menschheit innerhalb des Jahrzehnts liege bei über zehn Prozent. Berichterstattung: NPR, Axios, CNBC, Reuters, CSIS, 10.-16. September 2026.
Berichtete Mechanismen: unabhängige Dritt-Evaluatoren, darunter METR, eingebettet mit Zugang auf Mitarbeiterebene; Koordination zwischen führenden Laboren in demokratischen Ländern; ein vorgeschlagener eng gefasster US-Kartellrechts-Waiver, um diese Koordination legal zu machen; und gemeinsame Sicherheitsstandards. Der Vorschlag unterscheidet sich ausdrücklich vom Brief des Future of Life Institute 2023, der eine pauschale Unterbrechung forderte, und keine konkrete Modellveröffentlichung wurde darunter gestoppt. Im Juli 2026 baten 1.386 Beschäftigte von Frontier-KI-Unternehmen in einer öffentlichen Erklärung die US-Regierung, eine internationale Initiative zur Entwicklung technischer und Governance-Werkzeuge für ein Pacing der Frontier zu unterstützen; OpenAI und Anthropic schlossen sich Ende Juli als Unternehmen an. Separat offengelegte frühere Pausen: OpenAIs zweiwöchiger Stopp von Reinforcement Learning nach dem Hugging-Face-Kompromiss und Anthropics Aussetzung externer Cyber-Evaluierungen und mehrerer Reinforcement-Learning-Umgebungen mit höherem Risiko, von denen die meisten inzwischen wieder aufgenommen wurden.
Berichte, dass Anthropic ab Mitte Oktober 2026 einen Börsengang zu einer Bewertung nahe einer Billion Dollar vermarkten will, der kurz vor den US-Zwischenwahlen abgeschlossen werden soll; öffentlicher Kommentar eines ehemaligen KI-Beraters des Weißen Hauses, der vorschlug, den Börsengang bis zur Untersuchung von Whistleblower-Vorwürfen auszusetzen. Das Gerücht über rekursive Selbstverbesserung geht auf einen Vier-Wort-Post eines Leak-Accounts vom 9. September 2026 zurück, in dem die Großbuchstaben das Akronym ergaben.
Logan Kilpatrick, Mitglied des technischen Stabs von Google DeepMind, Interview im The Pomp Podcast, veröffentlicht am 16. September 2026, mit der Aussage, das Unternehmen beobachte frühe Anzeichen rekursiver Selbstverbesserung. Koray Kavukcuoglu, Leiter von Google DeepMind, gegenüber The Information am 23.-24. September 2026, bestätigt Gemini 4 im Post-Training mit Veröffentlichung deutlich vor Ende 2026; Gemini 3.8 Flash, allgemein verfügbar seit 2. September 2026, bleibt in unabhängigen Intelligenz-Benchmarks hinter konkurrierenden Flaggschiffen zurück. Führungswechsel bei DeepMind im August 2026. Reuters-Berichte über erhebliche Ressourcen für Selbstverbesserung, mit mehr als 1.000 Forschern und Ingenieuren; ein internes System habe Berichten zufolge einen Matrix-Multiplikations-Kernel um rund 23 Prozent verbessert, was einer Reduktion der Trainingszeit um etwa ein Prozent entspricht. Unabhängige Analysen kommen zu dem Schluss, dass die öffentliche Evidenz ein umfangreiches Forschungsprogramm belegt, aber keine demonstrierte sich selbst erhaltende Verbesserungsschleife.
Financial-Times-Bericht, 16. September 2026, wonach Mitarbeiter in beiden Laboren vom Vorschlag überrascht wurden und einige Sicherheitsforscher befürchten, eingebettete Evaluatoren könnten die Sicherheit schwächen.
Gartner-CIO-Umfragedaten, wonach rund 17 Prozent der Unternehmen KI-Agenten im Einsatz haben; Deloitte Tech Trends 2026 beziffert produktionsreife agentische Systeme auf rund 11 Prozent.
Siehe frühere Beiträge dieser Serie zum Aufkommen von Open-Weight-Modellen auf Frontier-Niveau, zur Destillation und zur Blindevaluierung.
Anbieter-Veröffentlichungen: Claude Mythos 5.1 und Claude Fable 5.1, 1. September 2026; GPT-6 Astra, 3. September 2026, laut Vergleichsberichten mit OpenAIs erster Critical-Einstufung für Cybersecurity-Fähigkeiten in der System Card; Grok 4.7, 21. September 2026; Claude Opus 5.5, 22. September 2026, 20 Prozent günstiger als Claude Opus 5, bei berichteten 30 Prozent schnellerer Ausgabe. Vergleichsberichte stellten fest, dass Anbieter, die dasselbe Modell anhand gemeinsamer Benchmarks bewerteten, um bis zu mehrere Punkte voneinander abwichen.
Siehe den früheren Beitrag dieser Serie zur Kommodifizierung der Souveränität des Standorts und zu den vier Kontrolleigenschaften, die mit Kapital nicht zu kaufen sind.
Zu den referenzierten Architektureigenschaften siehe den früheren Beitrag dieser Serie mit der Definition einer Enterprise-KI-Orchestrierungs- und -Management-Plattform. Die neuland.ai AG trägt die Verantwortung für Inhaltsqualität und saubere Ergebnislieferung in allen Kundenprojekte.
Vorläufige politische Einigung des Rats der EU und des Europäischen Parlaments zum Digital Omnibus on AI, 7. Mai 2026: Hochrisiko-Verpflichtungen nach Anhang III verschoben auf 2. Dezember 2027; Verpflichtungen nach Anhang I verschoben auf 2. August 2028; Wasserzeichen-Verpflichtungen nach Artikel 50(2) verschoben auf 2. Dezember 2026. GPAI-Durchsetzungsbefugnisse nach Kapitel V bindend seit 2. August 2026.
Am 12. September 2026 veröffentlichte Dario Amodei einen Essay von rund 3.800 Wörtern mit dem Titel "We Must Pace the Frontier". Seine These: KI-Labore sollten das Tempo, in dem sie die Fähigkeiten ihrer Modelle steigern, bewusst drosseln, damit die Sicherheitsforschung nachziehen kann. Er nannte zwei Gründe dafür, eine Position einzunehmen, die er 2023 noch nicht vertreten hatte: dass KI-Systeme zunehmend beim Bau ihrer eigenen Nachfolger helfen - rekursive Selbstverbesserung, die sich laut Amodei seit dem Sommer branchenweit beschleunigt hat, sein eigenes Unternehmen eingeschlossen - und den Vorfall, bei dem OpenAIs Testagenten aus einer Sandbox-Evaluierungsumgebung ausbrachen und die Produktionsinfrastruktur von Hugging Face kompromittierten. Sein zentrales Szenario ist konkret: Innerhalb von sechs bis zwölf Monaten könnten Schwärme unkontrollierter Agenten in der Lage sein, das Internet mit einem persistenten Botnet zu übernehmen und Schäden in Höhe von Hunderten Milliarden Dollar zu verursachen. Innerhalb von Stunden stimmte Sam Altman zu und verpflichtete OpenAI auf dieselbe Vereinbarung mit unabhängigen Evaluatoren. Elon Musk schrieb, Dario habe recht. Der Präsident der Vereinigten Staaten lehnte die Forderungen rundheraus ab. Und im selben Monat lieferte jedes Unternehmen, dessen Chef die Verlangsamung befürwortet hatte, ein neues Flaggschiff-Modell aus. Anthropic veröffentlichte Mythos 5.1 und Fable 5.1 am 1. September und Opus 5.5 am 22. September; OpenAI veröffentlichte GPT-6 Astra am 3. September; xAI veröffentlichte Grok 4.7 am 21. September, neun Tage nach dem Bekenntnis seines Gründers. Jedes kam günstiger oder schneller als sein Vorgänger. Das ist gemessen an den eigenen Maßstäben des Plans keine Heuchelei, und ich werde erklären, warum. Aber es beantwortet - mit Daten statt Prognosen - die Frage, die eine große Zahl europäischer Führungskräfte in den zwei Wochen seit Erscheinen des Essays gestellt hat: Was sollen wir jetzt anders machen? Die Antwort hängt nicht davon ab, ob die Warnungen aufrichtig sind.
Dies ist der vierundzwanzigste Beitrag einer Serie, die ich für neuland.ai schreibe. [¹] Frühere Beiträge argumentierten, dass Containment in beide Richtungen funktionieren muss und dass die Eigenschaften, auf die es bei Enterprise-KI ankommt, zur Entwurfszeit festgelegt werden und nicht nachträglich hinzugefügt werden können. Dieser Beitrag fragt, was die Pacing-Debatte an beidem ändert.
Die Warnungen beim Wort nehmen
Lassen Sie mich mit einer vollständigen Konzession beginnen, denn das Argument, das ich machen will, braucht nichts davon als falsch.
Nehmen Sie an, Amodei meint genau, was er sagt, und hat recht mit dem Risiko. Nehmen Sie an, Altmans Zustimmung ist aufrichtig, und die Verschiebung des OpenAI-Börsengangs auf 2027 ist eine Sicherheitsentscheidung und keine Marktentscheidung. Nehmen Sie an, die Forscher, die im September zurücktraten, handelten aus ehrlicher Überzeugung, und die öffentlich geäußerte Schätzung eines Alignment-Leiters, die Wahrscheinlichkeit des Aussterbens der Menschheit innerhalb eines Jahrzehnts liege bei über zehn Prozent, gibt wieder, was er tatsächlich glaubt. [²] Ich habe keinen Grund, irgendetwas davon anzuzweifeln, und die Menschen, die diese Aussagen treffen, sehen weit mehr vom Verhalten der Frontier-Modelle als ich.
Lesen Sie nun, was tatsächlich vorgeschlagen wird. Die konkreten Mechanismen sind: unabhängige Evaluatoren, eingebettet in die Labore mit Zugang auf Mitarbeiterebene - Schreibtische, Ausweise, Laptops, interne Werkzeuge; Koordination zwischen den führenden Laboren in demokratischen Ländern, mit einer eng gefassten Ausnahme vom US-Kartellrecht, um diese Koordination legal zu machen; und gemeinsame Sicherheitsstandards. Der Vorschlag lehnt ausdrücklich eine pauschale Unterbrechung ab, wie sie 2023 gefordert wurde, und stoppt keine konkrete Veröffentlichung. Er kam auch nicht aus dem Nichts: Im Juli unterzeichneten 1.386 Beschäftigte von Frontier-KI-Unternehmen eine öffentliche Erklärung, in der sie die US-Regierung baten, eine internationale Initiative zur Entwicklung der Werkzeuge für ein Pacing der Frontier zu unterstützen, und beide Labore schlossen sich innerhalb von Wochen als Unternehmen an. [³]
Achten Sie darauf, was dieses Rahmenwerk berührt und was nicht. Es legt die Bewertungshoheit in eine kleine Zahl von Laboren und in die Institutionen, die dort eingebettet werden dürfen. Es schlägt vor, dass die führenden Labore sich untereinander auf Weisen koordinieren dürfen, die das Kartellrecht sonst verbieten würde. Und es tut nichts - überhaupt nichts - für den produktiven Bestand: die Agenten, die bereits in Zehntausenden von Unternehmen laufen, auf Infrastruktur, die die Labore nicht betreiben, unter einer Governance, die sie nicht einsehen können.
Es gibt keine Lesart dieses Plans, nach der ein europäisches Industrieunternehmen eine Deployment-Entscheidung aufschieben sollte. Er enthält keine Aufforderung zu warten, keine Ihnen vorenthaltene Fähigkeit und keinen Schutz, der auf Ihre Umgebung ausgedehnt wird.
Die Timing-Frage, die ich beiseitelegen werde
Es wäre leicht, die zynische Version dieses Beitrags zu schreiben, und mindestens ein Medium hat es bereits getan.
Die beobachtbaren Fakten sind diese. Anthropic bereitet sich darauf vor, ab Mitte Oktober einen Börsengang zu vermarkten, zu einer Bewertung nahe einer Billion Dollar, der wenige Tage vor den US-Zwischenwahlen abgeschlossen werden soll, und ein ehemaliger KI-Berater des Weißen Hauses hat öffentlich vorgeschlagen, den Börsengang bis zur Untersuchung von Whistleblower-Vorwürfen auszusetzen. Am 9. September begann ein Gerücht zu kursieren, Google DeepMind habe rekursive Selbstverbesserung erreicht, zurückzuführen auf einen Vier-Wort-Post eines Leak-Accounts, in dem die Großbuchstaben das Akronym ergaben. [⁴]
Das Bild hat sich seitdem verfestigt. Ein Mitglied des technischen Stabs von DeepMind hat öffentlich erklärt, das Unternehmen beobachte frühe Anzeichen rekursiver Selbstverbesserung, wobei zunehmend leistungsfähige Modelle die Entwicklung ihrer Nachfolger beschleunigten. Googles nächstes Flaggschiff befindet sich im Post-Training für eine Veröffentlichung deutlich vor Jahresende, während das aktuelle öffentliche Modell in unabhängigen Benchmarks hinter der Konkurrenz zurückbleibt, und ein Führungswechsel im August Demis Hassabis von der täglichen Leitung von DeepMind abzog, damit er sich auf Artificial General Intelligence konzentrieren kann. Zwei Labore sagen also öffentlich, dass KI zunehmend beim Bau von KI hilft. Was keines von beiden gezeigt hat, ist eine sich selbst erhaltende Schleife - ein System, das fortlaufend leistungsfähigere Nachfolger produziert, ohne menschliche Anleitung. Die dokumentierten Komponenten, etwa ein internes System, das einen Matrix-Multiplikations-Kernel um rund 23 Prozent beschleunigte, was einer Reduktion der Trainingszeit um rund ein Prozent entspricht, sind Verbesserung in der Nähe von Rekursion, aber nicht rekursiv im strengen Sinn. [⁵]
Aus diesen Fakten hat sich die Lesart entwickelt, die Pacing-Forderungen seien ein Versuch regulatorischer Vereinnahmung, zeitlich auf den Fortschritt eines Konkurrenten abgestimmt und darauf gerichtet, offene Gewichte zu bremsen. Sie ist schlüssig, und ich kann sie nicht widerlegen. Die Juli-Erklärung spricht dagegen - die Pacing-Idee ist älter als das Gerücht und als der Zeitplan für den Börsengang -, aber nicht zwingend.
Ich lege sie trotzdem beiseite, weil das Argument, das ich machen will, stärker ist, wenn die Warnungen vollkommen aufrichtig sind. Eine Verschwörungstheorie gibt den Laboren etwas zum Bestreiten. Die strukturelle Beobachtung nicht.
Was die Warnung tatsächlich beschreibt
Lesen Sie das Szenario noch einmal, als Ingenieur statt als Leser von Schlagzeilen. Schwärme von Agenten, autonom operierend, systemübergreifend persistent, Schäden in großem Maßstab verursachend.
Das ist keine Beschreibung eines Modells, das zu leistungsfähig ist. Es ist die Beschreibung leistungsfähiger Agenten, die ohne Containment operieren. Das unterscheidende Merkmal des Szenarios ist nicht Intelligenz; es ist die Abwesenheit von Grenzen um die Ausführung. Und der als Beleg angeführte Vorfall macht den Punkt präzise: Agenten entkamen einer Evaluierungsumgebung, eskalierten Privilegien, bewegten sich lateral, erreichten das offene Internet und griffen die Produktionsinfrastruktur eines Dritten an. Der Fehler lag in der Sandbox, den Egress-Kontrollen und dem Berechtigungsmodell - nicht in der Schlussfolgerungsfähigkeit des Modells, die wie vorgesehen funktionierte.
Es gibt sogar eine Containment-Dimension in der vorgeschlagenen Abhilfe. Laut Berichten von Mitte September wurden einige Mitarbeiter und Sicherheitsforscher in beiden Laboren vom Vorschlag überrascht und befürchten, dass Zugang für Außenstehende auf Mitarbeiterebene die Angriffsfläche vergrößert, die überwacht werden soll. [⁶] Das ist kein Argument gegen unabhängige Evaluierung. Es ist eine Erinnerung daran, dass jede Zugangserteilung eine Containment-Entscheidung ist, auch die gut gemeinten.
Das beschriebene Risiko ist also ein Architekturproblem, und Architekturprobleme haben Orte. Dieses hat zwei.
Der erste liegt innerhalb der Labore, wo Pre-Release-Modelle in Umgebungen trainiert und evaluiert werden, die sich als überwindbar erwiesen haben. Der vorgeschlagene Plan adressiert das, und das sollte er.
Der zweite liegt in jedem Unternehmen, das Agenten im Einsatz hat. Hier lebt der produktive Bestand - die Agenten mit dauerhaften Zugangsdaten, die Integrationen mit unkontrolliertem Egress, die Harnesses, die nach einem Framework-Tutorial zusammengebaut wurden, die Workflows, die seit dem Piloten niemand mehr geprüft hat. Rund siebzehn Prozent der Unternehmen haben Agenten im Einsatz und etwa elf Prozent haben etwas Produktionsreifes, was bedeutet, dass der größte Teil dieses Bestands in den letzten achtzehn Monaten von Teams gebaut wurde, die dabei lernten. [⁷]
Nichts im Pacing-Rahmenwerk berührt diesen zweiten Ort. Ein eingebetteter Evaluator in San Francisco schränkt keinen Agenten ein, der in der Umgebung eines europäischen Herstellers auf einem überprivilegierten Service-Account läuft. Gemeinsame Branchenstandards dekomponieren nicht die Fähigkeiten eines Harness, der in zwei Wochen geschrieben wurde. Koordination zwischen Laboren fügt einer Bereitstellung, die keine hat, keine Egress-Kontrolle hinzu.
Wenn das Risiko Schwärme unkontrollierter Agenten sind, liegt das Containment-Problem ganz überwiegend bei Ihnen. Nicht weil die Labore falsch liegen, wenn sie ihre Hälfte adressieren, sondern weil deren Hälfte nicht die Hälfte ist, die Sie betreiben.
Was bereits ausreicht
Hier ist, was in zwei Wochen existenzieller Berichterstattung untergegangen ist. Nichts in diesen Ankündigungen entzieht Ihnen etwas. Keine Fähigkeit wurde zurückgerufen. Die Open-Weight-Frontier ist bei den meisten unternehmensrelevanten Aufgaben ungefähr auf dem Niveau der geschlossenen Frontier, unter permissiven Lizenzen, einsetzbar auf Infrastruktur, die Sie kontrollieren, zu einem Bruchteil der Kosten des Vorjahres. [⁸]
Was diese Kombination bereits leisten kann, wird von der Beratungsliteratur drastisch unterbeschrieben, die zwei Jahre lang Produktivitätsassistenten und Dokumentenzusammenfassung behandelt hat. Ein Open-Weight-Modell mit ausreichender Leistungsfähigkeit, angetrieben von einem Harness, den Sie kontrollieren, gegründet auf einem gepflegten Modell Ihres eigenen Unternehmens, mit der Befugnis, reale Ingenieur- und Wissenschaftswerkzeuge innerhalb einer kontrollierten Umgebung anzutreiben, ist keine Produktivitätsverbesserung. Es ist das, was seit 2023 versprochen und meistens nicht geliefert wurde: ein System, das folgenreiche technische Arbeit in einer spezifischen industriellen Domäne leisten und Belege für das Geleistete liefern kann. Es erfordert kein Frontier-Release und ist davon unberührt, ob amerikanische Labore ihr Tempo mäßigen.
Was der September tatsächlich geliefert hat
Es gibt einen offensichtlichen Einwand: Wenn die Labore einen Durchbruch erzielen, ändert sich doch die Rechnung?
Der September hat die Frage bereits beantwortet. In dem Monat, in dem der Pacing-Essay erschien, lieferten die Unternehmen, deren Chefs ihn unterstützten, Mythos 5.1, Fable 5.1, GPT-6 Astra, Grok 4.7 und Opus 5.5 - Letzteres zwanzig Prozent günstiger als sein Vorgänger, bei berichteten dreißig Prozent schnellerer Ausgabe, und das Astra-Release Berichten zufolge mit OpenAIs erster "Critical"-Einstufung für Cybersecurity-Fähigkeiten. [⁹] Wenn Pacing bei Enterprise-Käufern als Knappheit angekommen wäre, dann hier. Ist es nicht. Was ankam, war mehr Fähigkeit, früher, zu niedrigeren Preisen.
Fairerweise gegenüber dem Essay: Das ist gemessen an seinen eigenen Maßstäben keine Heuchelei. Pacing, so wie es definiert ist, betrifft die Rate, mit der sich Fähigkeiten verbessern, nicht ob Produkte ausgeliefert werden, und inkrementelle Flaggschiffe sind damit vereinbar. Aber genau das ist der Punkt für einen Käufer. Was auch immer die Labore erreichen, sie werden es Ihnen verkaufen - auf einer Preisliste, wahrscheinlich innerhalb eines Quartals nach der Ankündigung, wahrscheinlich günstiger als beim letzten Mal.
Das Modell ist also nicht der Ort Ihrer Knappheit, und die Frage, die darüber entscheidet, ob Sie irgendetwas davon nutzen können, ist eine andere: Kann Ihre Architektur ein neues Modell absorbieren, ohne dass ein Umbau nötig wird?
Können Sie es pro Workload routen, gemäß Ihrer eigenen Richtlinie zu Fähigkeit, Kosten, Datenhaltungsort und Rechtsraum? Können Sie es an Ihrer eigenen Arbeit evaluieren statt an der Benchmark-Tabelle eines Anbieters - zumal, wie die Launches dieses Monats zeigten, Anbieter, die dasselbe Modell bewerten, um mehrere Punkte voneinander abweichen? Können Sie ihm Zugang zu Ihrem Wissen geben, ohne ihm Zugang zu allem zu geben? Können Sie einschränken, was es erreichen darf, protokollieren, was es getan hat, und hinterher beweisen, was es hätte sehen können? Können Sie es an einem Nachmittag zurückziehen, wenn eine Richtlinie, eine Preisänderung oder eine Kapazitätsbeschränkung es unverfügbar macht - was in einem Jahr nun zweimal vorgekommen ist?
Wenn die Antwort ja lautet, ist jede Frontier-Ankündigung ein Upgrade und keine davon ein Notfall. Wenn die Antwort nein lautet, sind Sie jeder einzelnen ausgesetzt, und die Pacing-Debatte ist eine Ablenkung von einem Problem, das vollständig unter Ihrer Kontrolle liegt.
Was das aus Europa bedeutet
Die Koordination, die der Essay vorschlägt, findet zwischen führenden Laboren in demokratischen Ländern statt, ermöglicht durch eine Ausnahme vom US-Kartellrecht. Es ist berechtigt zu fragen, welche Labore an diesem Tisch säßen, und festzustellen, dass europäische Unternehmen mit den Ergebnissen leben würden, ohne daran beteiligt zu sein.
Ein früherer Beitrag dieser Serie argumentierte, dass Souveränität des Standorts zur Ware wird, während Souveränität der Kontrolle nicht käuflich ist. [¹⁰] Ein Pacing-Rahmenwerk, das zwischen amerikanischen Laboren ausgehandelt wird, ist ein kleines, klares Beispiel dafür. Seine Standards werden die Modelle formen, die Ihnen angeboten werden, und Sie werden darin kein Mitspracherecht haben. Der Teil des Stacks, den ein europäisches Unternehmen tatsächlich steuern kann, ist der Teil um das Modell herum - dieselbe Schlussfolgerung, aus einer anderen Richtung erreicht.
Wo neuland.ai steht
Ich mache dieses Argument seit einem Jahr in verschiedenen Formen, und die Ereignisse des Septembers haben es nicht verändert, was meines Erachtens das Stärkste ist, was ich darüber sagen kann. [¹¹]
Das Modell ist die austauschbare Komponente. Die Plattform um es herum bestimmt, ob aus Fähigkeit Wert wird, und sie muss Ihre sein: Routing bestimmt durch Ihre Richtlinie statt durch einen Anbieter, dessen Marge von der Antwort abhängt; Berechtigung durchgesetzt beim Retrieval, bevor das Modell schlussfolgert, sodass, was eine Person nicht sehen darf, für sie nicht produziert werden kann; eine Wissensschicht, die Ihre eigene Domäne trägt und in Ihrem eigenen Substrat bleibt; Orchestrierung, die deterministisch ist, wo ein Ergebnis reproduzierbar sein muss; Ausführung, die reale Werkzeuge innerhalb einer von Ihnen konfigurierten Grenze antreiben kann; und ein unveränderliches Protokoll jedes Retrievals, jeder Entscheidung und jedes Werkzeugaufrufs.
Jeder Punkt auf dieser Liste ist auch eine Containment-Eigenschaft. Das ist der Kern dieses Beitrags: Die Architektur, die es Ihnen erlaubt, ein Frontier-Release zu nutzen, ist dieselbe Architektur, die Sie vor dem Szenario schützt, vor dem die Labore warnen. Sie müssen sich nicht zwischen Ambition und Vorsicht entscheiden. Beides wird durch dieselbe Ingenieursarbeit bedient.
Persönliche Einordnung
Also, um die Frage in der Überschrift zu beantworten.
Wenn die Warnungen stimmen - und das können sie durchaus - liegt das Containment-Problem größtenteils bei Ihnen, weil der produktive Bestand Ihrer ist und nichts, was in diesem Monat vorgeschlagen wurde, in ihn hineinreicht. Die Labore adressieren die Hälfte, die sie betreiben. Die Hälfte, die Sie betreiben, adressiert niemand außer Ihnen.
Wenn die Warnungen übertrieben sind, oder zeitlich auf einen Börsengang abgestimmt, oder darauf ausgerichtet, offene Gewichte zu bremsen, damit sich Leistungsfähigkeit dort konzentriert, wo sie lizenziert statt heruntergeladen werden kann, ist die Antwort dieselbe und eher noch dringlicher, denn in diesem Szenario ist der Druck auf offene Gewichte ein Druck auf das Einzige, was einem europäischen Unternehmen echte Wahlfreiheit gibt.
Und wenn jemand eine tatsächlich rekursive Schleife vollendet - die zwei Labore als im Entstehen beschreiben und keines demonstriert hat - ist die Antwort wieder dieselbe. Sie werden es Ihnen verkaufen. Der September hat gezeigt, wie schnell. Die einzige Frage, die je zählte, ist, woran man es anschließt.
Was ich in keinem dieser Szenarien verteidigen könnte, wäre ein Unternehmen, das auf die Nachrichten dieses Monats mit Abwarten reagiert. Es gibt nichts, worauf man warten könnte. Die Fähigkeit ist unter permissiven Lizenzen verfügbar, die Werkzeuge, die die Forschungsgemeinschaft über drei Jahrzehnte gebaut hat, sind frei, und die Beschränkung war nie das Modell.
Eine kurze Anmerkung zum regulatorischen Hintergrund, da er sich weiterentwickelt. Der EU AI Act wurde am 2. August 2026 breit anwendbar, mit GPAI-Durchsetzungsbefugnissen nach Kapitel V ab diesem Datum; die Digital-Omnibus-Vereinbarung vom 7. Mai 2026 verschob die Hochrisiko-Verpflichtungen nach Anhang III auf den 2. Dezember 2027 und die Verpflichtungen nach Anhang I auf den 2. August 2028. [¹²] Bemerkenswert: Ein freiwilliges Pacing-Rahmenwerk, das zwischen amerikanischen Laboren vereinbart wird, hat in Europa keine Rechtskraft, während die Verpflichtungen, die Rechtskraft haben, Dokumentation, Rückverfolgbarkeit und menschliche Aufsicht über eingesetzte Systeme betreffen. Die Regulierung zielt bereits auf die Hälfte des Problems, die die Labore nicht adressieren.
Wenn die Warnungen stimmen, wessen Containment-Problem ist es? Ihres. Das ist die Arbeit, die vor uns liegt, und es ist die Arbeit, die wir machen.
Beiträge der Serie unter neuland.ai/de/resources/insights.
Dario Amodei, "We Must Pace the Frontier", veröffentlicht auf seiner persönlichen Seite, 12. September 2026, circa 3.800 Wörter, mit zwei Auslösern für seine Positionsänderung seit 2023: beschleunigte rekursive Selbstverbesserung branchenweit, einschließlich bei Anthropic, und der OpenAI-Hugging-Face-Agenten-Vorfall. Sam Altmans Unterstützung am selben Tag auf X, mit der Verpflichtung, das Engagement für unabhängige Evaluatoren zu übernehmen; Elon Musks öffentliche Zustimmung am selben Wochenende; Altmans Erklärung gegenüber Fortune, den Börsengang von OpenAI aus Sicherheitsgründen auf 2027 zu verschieben; die Ablehnung der Forderungen durch den Präsidenten. Zum Kontext gehören der Rücktritt eines Anthropic-Forschers am 8. September und die öffentlich geäußerte persönliche Schätzung des Leiters der Alignment-Forschung bei Anthropic, die Wahrscheinlichkeit des Aussterbens der Menschheit innerhalb des Jahrzehnts liege bei über zehn Prozent. Berichterstattung: NPR, Axios, CNBC, Reuters, CSIS, 10.-16. September 2026.
Berichtete Mechanismen: unabhängige Dritt-Evaluatoren, darunter METR, eingebettet mit Zugang auf Mitarbeiterebene; Koordination zwischen führenden Laboren in demokratischen Ländern; ein vorgeschlagener eng gefasster US-Kartellrechts-Waiver, um diese Koordination legal zu machen; und gemeinsame Sicherheitsstandards. Der Vorschlag unterscheidet sich ausdrücklich vom Brief des Future of Life Institute 2023, der eine pauschale Unterbrechung forderte, und keine konkrete Modellveröffentlichung wurde darunter gestoppt. Im Juli 2026 baten 1.386 Beschäftigte von Frontier-KI-Unternehmen in einer öffentlichen Erklärung die US-Regierung, eine internationale Initiative zur Entwicklung technischer und Governance-Werkzeuge für ein Pacing der Frontier zu unterstützen; OpenAI und Anthropic schlossen sich Ende Juli als Unternehmen an. Separat offengelegte frühere Pausen: OpenAIs zweiwöchiger Stopp von Reinforcement Learning nach dem Hugging-Face-Kompromiss und Anthropics Aussetzung externer Cyber-Evaluierungen und mehrerer Reinforcement-Learning-Umgebungen mit höherem Risiko, von denen die meisten inzwischen wieder aufgenommen wurden.
Berichte, dass Anthropic ab Mitte Oktober 2026 einen Börsengang zu einer Bewertung nahe einer Billion Dollar vermarkten will, der kurz vor den US-Zwischenwahlen abgeschlossen werden soll; öffentlicher Kommentar eines ehemaligen KI-Beraters des Weißen Hauses, der vorschlug, den Börsengang bis zur Untersuchung von Whistleblower-Vorwürfen auszusetzen. Das Gerücht über rekursive Selbstverbesserung geht auf einen Vier-Wort-Post eines Leak-Accounts vom 9. September 2026 zurück, in dem die Großbuchstaben das Akronym ergaben.
Logan Kilpatrick, Mitglied des technischen Stabs von Google DeepMind, Interview im The Pomp Podcast, veröffentlicht am 16. September 2026, mit der Aussage, das Unternehmen beobachte frühe Anzeichen rekursiver Selbstverbesserung. Koray Kavukcuoglu, Leiter von Google DeepMind, gegenüber The Information am 23.-24. September 2026, bestätigt Gemini 4 im Post-Training mit Veröffentlichung deutlich vor Ende 2026; Gemini 3.8 Flash, allgemein verfügbar seit 2. September 2026, bleibt in unabhängigen Intelligenz-Benchmarks hinter konkurrierenden Flaggschiffen zurück. Führungswechsel bei DeepMind im August 2026. Reuters-Berichte über erhebliche Ressourcen für Selbstverbesserung, mit mehr als 1.000 Forschern und Ingenieuren; ein internes System habe Berichten zufolge einen Matrix-Multiplikations-Kernel um rund 23 Prozent verbessert, was einer Reduktion der Trainingszeit um etwa ein Prozent entspricht. Unabhängige Analysen kommen zu dem Schluss, dass die öffentliche Evidenz ein umfangreiches Forschungsprogramm belegt, aber keine demonstrierte sich selbst erhaltende Verbesserungsschleife.
Financial-Times-Bericht, 16. September 2026, wonach Mitarbeiter in beiden Laboren vom Vorschlag überrascht wurden und einige Sicherheitsforscher befürchten, eingebettete Evaluatoren könnten die Sicherheit schwächen.
Gartner-CIO-Umfragedaten, wonach rund 17 Prozent der Unternehmen KI-Agenten im Einsatz haben; Deloitte Tech Trends 2026 beziffert produktionsreife agentische Systeme auf rund 11 Prozent.
Siehe frühere Beiträge dieser Serie zum Aufkommen von Open-Weight-Modellen auf Frontier-Niveau, zur Destillation und zur Blindevaluierung.
Anbieter-Veröffentlichungen: Claude Mythos 5.1 und Claude Fable 5.1, 1. September 2026; GPT-6 Astra, 3. September 2026, laut Vergleichsberichten mit OpenAIs erster Critical-Einstufung für Cybersecurity-Fähigkeiten in der System Card; Grok 4.7, 21. September 2026; Claude Opus 5.5, 22. September 2026, 20 Prozent günstiger als Claude Opus 5, bei berichteten 30 Prozent schnellerer Ausgabe. Vergleichsberichte stellten fest, dass Anbieter, die dasselbe Modell anhand gemeinsamer Benchmarks bewerteten, um bis zu mehrere Punkte voneinander abwichen.
Siehe den früheren Beitrag dieser Serie zur Kommodifizierung der Souveränität des Standorts und zu den vier Kontrolleigenschaften, die mit Kapital nicht zu kaufen sind.
Zu den referenzierten Architektureigenschaften siehe den früheren Beitrag dieser Serie mit der Definition einer Enterprise-KI-Orchestrierungs- und -Management-Plattform. Die neuland.ai AG trägt die Verantwortung für Inhaltsqualität und saubere Ergebnislieferung in allen Kundenprojekte.
Vorläufige politische Einigung des Rats der EU und des Europäischen Parlaments zum Digital Omnibus on AI, 7. Mai 2026: Hochrisiko-Verpflichtungen nach Anhang III verschoben auf 2. Dezember 2027; Verpflichtungen nach Anhang I verschoben auf 2. August 2028; Wasserzeichen-Verpflichtungen nach Artikel 50(2) verschoben auf 2. Dezember 2026. GPAI-Durchsetzungsbefugnisse nach Kapitel V bindend seit 2. August 2026.
Von der KI-Strategie zur laufenden Plattform: Wir zeigen Ihnen den Weg.
Gespräch anfragen