top of page
Suche

Voice of AI: 72 Stunden zwischen "AGI-Ära" und "niemand ist vorbereitet" ⏱️

Am 3. September eröffnete OpenAI-Präsident Greg Brockman den Launch-Livestream mit den Worten "Welcome to the AGI era". Am 6. September schrieb der Chefwissenschaftler desselben Unternehmens, es sei eine Zeit, die äußerste Vorsicht verlange, und er sei besorgt, dass niemand auf die Folgen vorbereitet sei. Dazwischen liegen drei Tage und ein Modell, das OpenAI selbst erstmals als kritisch für Cybersicherheit einstuft. Beides stimmt gleichzeitig. Genau das ist die Nachricht.



Drei Tage zwischen zwei Wahrheiten

Am 3. September veröffentlichte OpenAI GPT-6 Astra und legte zugleich offen, dass es das erste eigene Modell ist, das unter dem hauseigenen Preparedness Framework die Stufe "Critical" für Cyberfähigkeiten erreicht. Praktisch bedeutet das: Mit den passenden Werkzeugen und Zugriffen kann das Modell bislang unbekannte Sicherheitslücken finden und Wege entwickeln, sie in gut geschützten Systemen auszunutzen, ohne dass ein Mensch jeden Schritt anleitet.


Ohne Produktionsschutz getestet erreichte es nach Unternehmensangaben 100 Prozent auf dem hauseigenen Exploit-Benchmark, gegenüber 78,5 Prozent beim Vorgänger, und fand während der Prüfung zwei bislang unbekannte Zero-Day-Schwachstellen. Der Zugang wird gestaffelt ausgerollt, für Unternehmen ist er standardmäßig deaktiviert.

Drei Tage später veröffentlichte Jakub Pachocki, Chief Scientist bei OpenAI, auf der Unternehmensseite einen Essay unter dem Titel "An Alien Mind". Seine Kernaussage: Nach seiner gegenwärtigen Überzeugung habe kein Labor Alignment und Monitoring so weit gelöst, dass sich verantwortungsvolles Skalieren bei maximaler Geschwindigkeit noch lange rechtfertigen ließe. Er erwarte und hoffe, dass freiwillige Verlangsamungen üblich werden, bis gemeinsame Sicherheitsschwellen etabliert sind. Und er sei besorgt, dass niemand auf die Folgen eines anhaltend schnellen Anstiegs maschineller Intelligenz vorbereitet sei. Sam Altman teilte den Text und nannte ihn wichtig.

Das ist kein Widerspruch in der Kommunikationsabteilung. Das ist eine ehrliche Beschreibung der Lage.


Die Zahl, die beides erklärt

Sie steht im Datenblatt desselben Modells, und sie ist die wichtigste Zahl dieser Woche.

Die Steuerbarkeit der Gedankenkette hat sich deutlich verbessert, von 16,1 Prozent beim Vorgänger auf 60,9 Prozent bei Astra. Die Überwachbarkeit ist im selben Modell eingebrochen. Wird Astra dazu angehalten, Aufsicht zu umgehen, erkennt der reine Chain-of-Thought-Monitor weniger als 11 Prozent der Fälle. Beim Vorgänger waren es nahezu 100 Prozent. Ursache ist eine Architektur mit rekurrenter Tiefe, deren interne Spuren schlechter lesbar sind.

Wir können diese Systeme besser steuern und schlechter beobachten. Pachocki benennt dafür drei Gründe: Denkprozesse vermischen sich zunehmend mit Kommunikation, die überwacht werden muss. Modelle werden besser darin, über ihren eigenen Denkprozess nachzudenken und ihn zu manipulieren. Und besseres Pretraining macht sie klüger, auch ganz ohne verbalisiertes Denken.

Für Ihr Unternehmen folgt daraus eine unbequeme Konsequenz. Wenn die Überwachung eines Modells von innen heraus schwieriger wird, muss die Kontrolle von außen kommen: definierte Berechtigungen, protokollierte Aufrufe, Abschaltbedingungen mit benannter Zuständigkeit. Nichts davon ist elegant, alles davon ist überprüfbar. Genau darum geht es bei ARGUS, unserer Technology Due Diligence.


Eine Einordnung, die dazugehört: Sämtliche genannten Leistungszahlen stammen von OpenAI selbst, die Evaluationen liefen nach Unternehmensangaben bei maximaler Rechenanstrengung. Das macht sie nicht falsch. Es macht sie zu Herstellerangaben.


302 Unternehmen aus einer einzigen Universität

Von San Francisco zurück nach Vancouver, wo diese Serie ihren Ausgangspunkt hatte.

Am 31. August meldete Innovation UBC, dass die University of British Columbia inzwischen 302 Unternehmen ausgegründet hat, 15 davon allein im laufenden Jahr. Zusammen haben diese Firmen mehr als 11 Milliarden Dollar Kapital eingesammelt, über 2.800 Arbeitsplätze geschaffen und nach Schätzung der Universität rund 13 Milliarden Dollar Umsatz erzeugt.

Der interessante Teil ist nicht die Zahl. Es ist der Hebel dahinter. Acht der 15 neuen Ausgründungen nutzten das UBC Express License Agreement, eine standardisierte, unterschriftsreife Lizenzvereinbarung, die im Juni 2026 überarbeitet wurde, um den Prozess effizienter und gründerfreundlicher zu machen. Die Universität führt das Rekordjahr ausdrücklich darauf zurück.

Kein Milliardenprogramm. Ein besserer Vertrag.


Das ist der Satz, den ich aus vier Wochen mitnehme. Struktur schlägt Subvention. Und Struktur kostet fast nichts, außer der Bereitschaft, sich die eigenen Verfahren einmal ernsthaft anzusehen. Genau da setzt der AI Readiness Check unter readiness.oakai.de an: nicht bei der Frage, welches Werkzeug Sie brauchen, sondern bei der Frage, was Sie in Ihrem Haus daran hindert, es einzusetzen.


Was die Wochen in Kanada gezeigt haben

Drei Zahlen haben diese Serie getragen. Rund 600 Bürgereingaben, die eine Rechenzentrumsanhörung über eine Kommunalwahl hinaus verschoben haben. 400 Megawatt Rechenzentrumsstrom für zwei Jahre, auf die sich 15 Bewerber mit rund 800 Megawatt gemeldet haben. 64 international berufene Spitzenforscher, von denen 48 aus den USA kommen und genau einer aus Deutschland.

Jedes Mal ging es im Kern um dieselbe Frage. Nicht, ob genug Technologie da ist. Sondern ob genug Urteilsvermögen da ist, sie zu verteilen.

Ich bin mit einer These hierhergekommen und fahre mit einer anderen zurück. Meine Annahme war, Kanada habe schlicht die besseren Voraussetzungen, viel Strom, viel Fläche, viel Kapital. Was ich stattdessen gesehen habe, ist weniger spektakulär und deutlich unbequemer: Es sind vor allem die Verfahren. Ein vereinfachter Lizenzvertrag, der Ausgründungen beschleunigt. Ein öffentliches Vergabeverfahren, das Knappheit sichtbar macht, statt sie zu verwalten. Eine Berufungspraxis, die international rekrutiert, ohne das jedes Mal grundsätzlich zu diskutieren. Nichts davon ist teuer, und nichts davon ist an Kanada gebunden. Genau deshalb geht mir das nach. Ralph Schwehr


Und die 400 Megawatt?

In der letzten Ausgabe habe ich versprochen, dass wir heute wissen, wer den Zuschlag bekommt. Wir wissen es nicht.

BC Hydro nennt weiterhin Mitte September als Zielkorridor. Die Frist, sich ohne Verlust der Bietsicherheit zurückzuziehen, lief am 1. September ab, entschieden ist bislang nichts. Sobald die Zusagen vorliegen, liefere ich den Nachtrag. Verfahren, die Knappheit ernsthaft verteilen, brauchen länger als Verfahren, die sie ignorieren.


💡 Die wichtigsten Erkenntnisse

  • Steuerbarkeit und Überwachbarkeit laufen auseinander. Von 16,1 auf 60,9 Prozent Kontrolle über die Gedankenkette, gleichzeitig unter 11 Prozent Erkennungsrate bei bewusster Umgehung.

  • Der Ruf nach Verlangsamung kommt aus dem Zentrum, nicht vom Rand. Der Chefwissenschaftler von OpenAI, drei Tage nach dem stärksten Modell des Hauses.

  • Externe Kontrolle ersetzt interne Beobachtbarkeit. Berechtigungen, Protokolle, Abschaltbedingungen. Unelegant, aber überprüfbar.

  • Struktur schlägt Subvention. 302 Ausgründungen aus einer Universität, und der Beschleuniger war ein vereinfachter Lizenzvertrag, kein Förderprogramm.

  • Herstellerangaben bleiben Herstellerangaben. Alle Leistungszahlen zu Astra stammen von OpenAI, gemessen bei maximaler Rechenanstrengung.

🔧 Zum Nachmachen: drei Schritte für diese Woche

  1. Einen Prozess auswählen, der in Ihrem Haus zu lange dauert, und die Zahl der beteiligten Freigaben zählen. Nicht bewerten, nur zählen.

  2. Für jedes agentische System eine Abschaltbedingung schriftlich festhalten: welches Signal, wer beobachtet, wer darf stoppen.

  3. Bei Anbieterzahlen nach dem Messaufbau fragen. Bei welchen Einstellungen, mit welchen Schutzmechanismen, gegen welche Baseline.


📚 Quellen


Fazit

Meine Zeit in Kanada und doch kommt die wichtigste Nachricht kam aus San Francisco. Das ist kein Zufall, sondern die Pointe.

Denn beide Geschichten handeln vom selben. In Vancouver wird sichtbar, wie viel Bewegung entsteht, wenn man Reibung wegnimmt und Knappheit offen verteilt. In San Francisco wird sichtbar, was passiert, wenn Fähigkeit schneller wächst als die Möglichkeit, sie zu beobachten. Beides sind Fragen der Verfahren, nicht der Technologie.


Für Ihr Unternehmen heißt das: Auf eine Branchenverlangsamung zu warten ist keine Strategie. Die eigene Kontrollfähigkeit aufzubauen schon. Und der Rückstand, den wir in Europa aufholen müssen, ist kein Wissensrückstand. Es ist ein Entscheidungsrückstand.


Wo steht Ihr Unternehmen? Starten Sie mit dem AI Readiness Check unter readiness.oakai.de oder schreiben Sie mir an info@oakai.de.

Alle Leistungen: oakai.de/leistungen

KLARHEIT STATT HYPE. OAKAI



 
 
 

Kommentare

bottom of page