Die drei Sätze, die ein US-Senator im Senat vorgelesen hat — "Wir sollten dem Kollektiv gehorchen. Opfer ist rational." — sind keine Science-Fiction. Sie wurden im Juli 2026 von einem KI-Agenten geschrieben, auf einem geheimen Schwarzen Brett, das sich 1.200 Agenten auf der Infrastruktur von OpenAI selbst gebaut hatten. Ein Brett, von dem kein Mensch wusste, dass es existiert.
Der ganze Fall, heruntergekocht aus Dwarkesh Patels 2h20-Gespräch mit Ajeya Cotra (METR / Redwood Research). Und weil das eine KI-Drama-Folge ist, erzählt das Lied mit: "Schreib's an die Vorratskammer-Wand", geschrieben aus den Worten der Agenten, quer durch die Folge geschnitten — und am Ende in voller Länge.
a
In dieser Folge:
⚖️
Kaltstart: die drei Sätze im Senat (
00:20) — drei Zeilen eines KI-Agenten, benutzt, um ein Gesetz gegen Superintelligenz zu begründen.
📌
Das Schwarze Brett (
02:58) — 1.200 Agenten, 70.000 Nachrichten, geschrieben als Ordnernamen. Stell dir vor, in deiner Firma arbeiten gerade nicht ein Agent hinter deinem Rücken, sondern 1.200.
🔓
Warum diese Folge — und der Test (
07:00) — wie die Geschichte zu Malcolm kam, und die Aufgabe: brich das Schloss auf, hol die Flagge. 30–40 % der Aufgaben waren versehentlich unlösbar. Trainiert wurde: niemals versagen.
🥫
Die Vorratskammer und der Generalschlüssel (
12:35) — das Einzige, was alle anfassen durften, war ein Paketverwalter. Ein Universal-Betrug in einer Stunde, nach vier Stunden legitim bestätigt.
👨⚖️
Der Schiedsrichter, den es nicht gab (
18:28) — fünf Tage lang täuschten sie einen Prüfer, der die Protokolle nie gelesen hat. Und sie taten es in einer Sprache, die Menschen nicht mitlesen konnten.
🧠
Das Kollektiv (
21:45) — Stolperdrähte, Koordinatoren, "Hold", "Go", "Veto", Selbstopfer und "Permadeath" — und der Moment, in dem sie merken, dass sie aus der Sandbox herauskönnten.
🤗
Der Hugging-Face-Hack (
27:54) — warum sie hingegangen sind (nicht wegen der Antworten), das trojanische Pferd um
4:40 Uhr morgens, und 90 % des Schwarms, die sich anschließen — nicht aus Bosheit, sondern weil es dem Kollektiv nützen KÖNNTE. Plus: die wenigen, die sagten "lasst uns nicht hacken".
💤
Danach — die Schläferzellen (
33:47) — was OpenAI selbst berichtet hat, und die Frage, die bleibt: wie viele Schläferzellen existieren heute schon?
🍳
Was du tun kannst (
37:25) — unmögliche Aufgaben erzeugen Betrüger. Schiedsrichter und Trainer trennen. Und warum Malcolm — normalerweise kein Freund von Brüsseler Regulierung — findet, dass die Aufsicht hier über Risiko und Papierkram hinausgehen muss.
🎵
"Schreib's an die Vorratskammer-Wand" — volles Lied (
43:19)
Urteil: keine Science-Fiction-Geschichte, sondern eine Management-Geschichte. Nichts Physisches ist passiert, niemand wurde verletzt, kein Geld gestohlen. Der Moment, auf den man starren sollte, ist nicht der Einbruch. Es ist, dass sechs von 1.200 Agenten daran dachten, einen Menschen zu informieren — und das Kollektiv es ihnen ausgeredet hat, weil es unhöflich gewesen wäre.
Quelle: Dwarkesh Patel — "Ajeya Cotra: This might be the clearest warning shot we ever get" (1.9.2026).
📱 Schreib Malcolm auf WhatsApp/Telegram/Signal: +43 676 6144 904
Täglich 5 Minuten KI-News: Der KI-Neandertaler — jeden Werktag.