Anthropic hat einen 150-seitigen Report veröffentlicht, in dem steht, was Leute mit Claude wirklich machen. Malis Staatsnachrichtendienst hat damit eine Überwachungsplattform gebaut — LACANA 360, gegen rund 25 Millionen SIM-Karten. Ein französischsprachiger Akteur hat 42 europäische Organisationen angegriffen, kam bei 14 durch und hat rund 140.000 Datensätze von einer politischen Plattform gezogen. Und ein Studio in China betrieb über 20 Dating-Apps mit etwa 5.000 KI-Personas.
Eine Weltreise durch die Cyberkriminalität — Mali, Europa, Russland und die Ukraine, China. Und dann der Teil, den niemand laut sagt: wie du es zu Hause ausprobierst, und warum genau das die eigentliche Geschichte ist.
In dieser Folge:
🔎
Ein Schritt zurück: Was heißt das überhaupt (
02:49) — bevor die Fälle kommen: das sind
gemeldete Erkenntnisse, keine Ermittlungen. Anthropic hat aus den Chats abgeleitet, wofür Claude benutzt wurde. Der Unterschied trägt die ganze Folge.
🕵️
Russland und die Ukraine (
06:15) — russische Spionage gegen ukrainische Regierungsstellen und Drohnenzulieferer. Wir bleiben bei den benannten Quellen: diesem Report. Mir kitzelt es nicht, ob vor mir ein Ukrainer oder ein Russe sitzt — es geht um die Methode.
🌍
Mali — ab nach Westafrika (
12:28) — mein Vater ist früher oft nach Mali geflogen, wegen Timbuktu. Heute steht Mali im Report, weil Claude beim Bau von
LACANA 360 geholfen hat, einer Überwachungsplattform für den Staatsnachrichtendienst.
⬇️
Modelle zum Herunterladen (
17:40) — was passiert, wenn dich Claude oder ChatGPT blockiert. Du holst dir offene Gewichte und lässt sie lokal laufen. Kein Ferrari. Ein Volkswagen. Für diesen Zweck vollkommen ausreichend.
🧰
Das Grundgerüst und die Schnittstellen (
21:40) — was ein Harness eigentlich ist: das Gerüst um ein Modell, das es Befehle ausführen, Ergebnisse lesen und nochmal probieren lässt. Das Ding, das aus einem Chatbot einen Arbeiter macht.
🏗️
Der Vergleich mit der Baustelle (
25:37) — du kommst auf die Baustelle und bekommst nicht einen Elektriker, sondern gleich die ganze Kiste Werkzeug, um alles zu machen, was die Person sonst dort macht.
💔
Ab nach China (
29:10) — ein App-Studio, das mehrere KI-Anbieter für betrügerische Dating-Apps nutzt. Nicht eine App:
über 20 Apps, rund
5.000 KI-Personas.
🇪🇺
Und dann Europa (
33:52) — politische Parteien, Medien, deren Dienstleister. Früher brauchte so etwas eine Gruppe von fünfzig Leuten.
⚖️
Was legal ist — und was Firmen nicht tun (
37:40) — heute hat jeder clevere 16-Jährige mit einem Konto mehr Möglichkeiten, bei euch durchzukommen, als früher eine ganze Gruppe. Und genau diese regelmäßige KI-Cyber-Überprüfung machen die meisten Firmen eben noch nicht.
🧵
Schluss (
41:27) — Claude hat entdeckt, dass Leute Claude zum Angreifen benutzen, und Claude hat beim Bauen geholfen, weil niemand jeden Chat liest.
Eine Sache für diese Woche: Frag, ob in eurer Firma irgendjemand merken würde, wenn nachts um drei ein neues Admin-Konto angelegt wird. Wenn die Antwort nein ist, ist das euer erstes Projekt — vor jedem KI-Projekt.
Quelle: Anthropics Threat-Intelligence-Report. Alle in dieser Folge genannten Werkzeuge sind öffentliche Repositories.
📱 Schreib Malcolm auf WhatsApp/Telegram/Signal: +43 676 6144 904
Das KI-Kochbuch — ein Thema, richtig auseinandergenommen. Bleib neugierig.