Anthropic fordert: Regierungen sollen gefährliche KI stoppen dürfen

Anthropic-Chef Dario Amodei fordert staatliche Befugnisse zum Stopp gefährlicher KI-Systeme und verpflichtende Risikoprüfungen für leistungsstarke Modelle.

Show Notes

Anthropic-Chef Dario Amodei fordert staatliche Befugnisse, gefährliche KI-Systeme zu stoppen, und verpflichtende Risikoprüfungen für leistungsstarke Modelle. Hintergrund ist unter anderem das interne Modell "Mythos", das kritische Sicherheitslücken in Software aufdeckte.

Zur Quelle (ZEIT)

What is Superkraft KI News | by Jörg Schieb?

KI ist eine Superkraft – hier erfährst Du, wie KI funktioniert, wie Du mit KI viel Zeit sparen kannst, welche KI für dich die Richtige ist und richtig promptest. Schneller bessere Ergebnisse mit KI.

WICHTIG für Dich: Dieser Podcast ist mit KI generiert, also auch die Sprecherstimme. Du sollst über den Podcast gut informiert sein – es ist aber gleichzeitig ein Beispiel dafür, was mit KI heute möglich ist.

Ausgerechnet ein KI-Konzernchef fordert mehr staatliche Kontrolle – und zwar nicht irgendwer.

Dario Amodei, der Chef von Anthropic, dem Unternehmen hinter Claude, sagt: Regierungen müssen die Macht haben, riskante KI-Systeme zu stoppen.

Das ist bemerkenswert, weil es aus der Branche selbst kommt.

Amodei will verpflichtende Sicherheitsprüfungen für besonders leistungsstarke Modelle – mit Blick auf Risiken wie Cyberangriffe, Biowaffen oder unkontrollierbare Systeme.

Hintergrund ist auch ein internes Anthropic-Modell namens Mythos, das jahrzehntelang unentdeckte Schwachstellen in verbreiteter Software aufgespürt haben soll.

Das zeigt: Die Fähigkeiten werden beängstigend.

Und wer glaubt, die Industrie regelt das schon selbst, wird hier eines Besseren belehrt.

Amodei fordert klare gesetzliche Regeln – bevor es zu spät ist.