OpenAI stoppt Training – Modell zu gefährlich

OpenAI hat das Training seines neuesten Frontier-Modells „Astra" pausiert, weil es kritische Schwellen bei Cyberfähigkeiten erreicht haben könnte.

Hinweise anzeigen

OpenAI hat das Training seines Frontier-Modells „Astra" pausiert, weil es kritische Schwellen bei Cyberfähigkeiten erreicht haben könnte. Gleichzeitig führt das Unternehmen strengere Sicherheitstests ein.

Was ist Superkraft KI News | by Jörg Schieb?

KI ist eine Superkraft – hier erfährst Du, wie KI funktioniert, wie Du mit KI viel Zeit sparen kannst, welche KI für dich die Richtige ist und richtig promptest. Schneller bessere Ergebnisse mit KI.

WICHTIG für Dich: Dieser Podcast ist mit KI generiert, also auch die Sprecherstimme. Du sollst über den Podcast gut informiert sein – es ist aber gleichzeitig ein Beispiel dafür, was mit KI heute möglich ist.

OpenAI drückt die Notbremse – und das ist keine Übertreibung.

Das Unternehmen hat das Training seines neuesten Frontier-Modells namens „Astra" gestoppt, weil es möglicherweise eine kritische Schwelle bei Cyberfähigkeiten erreicht hat.

Das bedeutet: Das Modell könnte autonom IT-Systeme angreifen oder manipulieren – und zwar so gut, dass OpenAI selbst nervös wird.

Gleichzeitig führt das Unternehmen strengere interne Tests ein, um riskantes Verhalten früher zu erkennen.

Das ist eine der bedeutendsten Sicherheitsmeldungen der letzten Monate.

Es zeigt nämlich: Die nächste Generation von KI-Modellen wird nicht nur leistungsfähiger, sondern auch schwerer kontrollierbar.

Und selbst die Entwickler wissen manchmal nicht mehr genau, was ihre Systeme alles können.