OpenAI meldet Nutzer mit Gewaltplänen ans FBI

OpenAI hat das FBI über einen Nutzer informiert, der ChatGPT detaillierte Gewaltpläne anvertraut hatte. Der Mann wurde festgenommen und gestand.

Hinweise anzeigen

OpenAI hat das FBI über einen Nutzer informiert, der ChatGPT detaillierte Gewaltpläne anvertraut hatte. Der 25-jährige Darren Zhou wurde festgenommen und bekannte sich schuldig wegen schweren Stalkings und Drohungen.

Zur Quelle

Was ist Superkraft KI News | by Jörg Schieb?

KI ist eine Superkraft – hier erfährst Du, wie KI funktioniert, wie Du mit KI viel Zeit sparen kannst, welche KI für dich die Richtige ist und richtig promptest. Schneller bessere Ergebnisse mit KI.

WICHTIG für Dich: Dieser Podcast ist mit KI generiert, also auch die Sprecherstimme. Du sollst über den Podcast gut informiert sein – es ist aber gleichzeitig ein Beispiel dafür, was mit KI heute möglich ist.

OpenAI hat das FBI eingeschaltet – und damit möglicherweise Schlimmeres verhindert.

Ein 25-jähriger Nutzer hatte ChatGPT detaillierte Pläne für schwere Gewaltverbrechen anvertraut, darunter Stalking und Drohungen.

OpenAI meldete den Fall, der Mann wurde festgenommen und bekannte sich schuldig.

Das wirft eine heikle Frage auf: Wie viel Überwachung ist nötig, um Missbrauch zu verhindern – und wo beginnt die Grenze zur Privatsphäre?

Klar ist: KI-Anbieter sitzen auf einer Menge sensibler Daten und haben eine Verantwortung, bei konkreten Gefahren zu handeln.

Gleichzeitig zeigt der Fall, wie dünn die Linie ist zwischen Sicherheit und Überwachung.

Für euch als Nutzer bedeutet das: Was ihr eurem KI-Assistenten erzählt, ist nicht automatisch privat – bei Verdacht auf Straftaten wird gemeldet.