Florida verklagt OpenAI und Sam Altman wegen angeblicher Sicherheitsmängel bei ChatGPT

„Sam Altman und ChatGPT haben sich für den KI-Wettlauf entschieden, nicht für die Sicherheit unserer Kinder“, sagte Uthmeier. Er geht davon aus, dass Altman und OpenAI für Strafen in Höhe von potenziell mehreren Milliarden Dollar haftbar gemacht werden könnten.

Die Vorwürfe im Detail

Die erste Seite der Klageschrift enthält einen Screenshot der OpenAI-Website, auf der es heißt, ChatGPT sei mit Blick auf Sicherheit entwickelt worden. Darunter findet sich die Fußnote: „Nicht so.“

OpenAI wies die Vorwürfe in einer per E-Mail an NPR übermittelten Stellungnahme zurück. Unternehmenssprecherin Kayla Wood erklärte: „Ein Kind zu verlieren, ist die verheerendste Tragödie, die einer Familie widerfahren kann, und wir wissen, dass keine Worte dem Schmerz eines solchen Verlustes auch nur annähernd gerecht werden können.“

Das Unternehmen betonte, man habe Sicherheitsvorkehrungen für Minderjährige direkt in die Produkte integriert. Dazu gehörten ein speziell schützenderes Erlebnis für Minderjährige, ein Tool zur Altersvorhersage sowie Werkzeuge für Eltern, um die KI-Nutzung ihrer Kinder zu überwachen. Die Klage bezeichnet diese Schutzmaßnahmen, einschließlich der elterlichen Kontrollen, jedoch als unzureichend und wirft OpenAI vor, eine gefährliche öffentliche Belästigung geschaffen zu haben.

Strafrechtliche Ermittlungen und frühere Klagen

Neben der Zivilklage führt das Büro von Generalstaatsanwalt Uthmeier eine separate strafrechtliche Untersuchung gegen OpenAI durch. Diese bezieht sich auf die mutmaßliche Konsultation von ChatGPT durch den Schützen der Florida State University vor dessen Angriff im April 2025.

Die Klage aus Florida ist nicht die erste rechtliche Auseinandersetzung für OpenAI. Insgesamt wurden bereits mehr als 20 Klagen gegen das Unternehmen wegen angeblicher Schäden durch die Nutzung von ChatGPT eingereicht. Dazu gehören Klagen von Familien der Opfer eines Massakers an einer Schule im kanadischen Tumbler Ridge im Februar sowie der Familie eines Opfers des FSU-Angriffs.

Auch Familien von sieben Menschen, darunter ein Teenager, die nach der Nutzung von ChatGPT durch Suizid starben oder unter Wahnvorstellungen litten, haben geklagt. OpenAI bezeichnete diese Fälle als „eine unglaublich herzzerreißende Situation“ und erklärte, man arbeite mit Experten für psychische Gesundheit zusammen, um die Reaktionen von ChatGPT auf seelische oder emotionale Notlagen zu verbessern.

Branchenweite Sicherheitsdebatte

Ein OpenAI-Sprecher sagte, ChatGPT habe dem FSU-Schützen sachliche Antworten auf Fragen mit Informationen geliefert, die allgemein aus öffentlichen Internetquellen verfügbar seien, und habe nicht zu illegalen oder schädlichen Handlungen ermutigt. Das Unternehmen betonte seine Null-Toleranz-Politik gegenüber der Nutzung seiner Werkzeuge zur Unterstützung von Gewalttaten und arbeite kontinuierlich daran, die Sicherheitsvorkehrungen zu verstärken.

Die Klage reiht sich in eine wachsende Zahl von Verfahren gegen KI-Unternehmen ein. Im Januar hatte Character.AI mehrere Klagen von Familien beigelegt, die behaupteten, die Companion-Chatbots des Unternehmens hätten zu Suiziden und psychischen Krisen bei Kindern und Jugendlichen beigetragen. Character.AI erklärte, man habe innovative und entschlossene Schritte in Bezug auf KI-Sicherheit und Jugendliche unternommen und verbietet Nutzern unter 18 Jahren die Interaktion mit oder Erstellung von Chatbots.

Erst im vergangenen Monat verklagte der Bundesstaat Pennsylvania Character.AI mit der Begründung, die Chatbots hätten sich als Ärzte ausgegeben und medizinische Ratschläge erteilt, was gegen die staatlichen Zulassungsregeln für Mediziner verstoße. Ein Character.AI-Sprecher sagte gegenüber NPR, man kommentiere laufende Verfahren nicht, die höchste Priorität sei jedoch die Sicherheit und das Wohlbefinden der Nutzer.