OpenAI stellt neue ChatGPT-Variante für Jugendliche vor und reagiert auf Kinderschutzdebatte

Konkret richtet sich das neue Produkt laut OpenAI an Teenager und Teenagerinnen im Alter von 13 bis 17 Jahren. Es soll strengere Inhaltsfilter sowie Beschränkungen bei sensiblen Themen enthalten. Darüber hinaus sollen Eltern und Erziehungsberechtigte bestimmte Einstellungen vornehmen können.

Die Einführung erfolgt zu einem Zeitpunkt, an dem das Unternehmen mit rechtlichen Herausforderungen konfrontiert ist. In einer Klage war ChatGPT vorgeworfen worden, unter anderem bei Amokläufen eine Rolle zu spielen, zu Selbsttötungen zu ermutigen und Minderjährige ohne elterliche Aufsicht süchtig zu machen. OpenAI wies die Vorwürfe zurück und verwies auf bestehende Schutzmaßnahmen.

Hintergrund der Klagen

Erst vergangene Woche erhob eine Bezirksstaatsanwältin in Massachusetts Anklage gegen einen 17-Jährigen wegen zweifachen Mordes im Zusammenhang mit dem Tod seiner Mutter und seines Bruders. Der Fall hatte die Diskussion über die Verantwortung von KI-Anbietern erneut angefacht.

Mit der neuen Jugendschutz-Variante reagiert OpenAI auf den öffentlichen Druck. Branchenbeobachterinnen und -beobachter sehen in der Maßnahme einen Versuch, das Vertrauen von Familien und Aufsichtsbehörden zurückzugewinnen. "OpenAI said at the time that it had 'put in place industry leading protections and policies,'" erklärte das Unternehmen in einer früheren Stellungnahme.

Das Produkt wird zunächst in den USA ausgerollt. Ein konkreter Starttermin für Europa steht laut Unternehmensangaben noch nicht fest. Auch zur Frage, wie genau die elterliche Aufsicht technisch umgesetzt werden soll, hielt sich OpenAI zunächst bedeckt. Bildungsexpertinnen und -experten fordern eine enge Abstimmung mit Schulen und Jugendschutzorganisationen.

Reaktionen aus Wissenschaft und Zivilgesellschaft

Aus der Wissenschaft kommen ebenfalls Stimmen, die mehr Transparenz bei den Trainingsdaten und Sicherheitsfiltern verlangen. Forscherinnen und Forscher warnen, dass selbst angepasste Modelle in Belastungssituationen unangemessene Inhalte ausgeben könnten. Die Branche stehe erst am Anfang, belastbare Standards zu entwickeln.

Verbraucherschutzverbände bewerten den Schritt grundsätzlich positiv, sehen aber weiteren Klärungsbedarf. So sei unklar, wie OpenAI mit minderjährigen Nutzerinnen und Nutzern umgehe, die ihre Altersangaben falsch machen. Auch die Frage der Durchsetzung von Nutzungsbedingungen bleibe vage.

OpenAI kündigte an, die neue Version kontinuierlich weiterzuentwickeln und Feedback von Eltern, Lehrkräften sowie Jugendlichen einzubeziehen. Das Unternehmen betonte, man wolle einen sicheren Rahmen für die Nutzung von KI im Bildungsbereich schaffen.

Ausblick auf Regulierung und Kontrolle

Die kommenden Monate gelten als entscheidend: Aufsichtsbehörden in mehreren US-Bundesstaaten prüfen derzeit, ob zusätzliche Regulierungen für KI-Chatbots erforderlich sind. Auch in Brüssel laufen entsprechende Vorhaben im Rahmen des Digital Services Act.

Unterdessen hat Sam Altman in internen Mitteilungen betont, dass der Schutz Minderjähriger oberste Priorität habe. Die Reaktionen aus Politik und Zivilgesellschaft auf die neue Teen-Version werden maßgeblich darüber entscheiden, ob das Unternehmen aus der Krise gestärkt hervorgehen kann.

Zum jetzigen Zeitpunkt bleibt abzuwarten, inwiefern die angekündigten Schutzmaßnahmen tatsächlich greifen. Unabhängige Prüfungen durch Jugendschutzorganisationen stehen nach Angaben von OpenAI noch aus.