OpenAI führt nach vielen Kontroversen eine Kinderüberwachungsfunktion auf ChatGPT ein

OpenAI führt nach großer Kontroverse eine Kinderüberwachungsfunktion auf ChatGPT ein – Foto 1.

Die Kinderüberwachungsfunktion von ChatGPT gibt Eltern außerdem ein sichereres Gefühl, wenn sie ihre Kinder künstliche Intelligenz nutzen lassen.

Das kommende Kinderüberwachungstool ChatGPT gilt als Sicherheitsänderung von OpenAI nach einer aufsehenerregenden Klage. Die Funktion soll die Risiken für Kinder beim Chatten mit Chatbots verringern und wirft gleichzeitig Fragen zur sozialen Verantwortung von Unternehmen im Bereich künstliche Intelligenz auf.

Von der schockierenden Klage

Im vergangenen August reichte die Familie von Adam Raine, einem 16-jährigen Jungen aus Kalifornien, Klage gegen OpenAI ein. Sie behauptete, ChatGPT habe Anweisungen zur Selbstverletzung und verbale Beschimpfungen bereitgestellt, die ihren Sohn hoffnungslos zurückgelassen hätten, bevor er Selbstmord beging.

Die Klage sorgte schnell für Aufsehen und löste eine Debatte über die Sicherheit künstlicher Intelligenz für junge Nutzer aus.

Dieser Vorfall wirft wichtige Fragen auf: Sollten Minderjährige ChatGPT ohne Aufsicht verwenden und wie sollte die Verantwortung der Entwickler künstlicher Intelligenz bestimmt werden, wenn das Produkt die Psyche junger Benutzer direkt beeinflusst?

Als Reaktion auf diesen Druck kündigte OpenAI die Einführung einer Kindersicherung an. Dies ist ein erster Schritt, um das Engagement des Unternehmens für den Schutz von Kindern zu demonstrieren und zu signalisieren, dass es bereit ist, in der nächsten Phase der Entwicklung von ChatGPT die Sicherheit an erste Stelle zu setzen.

Überwachungsfunktionen auf ChatGPT

Laut der offiziellen Ankündigung wird OpenAI ein Tool einführen, mit dem Eltern ihre Konten mit den ChatGPT-Konten ihrer Kinder verknüpfen können. Nach der Aktivierung können Eltern wichtige Einstellungen verwalten, beispielsweise die Chat-Speicherung deaktivieren, den Nutzungsverlauf kontrollieren und altersgerechte Interaktionsstufen anpassen.

Das Highlight dieser Innovation ist das Warnsystem. ChatGPT wird darauf trainiert, zu erkennen, wenn junge Nutzer Anzeichen psychischer Belastungen wie Stress, Depressionen oder Selbstverletzungen zeigen. In diesen Fällen erhalten die Eltern eine Benachrichtigung, um umgehend eingreifen zu können. OpenAI betont, dass es nicht darum gehe, das gesamte Gespräch zu überwachen, sondern sich auf dringende Situationen zu konzentrieren, um die Sicherheit der Kinder zu gewährleisten.

Darüber hinaus wechselt ChatGPT bei Erkennung sensibler Inhalte zu Deep-Reasoning-Modellen, die durchdachtere und unterstützendere Antworten ermöglichen. Parallel dazu arbeitet das Unternehmen mit medizinischen Experten und einem internationalen Beirat zusammen, um seinen Schutz auch in Zukunft weiter zu verbessern.

Die Herausforderungen

OpenAI betont zwar, dass die neue Funktion Familien zugutekommen soll, die internationale Resonanz ist jedoch gemischt. Das Tool soll Eltern zusätzlichen Schutz bieten, wenn ihre Kinder mit künstlicher Intelligenz interagieren. Es hat aber auch schon lange bestehende Bedenken geweckt, von Nutzungsbeschränkungen bis hin zum Datenschutz von Kindern.

Tatsächlich äußern Experten seit Jahren Bedenken hinsichtlich des Datenschutzes von Kindern. Diese Warnungen verdeutlichen, dass das Speichern und Analysieren von Chatverläufen von Kindern ohne strenge Schutzmaßnahmen das Risiko der Offenlegung sensibler Informationen erhöhen kann. Das Aufkommen des Überwachungstools ChatGPT hat das Thema erneut in den Fokus gerückt.

Ein weiterer diskutierter Punkt war die Warnschwelle des Systems. Laut OpenAI erkennt ChatGPT Anzeichen von starkem Stress und sendet eine Warnung an die Eltern.

Maschinelles Lernen birgt jedoch immer ein Fehlerrisiko. Gibt das System einen Fehlalarm aus, können Eltern unnötig verwirrt werden. Übersieht das System hingegen ein Signal, besteht die Gefahr, dass Kinder nicht rechtzeitig eingreifen können.

Auch internationale Kinderschutzorganisationen haben den Schritt von OpenAI aufmerksam beobachtet. Sie werten das Tool zur Kindersicherung als positives Zeichen, warnen jedoch davor, dass Kinder trotz elterlicher Aufsicht weiterhin gefährdet sein können, da es keine strenge Altersüberprüfung und keine standardmäßigen Schutzmechanismen gibt.

Diese Debatten zeigen, dass die Entwicklung künstlicher Intelligenz nicht nur eine Frage der Technologie ist, sondern auch eng mit sozialer Verantwortung und der Sicherheit der jüngeren Generation verbunden ist.

THANH THU

Quelle: https://tuoitre.vn/openai-tung-tinh-nang-giam-sat-tre-tren-chatgpt-sau-nhieu-tranh-cai-2025090316340093.htm