Tausende Berichte über KI-generierte Inhalte zum Thema Kindesmissbrauch

In den letzten Monaten haben Kindersicherheitsexperten und Forscher vor dem Risiko gewarnt, dass künstliche KI den Online-Missbrauch verschlimmern könnte.

Meta-CEO Mark Zuckerberg spricht bei einer Anhörung des Justizausschusses des US-Senats am 31. Januar 2024 vor einer Menge von Teilnehmern, die KI-generierte Bilder mit sich tragen. Foto: Reuters

Das NCMEC hat noch nicht die Gesamtzahl der Meldungen über Kindesmissbrauchsmaterial aus allen Quellen veröffentlicht, die es im Jahr 2023 erhalten hat. Im Jahr 2022 gingen jedoch etwa 88,3 Millionen Meldungen zu diesem Problem ein.

„Wir erhalten Berichte von innovativen KI-Unternehmen selbst, (Online-)Plattformen und Mitgliedern der Öffentlichkeit“, sagte John Shehan, Vizepräsident des NCMEC.

Die CEOs von Meta, X, TikTok, Snap und Discord sagten am Mittwoch (31. Januar) bei einer Anhörung des US-Senats zur Kindersicherheit auf Online-Plattformen aus. US-Abgeordnete befragten Social-Media-Unternehmen zu ihren Bemühungen, Kinder vor „Online-Raubtieren“ zu schützen.

Generative KI könnte von Kriminellen eingesetzt werden, um echten Kindern wiederholt Schaden zuzufügen, indem sie gefälschte Bilder von ihnen erstellen, erklärten Forscher des Stanford Internet Observatory in einem Bericht vom vergangenen Juni.

Fallon McNulty, Leiter der CyberTipline des NCMEC, die Meldungen über Online-Ausbeutung von Kindern entgegennimmt, sagte, KI-generierte Inhalte würden „immer fotorealistischer“, was es schwieriger mache, festzustellen, ob es sich bei den Opfern um echte Menschen handele.

OpenAI, das Unternehmen, das ChatGPT entwickelt hat, hat einen Prozess zur Übermittlung von Berichten an NCMEC eingerichtet und die Organisation befindet sich in Gesprächen mit anderen KI-Unternehmen, sagte McNulty.

Hoang Hai (laut Reuters, FT)

Quelle: https://www.congluan.vn/my-hang-nghin-bao-cao-ve-noi-dung-lam-dung-tre-em-do-ai-tao-ra-post283237.html