KI erstellt anstößiges Video beim „Wiederbeleben“ von Toten

Das neue Videoerstellungstool von OpenAI stürzt prominente Familien in eine Krise, da Bilder verstorbener Angehöriger durch KI in beleidigenden, verzerrten und manchmal demütigenden Videos „wiederbelebt“ werden.

KI-generierte Videos von Verstorbenen – von Malcolm X über Whitney Houston bis hin zu Kobe Bryant – haben für Aufsehen gesorgt und Fragen zu ethischen Grenzen und Imagekontrolle im Zeitalter der KI aufgeworfen.

Anstößige Inhalte

Ilyasah Shabazz, die Tochter des Bürgerrechtlers Malcolm X, sagt, sie wolle keine KI-generierten Clips ihres Vaters sehen. Diese Videos wurden mit Sora 2, dem neu veröffentlichten Text-zu-Video-Tool von OpenAI, erstellt, um Szenen zu erstellen, in denen Malcolm X derbe Witze erzählt und mit Reverend Martin Luther King streitet.

„Es ist respektlos und herzzerreißend, mit anzusehen, wie das Bild meines Vaters auf solch sinnlose Weise missbraucht wird. Ich verstehe nicht, warum die Leute, die diese Technologie entwickeln, nicht mit dem gleichen Gewissen und der gleichen Sorgfalt handeln, die sie für ihre eigene Familie aufbringen würden“, sagte Shabazz der Washington Post .

Sora 2 erstellt ohne Erlaubnis Videos aus Bildern verstorbener Personen. Foto: Bloomberg .

Sora 2 wurde dank seiner Fähigkeit, unglaublich realistische Videos zu erstellen, schnell zu einem globalen Phänomen. Innerhalb weniger Tage nach ihrer Veröffentlichung schoss die App an die Spitze der Download-Charts. Ihre rasante Verbreitung führte jedoch auch dazu, dass eine Reihe gefälschter Promi-Videos in den sozialen Medien auftauchten.

Die „wiederbelebten“ Bilder von Michael Jackson, Elvis Presley und Amy Winehouse verbreiteten sich mit schwindelerregender Geschwindigkeit, sodass viele Zuschauer nicht mehr zwischen echt und falsch unterscheiden konnten.

Manche Videos sollen lustig sein, wie das, in dem „Mr. Rogers' Neighborhood“-Moderator Fred Rogers mit Tupac Shakur rappt. Doch viele der erstellten Inhalte sind einfach zu viel.

Unter anderem sorgten ein Video, das Whitney Houston in betrunkenem Zustand durch eine gefälschte Kameraeinstellung einer Polizeikamera nachstellte, Kobe Bryants Hubschrauberflug bei dem Unfall, bei dem er und seine Tochter ums Leben kamen, und der ehemalige Präsident John F. Kennedy, der Witze über die Ermordung eines zeitgenössischen Politikers machte, für Wut in der Community.

Lockere Regelungen

Die Richtlinien von OpenAI besagen, dass das Tool reale Personen nur mit deren Zustimmung simulieren kann. Bei seiner jüngsten Einführung nahm das Unternehmen jedoch „historische Persönlichkeiten“ von dieser Regel aus und ermöglichte es Nutzern, frei Videos von Verstorbenen zu erstellen. Diese Entscheidung hat viele Familien von Opfern verärgert.

Zelda Williams, die Tochter des verstorbenen Schauspielers Robin Williams, teilte auf Instagram mit, dass ihr ständig KI-Videos ihres Vaters zugeschickt würden und flehte die Leute an, „bitte damit aufzuhören“.

„Es ist verrückt zu sehen, wie das Erbe echter Menschen auf schreckliche Mätzchen reduziert wird, wo TikTok sie kontrolliert“, sagte Zelda.

Die Regeln von OpenAI zur Nutzung von Sora 2 sind voller Schlupflöcher. Foto: Bloomberg .

Experten zufolge spiegele das Phänomen einen Wendepunkt in der KI-Technologie wider, an dem die Grenze zwischen Kreativität und Beleidigung verschwimme. Henry Ajder, ein Deepfake-Forscher, sagte, die „synthetische Wiederauferstehung“ der Toten werfe große Fragen über die Kontrolle des persönlichen Images und des Vermächtnisses auf.

„Wenn Sie Bilder von Prominenten verwenden, um Inhalte zu erstellen, werden Sie damit definitiv mehr Zuschauer gewinnen. Bei Verstorbenen wirft dies jedoch eine tiefere Frage auf: Wem gehören ihre Erinnerungen und ihre Identität?“, sagte Ajder.

Als Reaktion auf den Aufschrei erklärte OpenAI, Vertreter kürzlich verstorbener Persönlichkeiten des öffentlichen Lebens könnten beantragen, dass ihre Bilder aus Sora-Videos entfernt werden. „Wir glauben, dass Persönlichkeiten des öffentlichen Lebens und ihre Familien die Kontrolle über die Verwendung ihrer urheberrechtlich geschützten Bilder haben sollten“, sagte ein OpenAI-Sprecher.

Auch mehrere Organisationen der US-Unterhaltungsindustrie äußerten ihre Bedenken. Die Creative Artists Agency, die Managementfirma vieler Hollywood-Stars, erklärte, Sora 2 habe Kunden und geistiges Eigentum ernsthaft gefährdet. Die Motion Picture Association of America (MPAA) forderte OpenAI auf, „sofortige und entschlossene“ Maßnahmen zum Schutz der Rechte der Urheber zu ergreifen.

Nicht nur Künstler, auch historische Persönlichkeiten sind Opfer geworden. Ein von Sora erstelltes Video zeigt Winston Churchill, wie er für JetBlue wirbt oder schmutzige Internetwitze anführt.

Quelle: https://znews.vn/ai-tao-video-gay-phan-cam-post1593268.html