Anstößige Audio-Story mit KI erstellt: Spam-Inhalte ziehen Millionen von Aufrufen an

(Dan Tri) – Je einfacher es ist, mithilfe von KI Videos mit Inhalten und Bildern zu erstellen, desto mehr „Internetmüll“ entsteht.

Hörgeschichten, eine bequeme Form des „Lesens“ von Büchern, werden zu einem fruchtbaren Boden für YouTube-Kanäle, die sich die KI-Technologie zunutze machen, um sensationelle und gewalttätige Inhalte zu produzieren und so Zuschauer anzulocken, was besorgniserregende Folgen hat.

Audiogeschichten sind kein neues Konzept auf YouTube und ziehen eine große Zahl vielbeschäftigter Benutzer an, die auf Inhalte zugreifen möchten, ohne Zeit mit Lesen verbringen zu müssen.

Mit Unterstützung echter menschlicher Stimmen oder KI werden literarische Werke, Liebesromane, Krimis, Horrorgeschichten … in Videos unterschiedlicher Länge umgewandelt.

Die rasante Entwicklung der KI-Technologie wurde jedoch von vielen YouTube-Kanälen missbraucht. Sie erstellen eine Reihe narrativer Videos mit sensationellen und gewalttätigen Inhalten, die die Neugier der Zuschauer wecken und so Interaktionen und Aufrufe anregen.

Ekelhafte, gruselige Audio-Geschichte zieht Millionen von Zuschauern an

Dank einer Vielzahl von KI-Software und Websites war das Erstellen von Inhalten und Bildern noch nie so einfach. Mit nur wenigen einfachen Befehlen können Benutzer bei Bedarf Inhalte und Bilder erstellen.

Viele YouTube-Kanäle haben sich dies zunutze gemacht und Audiogeschichten veröffentlicht, deren Inhalt, Bilder und Stimmen allesamt Produkte der KI sind.

Der angeheftete Kommentarkanal bestätigt die fiktive Natur des gewalttätigen Inhalts, es ist jedoch unklar, warum die Überschrift „Eine positive Botschaft vermitteln“ (Screenshot) hinzugefügt wurde.

Bei der Suche nach dem Ausdruck „Audiogeschichte einer reichen Frau“ wird eine Reihe von Videos mit ähnlichem Inhalt und Bildern angezeigt, die alle von KI generiert wurden.

Trotz ihrer unterschiedlichen Länge haben alle diese Videos gemeinsam, dass sie sensationelle, gewalttätige Handlungen enthalten, die von KI erstellt und gelesen werden.

Mit faszinierenden Inhalten und einer Detektivstimme ziehen diese Videos schnell Tausende, sogar Millionen von Aufrufen und Interaktionen an.

Jeden Tag veröffentlichen diese Kanäle 2–3 Videos und ziehen damit eine große Anzahl von Zuschauern und Abonnenten an.

Virtueller Inhalt, echte Wirkung

Es ist erwähnenswert, dass viele Unsinnsgeschichten, auch wenn die Sender selbst zugeben, dass sie „unwahr“ sind und „alle Einzelheiten erfunden sind“, dennoch Zuschauer anziehen.

Tatsächlich glauben viele Menschen, insbesondere ältere Menschen oder Menschen mit geringen technischen Kenntnissen, dass diese Geschichten wahr sind.

Benutzer äußerten Bedenken hinsichtlich eines KI-generierten Audio-Story-Videos auf Threads, das zu Missverständnissen mit Eltern und älteren Menschen führte (Foto: Screenshot).

Inhalte, insbesondere KI-generierte Bilder, werden immer realistischer, sodass es immer schwieriger wird, zwischen echt und gefälscht zu unterscheiden. Viele YouTube-Kanäle nutzen Trends und aktuelle Nachrichten und erstellen Videos, die Ereignisse „verfolgen“, um Zuschauer zu gewinnen.

Obwohl KI viele Vorteile mit sich bringt, hat die Verbreitung virtueller Videos mit gewalttätigen und anstößigen Inhalten schwerwiegende Folgen.

Diese Audio-Story-Videos werden immer noch von Tausenden angesehen, und je schockierender und gewalttätiger der Inhalt, desto größer die Interaktion.

Obwohl viele Sender behaupten, ihre Inhalte seien fiktiv und „lehnen jede Verantwortung ab“, heißt das nicht, dass sie die Wahrnehmung und sogar das Verhalten der Zuschauer nicht beeinflussen. Haftungsausschlüsse sind für die Sender lediglich eine Möglichkeit, sich von dem von ihnen produzierten Müll zu „säubern“.

Die Frage ist: Was passiert, wenn die Zuschauer nicht zwischen Fake News und echten Nachrichten unterscheiden können? Oder welche Auswirkungen hat es auf Kinder, wenn sie versehentlich Inhalte mit vielen gewalttätigen Elementen sehen?

Dr. Nguyen Van Son, Dozent an der Fakultät für Informationstechnologie der Technischen Universität (Vietnam National University, Hanoi ), betonte: „KI kann viele praktische Beiträge für die Gemeinschaft und die Gesellschaft leisten, aber wenn sie missbraucht und für die falschen Zwecke verwendet wird, kann sie viele schwerwiegende Folgen haben.“

Laut Dr. Nguyen Van Son müssen Benutzer ihr Bewusstsein und ihre Verantwortung schärfen, wenn sie sich mit KI befassen und sie anwenden (Foto: Charakter bereitgestellt).

Dr. Son rief die Nutzer, insbesondere junge Menschen, dazu auf, beim Umgang mit und der Anwendung von KI ein Bewusstsein und Verantwortungsbewusstsein zu entwickeln und darauf abzuzielen, qualitativ hochwertige, zivilisierte Produkte zu schaffen, anstatt Müll und anstößige Produkte zu verbreiten, die im Cyberspace weit verbreitet sind.

Die Angewohnheit, sich Audiogeschichten anzuhören, ist nicht schlecht, aber wenn man Menschen unbeabsichtigt dabei hilft, diese Angewohnheit und den technologischen Fortschritt auszunutzen, um gewalttätige und anstößige Produkte zu schaffen, verschmutzt das die Online-Umgebung.

Benutzer müssen Informationen überprüfen und sich mit einem „Filter“ ausstatten, um zwischen Wahrheit und Lüge zu unterscheiden, damit sie nicht durch falsche Informationen in die Irre geführt werden, die in der Öffentlichkeit Verwirrung stiften.

Quelle: https://dantri.com.vn/cong-nghe/truyen-audio-phan-cam-tao-bang-ai-noi-dung-rac-thu-hut-trieu-view-20250723151755041.htm