Polizei von Ho-Chi-Minh-Stadt: Vorsicht vor der „dunklen Seite“ der KI-Videoerstellungstechnologie Veo 3

Obwohl bisher keine Fälle von Betrug im Zusammenhang mit der KI-Videoerstellungstechnologie Veo 3 verzeichnet wurden, empfiehlt die Polizei von Ho-Chi-Minh-Stadt den Bürgern, wachsam zu sein, da diese Technologie von Kriminellen für illegale Handlungen missbraucht werden kann.

Neue KI-Technologie zur Videogenerierung bietet Nutzern viele Chancen, birgt aber auch Risiken

Am 9. Juli teilte die Polizei von Ho-Chi-Minh-Stadt mit, dass trotz der eingehenden Berichte und der Anzeige von Straftaten keine Betrugsfälle durch die Videoerstellungstechnologie AI Veo 3 verzeichnet worden seien. Dennoch ist Wachsamkeit geboten, denn neben den positiven Aspekten kann diese Technologie auch von Kriminellen für illegale Handlungen missbraucht werden.

Laut der Abteilung für Cybersicherheit und High-Tech-Kriminalitätsprävention (PA05) der Polizei von Ho-Chi-Minh-Stadt erfreuen sich generative KI-Anwendungen – auch bekannt als künstliche KI (wie Swapface, SoraAI, ChatGPT, Deepseek …), mit denen Benutzer Videos, Bilder und Livestreams mit Stimm- und Gesichtsveränderungen erstellen können – zunehmender Beliebtheit.

Ende Mai 2025 veröffentlichte Google Google Veo 3, eine neue KI-Videoerstellungstechnologie, die auf beliebten Social-Networking-Plattformen wie Facebook, X... für Furore sorgt. Sie ermöglicht die Erstellung von Bildern, Inhalten und Bewegungen sowohl von Charakteren als auch von Hintergründen, insbesondere die automatische Erstellung von Soundeffekten und Voiceovers auf Anfrage, sodass es für viele Zuschauer schwierig ist, zu unterscheiden, ob es sich um ein KI-Produkt oder eine reale Szene handelt.

Neben den positiven Auswirkungen (großes Potenzial bei der Erstellung von Inhalten, in der Bildung , im Kino, in den Medien usw.) kann diese Technologie von Subjekten ausgenutzt werden, um illegale Handlungen zu begehen.

So können Kriminelle beispielsweise mithilfe der Veo 3-Technologie aus dem Bild einer Person automatisch viele wichtige Informationen „extrahieren“, wie etwa: das Gesicht des Besitzers des Fotos, den geografischen Standort, an dem sich die Person auf dem Foto häufig aufhält, häufig verwendete Produkte und Dienstleistungen, Lebensgewohnheiten … und so Gesicht und Stimme nur mit Bildern und Tönen aus dem Cyberspace nachbilden und so eine realistische „digitale Kopie“ erstellen.

Ein bekannter Trick von Betrügern, die KI-Technologie verwenden, besteht darin, dass sie nach der Erstellung einer „digitalen Kopie“ jemanden als Verwandten oder als Vertreter einer Regierungsbehörde (Polizei, Gericht, Staatsanwaltschaft, Finanzamt, Krankenhaus usw.) ausgeben lassen, um ihn per Videoanruf aufzufordern, die Aufforderung zu erfüllen oder Panik vorzutäuschen und einen Notruf auszulösen, um die Angst des Opfers auszunutzen. Sobald das Opfer das Geld überwiesen hat, „verschwindet“ der Betrüger sofort.

Darüber hinaus können Kriminelle dieses Tool auch für andere illegale Zwecke verwenden, beispielsweise für pornografische Inhalte, die Verbreitung falscher Informationen usw., um Eigentum zu erpressen.

Laut PA05 werden Kriminelle auch in Zukunft die Entwicklung von Wissenschaft und Technologie ausnutzen, um illegale Handlungen auszunutzen und zu begehen. Gleichzeitig sind das Wissen und das Bewusstsein der Menschen in Bezug auf Identifizierung, Selbstprävention und Wachsamkeit noch begrenzt.

Um die Wirksamkeit des Kampfes gegen betrügerische Aktivitäten im Zusammenhang mit der Aneignung von Vermögenswerten im Cyberspace in der kommenden Zeit zu verbessern, wird die Stadtpolizei dem Ministerium für öffentliche Sicherheit weiterhin Bericht erstatten, um Partei und Staat bei der Vervollständigung des Rechtskorridors, der staatlichen Verwaltung von Sicherheit und Ordnung und der Mobilisierung der Massen zur Teilnahme an der Bewegung des gesamten Volkes zum Schutz der nationalen Sicherheit auf der Basisebene zu beraten, um das Bewusstsein und die Wachsamkeit zu schärfen und die Wirksamkeit bei der Verhinderung und Aufdeckung betrügerischer Aktivitäten im Zusammenhang mit der Aneignung von Vermögenswerten im Cyberspace zu erhöhen.

Darüber hinaus empfiehlt die Polizei von Ho-Chi-Minh-Stadt den Menschen Folgendes:

Seien Sie wachsam gegenüber Nachrichten und Anrufen von unbekannten Nummern mit Inhalten zu unerwarteten Situationen. Überprüfen Sie die Informationen sorgfältig und stellen Sie deren Richtigkeit sicher. Hören Sie auf keinen Fall zu, befolgen Sie keine Anweisungen, überweisen Sie kein Geld auf Aufforderung von Kriminellen und greifen Sie nicht auf Links unbekannter Herkunft zu, die in Nachrichten, E-Mails usw. gesendet werden.

Beschränken Sie das Posten von Inhalten mit persönlichen Informationen auf öffentlichen Social-Networking-Plattformen, um Fälle zu vermeiden, in denen Kriminelle Informationen wie Bilder, Videos und Stimmen stehlen. Stellen Sie gleichzeitig Ihre persönlichen Social-Networking-Konten auf den privaten Modus, um Informationen zu schützen. Installieren Sie Online-Anwendungen nur aus offiziellen Quellen des Telefonbetriebssystems (CH Play, AppStore).

Wenn Sie mithilfe der oben genannten Tricks einen Betrug entdecken oder einen solchen vermuten, müssen Sie sich umgehend bei der nächstgelegenen Polizeidienststelle melden, um rechtzeitig Unterstützung und eine Lösung zu erhalten.

DAN THUAN - CHAU TUAN

Quelle: https://tuoitre.vn/cong-an-tp-hcm-can-trong-voi-mat-trai-cua-cong-nghe-tao-video-ai-veo-3-20250709172731831.htm