Polizei von Ho-Chi-Minh-Stadt: Vorsicht vor der „dunklen Seite“ der KI-Videoerstellungstechnologie Veo 3

Obwohl bisher keine Fälle von Betrug im Zusammenhang mit der KI-Videoerstellungstechnologie Veo 3 verzeichnet wurden, empfiehlt die Polizei von Ho-Chi-Minh-Stadt den Bürgern, wachsam zu sein, da diese Technologie von Kriminellen für illegale Handlungen missbraucht werden kann.

Neue KI-Technologie zur Videogenerierung bietet Nutzern viele Chancen, birgt aber auch Risiken

Am 9. Juli teilte die Polizei von Ho-Chi-Minh-Stadt mit, dass trotz der Arbeit, Berichte entgegenzunehmen und Straftaten anzuzeigen, keine Fälle von Betrug durch die Videoerstellungstechnologie AI Veo 3 verzeichnet worden seien. Dennoch ist erhöhte Wachsamkeit geboten, da diese Technologie neben den positiven Aspekten auch von Kriminellen für illegale Handlungen missbraucht werden kann.

Laut der Abteilung für Cybersicherheit und High-Tech-Kriminalitätsprävention (PA05) der Polizei von Ho-Chi-Minh-Stadt erfreuen sich generative KI-Anwendungen – auch bekannt als künstliche KI (wie Swapface, SoraAI, ChatGPT, Deepseek …), mit denen Benutzer Videos, Bilder und Livestreams mit Stimm- und Gesichtsveränderungen erstellen können – zunehmender Beliebtheit.

Ende Mai 2025 veröffentlichte Google das Tool Google Veo 3, eine neue KI-Videoerstellungstechnologie, die auf beliebten Social-Networking-Plattformen wie Facebook, X... für Furore sorgt. Sie ermöglicht die Erstellung von Bildern, Inhalten und Bewegungen sowohl von Charakteren als auch von Hintergründen, insbesondere die automatische Erstellung von Soundeffekten und Synchronisationen auf Anfrage, sodass es für viele Zuschauer schwierig ist, zu unterscheiden, ob es sich um ein KI-Produkt oder eine reale Szene handelt.

Neben den positiven Auswirkungen (großes Potenzial bei der Erstellung von Inhalten, in der Bildung , im Kino, in den Medien usw.) kann diese Technologie von Subjekten ausgenutzt werden, um illegale Handlungen zu begehen.

So können Kriminelle beispielsweise mithilfe der Veo 3-Technologie aus dem Bild einer Person automatisch viele wichtige Informationen „extrahieren“, wie etwa: die Gesichtserkennung des Fotobesitzers, den geografischen Standort, an dem sich die Person auf dem Foto häufig aufhält, häufig verwendete Produkte und Dienstleistungen, Lebensgewohnheiten … und so Gesicht und Stimme nur mit Bildern und Tönen aus dem Cyberspace nachbilden und so eine realistische „digitale Kopie“ erstellen.

Ein bekannter Trick von Betrügern, die KI-Technologie verwenden, besteht darin, dass sie nach der Erstellung einer „digitalen Kopie“ jemanden als Verwandten oder eine zuständige Behörde (Polizei, Gericht, Staatsanwaltschaft, Finanzamt, Krankenhaus usw.) ausgeben lassen, um per Videoanruf die Aufforderung zu erfüllen oder Panik vorzutäuschen und einen Notruf auszulösen, um die Angst des Opfers auszunutzen. Sobald das Opfer das Geld überwiesen hat, „verschwindet“ der Betrüger sofort.

Darüber hinaus können Kriminelle dieses Tool auch für andere illegale Zwecke verwenden, beispielsweise für pornografische Inhalte, die Verbreitung falscher Informationen usw., um Eigentum zu erpressen.

Laut PA05 werden Kriminelle auch in Zukunft die Entwicklung von Wissenschaft und Technologie ausnutzen, um illegale Handlungen auszunutzen und zu begehen. Gleichzeitig sind das Wissen und das Bewusstsein der Menschen in Bezug auf Identifizierung, Selbstprävention und Wachsamkeit noch begrenzt.

Um die Wirksamkeit des Kampfes gegen betrügerische Aktivitäten im Zusammenhang mit der Aneignung von Vermögenswerten im Cyberspace in der kommenden Zeit zu verbessern, wird die Stadtpolizei dem Ministerium für öffentliche Sicherheit weiterhin Bericht erstatten, um Partei und Staat bei der Vervollkommnung des Rechtsrahmens und der staatlichen Verwaltung von Sicherheit und Ordnung zu beraten und die Massen zu mobilisieren, sich an der Bewegung des gesamten Volkes zum Schutz der nationalen Sicherheit auf der Basisebene zu beteiligen, um das Bewusstsein und die Wachsamkeit zu schärfen und die Wirksamkeit bei der Verhinderung und Aufdeckung betrügerischer Aktivitäten im Zusammenhang mit der Aneignung von Vermögenswerten im Cyberspace zu erhöhen.

Darüber hinaus empfiehlt die Polizei von Ho-Chi-Minh-Stadt den Menschen Folgendes:

Seien Sie wachsam gegenüber Nachrichten und Anrufen von unbekannten Nummern zu unerwarteten Situationen. Überprüfen Sie die Informationen sorgfältig und stellen Sie deren Richtigkeit sicher. Hören Sie auf keinen Fall auf Anweisungen von Kriminellen, befolgen Sie diese nicht und überweisen Sie kein Geld auf deren Aufforderung. Greifen Sie nicht auf Links unbekannter Herkunft zu, die in Nachrichten, E-Mails usw. gesendet werden.

Beschränken Sie das Posten von Inhalten mit persönlichen Informationen auf öffentlichen Social-Networking-Plattformen, um zu verhindern, dass Kriminelle Informationen wie Bilder, Videos und Stimmen stehlen. Stellen Sie gleichzeitig Ihre persönlichen Social-Networking-Konten auf den privaten Modus, um Informationen zu schützen. Installieren Sie Online-Anwendungen nur aus offiziellen Quellen des Telefonbetriebssystems (CH Play, AppStore).

Falls Sie feststellen, dass Sie betrogen wurden, oder den Verdacht haben, dass Sie mit der oben genannten Methode betrogen wurden, sollten Sie sich umgehend bei der nächsten Polizeidienststelle melden, um rechtzeitig Unterstützung und eine Lösung des Problems zu erhalten.

DAN THUAN - CHAU TUAN

Quelle: https://tuoitre.vn/cong-an-tp-hcm-can-trong-voi-mat-trai-cua-cong-nghe-tao-video-ai-veo-3-20250709172731831.htm