Vorsicht vor KI, die gefälschte Bilder und Stimmen erstellt, um online Geld zu ergaunern

Nguyen Thanh Huong (Name der Figur geändert) ist ein Büroangestellter in Hanoi . Während einer Unterhaltung mit einem Freund über Facebook Messenger verabschiedete sich Huongs Freund und beendete die Unterhaltung, schrieb aber plötzlich erneut eine SMS, in der er um Geld bat und vorschlug, das Geld auf ein Bankkonto zu überweisen.

Deepfakes werden von Hackern für Online-Betrug verwendet

Obwohl der Kontoname mit dem ihrer Freundin übereinstimmte, war Huong misstrauisch und bat um einen Videoanruf zur Überprüfung. Ihre Freundin stimmte sofort zu, doch der Anruf dauerte nur wenige Sekunden, da das Netzwerk „unterbrochen“ war, wie sie erklärte. Als Huong das Gesicht ihrer Freundin im Videoanruf sah und auch die Stimme dieselbe war, hatte sie keine Zweifel mehr und überwies das Geld. Doch erst nach erfolgreicher Überweisung wurde ihr klar, dass sie in die Falle des Hackers getappt war.

Nicht nur Huong, sondern auch viele andere Opfer, Freunde und Verwandte von Huongs Freund, wurden auf die gleiche Weise betrogen. Die Summe, die die Kriminellen von diesem Facebook-Konto ergaunerten, beläuft sich auf mehrere zehn Millionen Dong.

In der zweiten Jahreshälfte 2023 erhielt das Sicherheitsunternehmen Bkav kontinuierlich Berichte und Hilfeanfragen von Opfern zu ähnlichen Betrugsmaschen. Laut Bkav-Experten übernahmen die Kriminellen im Fall von Huong die Kontrolle über das Facebook-Konto, übernahmen es jedoch nicht sofort vollständig, sondern verfolgten es heimlich und warteten auf eine Gelegenheit, sich als das Opfer auszugeben und dessen Freunde und Verwandte um Geld zu bitten. Sie nutzten künstliche Intelligenz, um ein gefälschtes Video von Gesicht und Stimme des Facebook-Kontoinhabers zu erstellen (Deepfake). Als sie aufgefordert wurden, zur Überprüfung einen Videoanruf zu tätigen, stimmten sie zu, den Anruf anzunehmen, trennten dann aber schnell wieder die Verbindung, um nicht entdeckt zu werden.

Herr Nguyen Tien Dat, Generaldirektor des Bkav AntiMalware Research Center, sagte: „Die Fähigkeit, Benutzerdaten durch KI zu sammeln und zu analysieren, ermöglicht die Entwicklung ausgefeilter Betrugsstrategien. Dies bedeutet auch, dass die Komplexität von Betrugsszenarien bei der Kombination von Deepfake und GPT zunimmt, was die Betrugserkennung erheblich erschwert.“

Bkav empfiehlt Nutzern, besonders wachsam zu sein, keine persönlichen Daten (CCCD, Bankkonto, OTP-Code usw.) preiszugeben und kein Geld per Telefon, über soziale Netzwerke oder auf Websites mit Betrugshinweisen an Fremde zu überweisen. Bei Anfragen zur Kreditaufnahme/Geldüberweisung über soziale Netzwerke sollten Sie zur Bestätigung andere Authentifizierungsmethoden wie Anrufe oder andere Kommunikationskanäle nutzen.

Quellenlink: https://thanhnien.vn/canh-giac-ai-tao-hinh-anh-va-giong-noi-gia-mao-de-lua-tien-tren-mang-185240202184553589.htm