온라인에서 돈을 사기하기 위해 가짜 이미지와 음성을 생성하는 AI에 주의하세요

[광고_1]

응우옌 탄 흐엉(가명)은 하노이 의 사무직 직원입니다. 페이스북 메신저로 친구와 통화하던 중 흐엉의 친구는 작별 인사를 하고 대화를 끊었지만, 갑자기 문자 메시지로 돌아와 돈을 빌리고 싶다며 은행 계좌로 이체해 달라고 제안했습니다.

Cảnh giác AI tạo hình ảnh và giọng nói giả mạo để lừa tiền trên mạng- Ảnh 1. — 해커들은 딥페이크를 이용해 온라인 사기를 저지르고 있습니다.

계좌 이름이 친구의 계좌와 일치했지만, 흐엉은 여전히 의심스러워서 확인을 위해 화상 통화를 요청했습니다. 친구는 즉시 동의했지만, 친구의 설명에 따르면 "네트워크 끊김"으로 인해 통화는 몇 초밖에 이어지지 않았습니다. 화상 통화에서 친구의 얼굴과 목소리까지 똑같아지자 흐엉은 더 이상 의심하지 않고 돈을 송금했습니다. 하지만 송금이 성공적으로 이루어진 후에야 흐엉은 자신이 해커의 함정에 빠졌다는 것을 깨달았습니다.

흐엉뿐만 아니라 흐엉 친구의 친구 및 친척 등 다른 많은 피해자들도 같은 방식으로 사기를 당했습니다. 악당들이 페이스북 계정에서 훔친 금액은 수천만 동(약 1억 2천만 원)에 달합니다.

2023년 하반기, 보안 회사 Bkav는 피해자들로부터 유사한 사기에 대한 신고와 도움 요청을 지속적으로 받았습니다. Bkav 전문가에 따르면, 흐엉의 경우 악당들은 페이스북 계정을 장악했지만 즉시 완전히 장악하지는 않고, 은밀히 추적하며 피해자인 척하고 친구와 친척들에게 돈을 빌려달라고 요청할 기회를 노렸습니다. 그들은 AI를 사용하여 페이스북 계정 소유자의 얼굴과 음성을 합성한 가짜 영상(딥페이크)을 만들었습니다. 본인 확인을 위해 화상 통화를 요청받자, 통화 수락에 동의했지만 발각되지 않기 위해 재빨리 연결을 끊었습니다.

Bkav AntiMalware Research Center의 응우옌 티엔 닷(Nguyen Tien Dat) 소장은 "AI를 통해 사용자 데이터를 수집하고 분석할 수 있게 되면 정교한 사기 전략을 수립할 수 있습니다. 또한 딥페이크와 GPT를 결합할 경우 사기 시나리오의 복잡성이 증가하여 사기 탐지가 훨씬 더 어려워질 것입니다."라고 말했습니다.

Bkav는 사용자들에게 특히 주의를 기울여 개인 정보(CCCD, 은행 계좌, OTP 코드 등)를 제공하지 말고, 전화, 소셜 네트워크, 사기 징후가 있는 웹사이트를 통해 낯선 사람에게 돈을 이체하지 말 것을 권고합니다. 소셜 네트워크를 통해 계좌로 돈을 빌리거나 이체하려는 요청이 있는 경우, 전화 또는 기타 통신 채널을 통해 다시 확인하는 등 다른 인증 방법을 사용해야 합니다.

[광고_2]
소스 링크