Công an TP.HCM: Cẩn trọng với ‘mặt trái’ của công nghệ tạo video AI Veo 3

Ngày 9-7, Công an TP.HCM cho biết qua công tác tiếp nhận tin báo, tố giác tội phạm, chưa ghi nhận trường hợp bị lừa đảo bởi công nghệ tạo video AI Veo 3, tuy nhiên người dân cũng cần nâng cao cảnh giác vì bên cạnh mặt tích cực thì công nghệ này có thể bị kẻ xấu lợi dụng để thực hiện các hành vi vi phạm pháp luật.

Theo Phòng an ninh mạng và phòng chống tội phạm sử dụng công nghệ cao (PA05) Công an TP.HCM, các ứng dụng generative AI - hay còn gọi là AI tạo sinh (như Swapface, SoraAI, ChatGPT, Deepseek…) cho phép người dùng tạo video, hình ảnh, livestream thay đổi giọng nói, thay đổi khuôn mặt đã và đang ngày càng trở nên phổ biến.

Cuối tháng 5-2025, Google phát hành công cụ Google Veo 3, công nghệ AI tạo video mới, đang gây sốt trên các nền tảng mạng xã hội phổ biến như Facebook, X… với khả năng tạo lập hình ảnh, nội dung và chuyển động của cả nhân vật lẫn hậu cảnh, đặc biệt là khả năng tự động tạo hiệu ứng âm thanh và lồng tiếng theo yêu cầu khiến nhiều người xem khó phân biệt đó là sản phẩm của AI hay là cảnh quay thực tế.

Bên cạnh những hiệu quả tích cực (tiềm năng lớn trong sáng tạo nội dung, giáo dục, điện ảnh, truyền thông…) thì công nghệ này có thể bị các đối tượng lợi dụng để thực hiện các hành vi vi phạm pháp luật.

Ví dụ, từ hình ảnh của một người, kẻ xấu có thể lợi dụng công nghệ Veo 3 để tự động "bóc tách" nhiều thông tin quan trọng như: khuôn mặt nhận dạng của chủ nhân bức ảnh; vị trí địa lý mà người trong ảnh hay đến; sản phẩm, dịch vụ thường sử dụng; thói quen sinh hoạt… từ đó tái tạo khuôn mặt và giọng nói chỉ với hình ảnh và âm thanh lấy từ không gian mạng; từ đây tạo ra một "bản sao số" giống thật.

Chiêu trò quen thuộc của những kẻ lừa đảo với thủ đoạn sử dụng công nghệ AI là sau khi tạo ra "bản sao số" sẽ cho người giả danh người thân, cơ quan chức năng (công an, tòa án, viện kiểm sát, thuế, bệnh viện…) để gọi video yêu cầu làm theo yêu cầu hoặc giả vờ hoảng loạn, cầu cứu khẩn cấp để đánh vào tâm lý lo lắng của nạn nhân; khi nạn nhân đã chuyển tiền thì kẻ lừa đảo lập tức "biến mất".

Bên cạnh đó, kẻ xấu còn có thể sử dụng công cụ này để phục vụ cho các mục đích vi phạm pháp luật khác như: các nội dung khiêu dâm, phát tán thông tin sai lệch… để cưỡng đoạt tài sản.

Theo PA05, trong thời gian tới, kẻ xấu vẫn sẽ lợi dụng sự phát triển của khoa học công nghệ để khai thác, hoạt động và thực hiện các hành vi vi phạm pháp luật. Trong khi đó, kiến thức và ý thức nhận diện, tự phòng ngừa, cảnh giác của người dân còn hạn chế.

Nhằm nâng cao hiệu quả công tác đấu tranh hoạt động lừa đảo chiếm đoạt tài sản trên không gian mạng trong thời gian tới, Công an thành phố sẽ tiếp tục báo cáo Bộ Công an tham mưu Đảng, Nhà nước hoàn thiện hành lang pháp lý, công tác quản lý nhà nước về an ninh trật tự, công tác phát động quần chúng nhân dân tham gia phong trào toàn dân bảo vệ an ninh Tổ quốc tại cơ sở nhằm nâng cao ý thức cảnh giác, tăng cường hiệu quả trong phòng ngừa, phát hiện hoạt động lừa đảo chiếm đoạt tài sản trên không gian mạng.

Bênh cạnh đó, Công an TP.HCM khuyến cáo người dân một số nội dung sau:

Nâng cao cảnh giác trước những tin nhắn, cuộc gọi từ số máy lạ với nội dung về tình huống bất ngờ; thận trọng kiểm tra, kiểm chứng, xác định độ chính xác của thông tin; tuyệt đối không nghe, không thực hiện theo hướng dẫn, không chuyển tiền theo yêu cầu của kẻ xấu, không truy cập vào các đường dẫn (link) không rõ nguồn gốc được gửi kèm trong tin nhắn, email…

Hạn chế đăng tải nội dung liên quan đến thông tin cá nhân lên các nền tảng mạng xã hội công khai… để tránh trường hợp kẻ xấu đánh cắp thông tin như hình ảnh, video, giọng nói; đồng thời cài đặt tài khoản mạng xã hội cá nhân ở chế độ riêng tư để bảo vệ thông tin; chỉ cài đặt các ứng dụng trực tuyến từ nguồn chính thức của hệ điều hành điện thoại (CH Play, AppStore).

Trong trường hợp phát hiện bị lừa đảo chiếm đoạt tài sản hoặc nghi ngờ bị lừa đảo bằng thủ đoạn trên, cần nhanh chóng báo ngay với cơ quan công an gần nhất để được hỗ trợ, giải quyết kịp thời.

ĐAN THUẦN - CHÂU TUẤN

Nguồn: https://tuoitre.vn/cong-an-tp-hcm-can-trong-voi-mat-trai-cua-cong-nghe-tao-video-ai-veo-3-20250709172731831.htm