딥페이크가 만연하다 - AI 사칭으로부터 안전한 사람은 없다

음성 모방, 얼굴 모방, 립싱크... AI는 이제 업무와 오락을 위한 도구가 아니라 위험한 상업 사기 도구로 변모하고 있습니다. 유명인, 의사, 심지어 승려의 이미지까지 AI가 사칭하여 소셜 네트워크 전반에 걸쳐 상품을 판매하고 있습니다. 실제 사람들은 이를 알지 못하고, 구매자는 신뢰를 잃습니다.

물건을 팔기 위해 "빌린 얼굴"을 사용하는 것

"원래 무릎 상태가 어떠하든 저희 방법을 적용하시면 7일 이내에 눈에 띄게 좋아질 것을 보장합니다. 만약 효과가 전혀 없다면 진심으로 사과의 의미로 10억 동(VND)을 보상해 드리겠습니다. 만약 효과가 전혀 없다면 100% 환불해 드리고, 저도 10억 동(VND)을 보상해 드리겠습니다. 누구나 감히 그렇게 할 수 있는 것은 아닙니다." 유명 가수가 관절 통증 완화 마사지 크림 제품을 광고하는 내용인데, 이 광고는 전적으로 AI가 제작했다는 점을 언급할 가치가 있습니다.

위 광고 영상은 LShop이라는 TikTok 계정에서 여성 가수의 이미지, 목소리, 그리고 바디 랭귀지를 주의 깊게 관찰하지 않고는 알아차릴 수 없을 만큼 사실적으로 표현하여 사용되었습니다. 이 계정은 약 9,000명의 팔로워와 67,000개의 '좋아요'를 보유하고 있으며, 각 영상은 수천 건의 조회수를 기록하고 있습니다. 위 여성 가수의 이미지를 차용한 "광고" 영상 하나만으로도 1,000개 이상의 '좋아요'와 거의 100개의 구매 댓글을 기록했습니다.

같은 마사지 크림 제품을 판매하는 채널들은 또 다른 딥페이크 버전을 "제작"했는데, 이번에는 의사였습니다. 영상에서 해당 캐릭터는 "저는 하노이에서 가장 권위 있는 정형외과 의사이며, 가장 심각한 반월판 파열도 단 3일 만에 완치될 수 있다고 장담합니다. 이 젤은 베트남에서 가장 권위 있는 정형외과 협회의 인증을 받았습니다."라고 단호하게 말했습니다. 이 대사는 AI가 다른 "의사들"을 위해 재창조한 것으로, 시청자들이 실제 의사로 착각하기 쉽게 만들었습니다.

이 영상은 4,000개에 가까운 좋아요와 120개가 넘는 댓글을 받았지만, 주문하려고 문자를 보냈을 때 계정 측에서는 아무런 응답도 없었고, 댓글란에서도 시청자들과 소통하지 않았습니다. 그냥 장바구니에 담아두고 바로 구매하도록 했습니다. 특히 판매 중인 제품은 중국에서 생산되었고, 제품 정보가 매우 모호했습니다.

가수, 유명인, 의사 등 모두가 건강 관련 제품을 판매하기 위해 AI 클립을 만드는 판매 채널에 의해 사칭되었습니다.

여기서 멈추지 않고 딥페이크는 영적인 영역으로도 확산되었습니다. 팟 팹 NM이라는 이름의 틱톡 계정은 스승 TPH의 강의를 리포스트했을 뿐만 아니라, AI 기술을 사용하여 보리 잎과 침향 팔찌와 같은 상품을 판매하는 "스승"의 이미지를 만들어냈습니다.

시청자들이 구매를 요청하는 댓글을 남기자, 채널 측은 "기대와 다르게 나오면 제 계정의 진열 코너에 가서 필요한 상품을 골라주세요. 잔돈에 인색하거나 큰돈을 무시하지 마세요."라고 답했습니다. 그러자 이 스님은 직접 나서서 자신은 그런 상품을 광고하거나 관여한 적이 없다고 해명했습니다.

창의성과 침해 사이의 경계

국가사이버보안감시센터(NCSC)의 사이버 보안 전문가 응오 민 히에우(Hieu PC)는 소셜 미디어에 유포되는 가짜 광고 영상은 주로 딥페이크 소프트웨어로 제작된다고 밝혔습니다. 이러한 소프트웨어는 드물지 않으며, 많은 서비스에서 저렴한 비용과 매우 간단한 조작 방식의 패키지를 제공하기도 합니다. 히에우 씨는 디지털 콘텐츠 제작 및 미디어 제작 분야에 긍정적인 활용 사례가 있지만, 문제는 일부 주체가 사기, 신원 위조, 가짜 뉴스 유포, 실제처럼 보이는 영상을 통한 타인의 명예 훼손 등 부정적인 목적으로 이 기술을 악용하고 있다는 점이라고 지적했습니다.

히에우 씨는 또한 딥페이크 영상을 식별하는 데 도움이 되는 몇 가지 징후를 제시했는데, 영상 속 얼굴 표정이 다소 뻣뻣하다거나, 입 모양과 움직임이 대화와 일치하지 않는다거나... 히에우 씨는 협박, 강압, 이익 추구 목적으로 민감한 영상에 피해자의 얼굴을 삽입하는 데 AI가 사용된 훨씬 더 심각한 상황이 있었다고 경고했습니다.

호치민시 변호사 협회의 쩐 득 프엉 변호사에 따르면, AI를 이용하여 유명인(또는 특정 개인)의 동의 없이 이미지를 생성하는 것은 2015년 민법 제32조에 명시된 인격권, 특히 초상권을 침해하는 행위입니다. 해당 법률은 다음과 같이 규정하고 있습니다. "개인은 자신의 초상에 대한 권리를 가진다. 개인의 초상 사용은 당사자의 동의를 받아야 한다. 상업적 목적으로 이미지를 사용하는 경우, 당사자들이 별도의 합의를 하지 않는 한, 이미지 사용 당사자에게 보상을 지급해야 한다."

따라서 소셜 네트워크 계정 소유자가 실제 사진, 오래된 영상 등을 AI로 재구성한 이미지를 허가 없이 광고 또는 판매 목적으로 사용하는 경우, 이는 법률 위반에 해당합니다. 이미지 사용이 본 조의 규정을 위반하는 경우, 이미지 소유자는 법원에 위반자, 관련 기관, 단체 및 개인에게 이미지 사용의 철회, 파기, 종료, 손해 배상 및 법률 규정에 따른 기타 조치를 강제하는 결정을 내려줄 것을 요청할 권리가 있습니다.

깜 누옹

출처: https://www.sggp.org.vn/deepfake-tran-lan-khong-ai-an-toan-truoc-chieu-tro-gia-danh-bang-ai-post803313.html