AI, 죽은 사람 '살려내는' 과정에서 모욕적인 영상 생성

OpenAI의 새로운 영상 제작 도구는 유명인의 사망한 사랑하는 사람의 이미지를 AI가 모욕적이고 왜곡되고 때로는 굴욕적인 영상으로 "부활"시키면서 유명인 가족을 위기에 빠뜨리고 있습니다.

말콤 엑스부터 휘트니 휴스턴, 코비 브라이언트까지 사망한 사람들의 AI가 생성한 영상은 큰 반향을 불러일으켰고, AI 시대의 윤리적 경계와 이미지 통제에 대한 의문을 제기했습니다.

공격적인 콘텐츠

시민운동가 말콤 엑스의 딸 일리아사 샤바즈는 AI가 만든 아버지 영상을 보고 싶지 않다고 말합니다. 이 영상들은 OpenAI의 새로 출시된 텍스트-비디오 변환 도구인 소라 2를 사용하여 말콤 엑스가 저속한 농담을 하고 마틴 루터 킹 목사와 논쟁하는 장면을 만들어냈습니다.

"아버지의 이미지가 이렇게 무분별하게 악용되는 것을 보는 것은 무례하고 가슴 아픈 일입니다. 이 기술을 개발한 사람들이 왜 자기 가족에게 하는 것과 같은 양심과 배려를 가지고 행동하지 않는지 이해할 수 없습니다." 샤바즈는 워싱턴 포스트 에 이렇게 말했습니다 .

소라 2는 허가 없이 사망한 사람들의 사진을 이용해 영상을 제작합니다. 사진: 블룸버그

소라 2는 놀랍도록 사실적인 영상을 제작하는 능력 덕분에 순식간에 전 세계적인 인기를 얻었습니다. 출시 후 며칠 만에 다운로드 차트 정상에 올랐습니다. 하지만 급속도로 확산되면서 소셜 미디어에는 가짜 연예인 영상이 잇따라 등장했습니다.

마이클 잭슨, 엘비스 프레슬리, 에이미 와인하우스의 "부활" 이미지는 엄청난 속도로 퍼져나갔고, 많은 시청자들은 진짜와 가짜를 구별하지 못했습니다.

"미스터 로저스 네이버후드" 진행자 프레드 로저스가 투팍 샤커와 랩을 하는 영상처럼, 어떤 영상들은 재밌게 만들려고 의도된 것 같습니다. 하지만 대부분의 콘텐츠는 너무 과합니다.

그 중에는 경찰 카메라의 가짜 각도를 통해 술에 취한 휘트니 휴스턴을 재현한 영상, 자신과 딸을 죽인 사고에서 헬리콥터를 타고 비행하는 코비 브라이언트, 현대 정치인 의 암살에 대해 농담을 하는 존 F. 케네디 전 대통령 등의 영상이 커뮤니티를 분노하게 만들었습니다.

느슨한 규제

OpenAI의 정책에 따르면, 해당 도구는 사용자의 동의를 받은 경우에만 실제 사람을 시뮬레이션할 수 있습니다. 그러나 최근 출시된 OpenAI는 "역사적 인물"은 이 규칙에서 제외하여 사용자가 사망한 사람들의 영상을 자유롭게 제작할 수 있도록 했습니다. 이 결정은 많은 희생자 유족들의 분노를 샀습니다.

고인이 된 배우 로빈 윌리엄스의 딸인 젤다 윌리엄스는 인스타그램을 통해 아버지의 AI 영상을 끊임없이 받았고 사람들에게 "제발 그만둬주세요"라고 간청했다고 밝혔습니다.

젤다는 "실제 사람들의 유산이 TikTok에 의해 통제되는 끔찍한 짓거리로 전락하는 걸 보는 건 미친 짓이에요."라고 말했습니다.

OpenAI의 Sora 2 사용 규칙에는 허점이 많습니다. 사진: Bloomberg .

전문가들은 이 현상이 창의성과 공격성의 경계가 모호해지는 AI 기술의 전환점을 반영한다고 말합니다. 딥페이크 연구자인 헨리 아이더는 죽은 자의 "합성 부활"이 개인의 이미지와 유산에 대한 통제에 대한 중대한 의문을 제기한다고 말했습니다.

"유명인 이미지를 활용해 콘텐츠를 제작하면 분명 조회수를 늘릴 수 있습니다. 하지만 고인의 경우, 더 깊은 질문을 던집니다. 그들의 기억과 정체성은 누구의 것인가?"라고 아이데르는 말했습니다.

이러한 반발에 대응하여 OpenAI는 최근 사망한 유명 인사의 대리인이 소라 영상에서 자신의 이미지를 차단해 달라고 요청할 수 있도록 허용할 것이라고 밝혔습니다. OpenAI 대변인은 "저희는 유명 인사와 그 가족이 저작권이 있는 이미지가 어떻게 사용되는지에 대한 통제권을 가져야 한다고 생각합니다."라고 말했습니다.

미국 엔터테인먼트 업계의 여러 단체들도 우려를 표명했습니다. 많은 할리우드 스타들의 매니지먼트 회사인 크리에이티브 아티스트 에이전시는 '소라 2'가 고객과 지적 재산권을 심각한 위험에 빠뜨렸다고 밝혔습니다. 미국영화협회(MPAA)는 OpenAI에 창작자의 권리를 보호하기 위한 "즉각적이고 단호한" 조치를 취할 것을 촉구했습니다.

예술가들뿐만 아니라 역사적 인물들도 희생양이 되었습니다. 소라가 만든 한 영상에는 윈스턴 처칠이 제트블루를 홍보하거나 음란한 인터넷 농담을 언급하는 모습이 담겨 있습니다.

출처: https://znews.vn/ai-tao-video-gay-phan-cam-post1593268.html