Facebook의 AI 생성 이미지 레이블링 메타

메타(Meta)의 글로벌 담당 사장인 닉 클레그(Nick Clegg)는 메타가 파일에 내장된 마커 세트를 사용할 것이라고 밝혔습니다. 메타는 페이스북, 인스타그램, 스레드(Threads) 서비스에 게시되는 모든 콘텐츠에 라벨을 적용하여, 실제 사진처럼 보일 수 있는 이미지가 실제로는 인공지능이 생성한 디지털 창작물임을 사용자에게 알립니다. 로이터 통신에 따르면 메타는 자체 AI 도구를 사용하여 생성된 콘텐츠에도 라벨을 적용했습니다.

새로운 시스템이 구축되고 운영되면 Meta는 OpenAI, Microsoft, Adobe, Midjourney, Shutterstock, Alphabet의 서비스에서 생성된 이미지에도 동일한 작업을 수행할 예정입니다. 이번 발표는 단순한 콘텐츠에서도 가짜 콘텐츠를 생성할 수 있는 생성적 AI의 피해를 완화하기 위해 기술 기업들이 개발 중인 새로운 표준에 대한 첫 번째 소식입니다.

AI가 생성한 이미지 라벨링은 잘못된 정보와 사기를 줄이는 데 도움이 됩니다.

이러한 접근 방식은 지난 10년 동안 기업들이 대량 폭력과 아동 착취를 묘사한 플랫폼에서 금지된 콘텐츠를 삭제하기 위해 협력해 온 패턴을 기반으로 합니다.

클레그는 이 시점에서 기업들이 AI가 생성한 이미지에 안정적으로 레이블을 지정할 수 있다고 믿지만, 더욱 정교한 오디오 및 비디오 콘텐츠 레이블 지정 도구는 아직 개발 중이라고 지적했습니다.

Meta는 사용자에게 변경된 오디오 및 비디오 콘텐츠에 라벨을 붙이도록 요구하고, 라벨을 붙이지 않을 경우 페널티를 부과할 예정이지만, Clegg는 현재 ChatGPT와 같은 AI 도구가 생성한 텍스트에 라벨을 붙일 수 있는 실행 가능한 메커니즘이 없다고 말했습니다.

Meta의 독립 감독 위원회는 오해의 소지가 있는 편집된 영상에 대한 회사의 정책을 비판하며, 콘텐츠는 삭제하는 대신 라벨을 붙여야 한다고 말했습니다. 따라서 Clegg는 Meta의 새로운 조치가 그러한 콘텐츠를 더 잘 분류하는 데 도움이 될 수 있다고 말했습니다.

소스 링크: https://thanhnien.vn/meta-gan-nhan-hinh-anh-do-ai-tao-ra-tren-facebook-18524020711453543.htm