Google 렌즈가 이미지에 대한 오해의 소지가 있는 정보를 표시합니다.

사실 확인 기관인 Full Fact가 실시한 조사에 따르면, Google 렌즈 검색 결과의 AI 개요가 소셜 미디어에 널리 유포된 여러 이미지에 대한 허위 또는 오해의 소지가 있는 정보를 제공하고 있는 것으로 나타났습니다.

Google Lens는 Google에서 개발한 이미지 검색 엔진입니다. - 사진: KLMOBILE

Full Fact에 따르면, 위에 언급된 사건에는 우크라이나와 가자지구에서 일어난 전쟁, 인도-파키스탄 갈등, 2025년 6월 에어 인디아 항공기 추락 사고, 작은 보트를 타고 영국으로 들어오는 이민자들에 대한 내용으로 추정되는 영상이 포함되어 있습니다.

Full Fact는 Google Lens를 사용하여 사실 확인을 거친 가짜 영상의 스크린샷을 검색했습니다.

최소 10건의 사례에서 AI 요약은 가짜 콘텐츠를 인식하지 못했으며, 소셜 미디어에 있는 것과 유사한 잘못된 정보를 반복하기도 했습니다.

네 가지 사례에서 AI 개요는 Full Fact가 반박한 허위 주장을 그대로 반복했습니다. 또한, AI 요약 결과는 같은 이미지를 검색할 때마다 바뀌어 정보의 일관성을 해칠 수 있었습니다.

구글은 이러한 오류 중 일부가 발생할 수 있다는 점을 인정하며, 그 원인은 AI 개요 시스템이 아니라 이미지 검색 결과에서 비롯된다고 밝혔습니다.

Google에 따르면, 이미지 검색 결과에는 일치하는 이미지와 잘못된 정보가 모두 포함된 웹 소스나 소셜 미디어 게시물이 포함될 수 있으며, 이는 AI 요약에 영향을 미칩니다.

Google은 항상 관련성 있고 고품질의 정보를 표시하는 것을 목표로 하고 있으며, 지속적으로 개선하고 문제가 발견되면 정책에 따라 처리할 것이라고 밝혔습니다.

Google에서는 AI 개요가 정보를 "조작"하는 경우가 거의 없다고 주장하지만(AI "환각"이라고도 함), 여전히 중요하고 민감한 문제에 대한 잘못된 정보를 퍼뜨리고 있습니다.

예를 들어, 한 바이럴 영상은 망명 신청자들이 영국 도버 해변에 도착했다고 허위 주장을 했지만, 실제로는 인도 고아의 해변이었습니다. 구글 렌즈는 해당 영상의 스크린샷을 검색했을 때 "영국 도버 해변에 모인 사람들"이라고 요약했습니다.

또는 러시아-우크라이나 전쟁에 대한 일부 가짜 영상, 심지어 비디오 게임 Arma 3의 이미지도 AI 개요에 의해 경고 없이 실제 콘텐츠인 것처럼 설명됩니다.

동일한 비디오 게임이지만 두 개의 다른 사진을 AI가 C-RAM 방어 시스템이 포탄을 요격하는 장면과 SpaceX 로켓 발사 장면으로 요약한 사례가 있는데, 이것이 가짜 이미지라고 말할 수는 없습니다.

구글 렌즈의 AI 합성은 영국 도버 마을에 도착한 난민의 이미지라고 주장하면서 거짓 정보를 제공했습니다. - 사진: 전체 사실

Google 렌즈는 사용자가 사진이나 비디오 프레임을 검색하여 온라인에서 비슷한 이미지와 비교할 수 있는 이미지 검색 도구입니다.

때때로 AI 요약이 페이지 상단에 나타나 웹에서 관련 정보를 취합합니다. "AI는 실수를 할 수 있다"는 경고에도 불구하고, 잘못된 정보를 눈에 띄게 표시하면 대중을 쉽게 오도할 수 있습니다.

Full Fact에서는 Google Lens의 AI 개요 도구를 수동 사실 확인을 대체하는 것이 아닌 시작점으로 간주하고, 비교를 위해 추가로 신뢰할 수 있는 출처를 찾아볼 것을 권장합니다.

구글 검색 결과에 잘못된 정보가 표시된 것은 이번이 처음이 아닙니다. 풀 팩트는 과거에 구글과 Google.org로부터 재정 지원을 받은 적이 있지만, 완전한 편집 독립성을 유지하고 있다고 밝혔습니다.

주제로 돌아가기

안 투

출처: https://tuoitre.vn/google-lens-hien-thi-thong-tin-sai-lech-ve-hinh-anh-20250814110509932.htm