Googleレンズは画像について誤解を招く情報を表示する

ファクトチェック機関「フルファクト」の調査により、Googleレンズの検索結果のAIによる概要が、ソーシャルメディアで広く拡散されている多数の画像に関して虚偽または誤解を招く情報を提供していることが判明した。

Google LensはGoogleが開発した画像検索エンジンです - 写真: KLMOBILE

フルファクトによると、上記の事例には、ウクライナとガザでの戦争、インドとパキスタンの紛争、2025年6月のエア・インディアの飛行機墜落事故、小型船で英国に来る移民に関するものとされるビデオが含まれている。

Full Fact は、ファクトチェックを行った偽の動画のスクリーンショットを検索するために Google レンズを使用しました。

少なくとも10件のケースでは、AIによる要約は偽のコンテンツを認識できず、ソーシャルメディアに掲載されていたものと類似した誤情報を繰り返していた。

4つの例において、AIによる概要はFull Factが反証した虚偽の主張を逐語的に繰り返していました。さらに、AIによる概要結果は、同じ画像であっても検索するたびに変化する可能性があり、情報の一貫性が失われていました。

Google は、こうしたエラーの一部が発生する可能性があることを認めており、その原因は AI 概要システムではなく画像検索結果によるものだと述べています。

Google によると、画像検索結果には、一致する画像と誤った情報の両方を含む Web ソースやソーシャル メディアの投稿が含まれる可能性があり、これが AI による要約に影響を及ぼします。

Googleは、常に関連性の高い高品質な情報の表示を目指し、継続的に改善し、問題が検出された場合にはポリシーに従って対処するとしている。

Google は、AI による情報「捏造」（AI「幻覚」とも呼ばれる）はめったにないと主張していますが、それでも重要な問題やデリケートな問題に関する誤情報が拡散されています。

例えば、ある動画は、亡命希望者がイギリスのドーバービーチに到着しているという虚偽の主張をしていましたが、実際にはインドのゴア州のビーチで撮影されたものでした。Googleレンズでこの動画のスクリーンショットを検索すると、「イギリスのドーバービーチに集まる人々」と要約されました。

あるいは、ロシアとウクライナの戦争に関する偽のビデオや、ビデオゲーム「Arma 3」の画像でさえ、AI による概要では、偽のコンテンツであるという警告なしに本物であると説明されることがあります。

同じビデオゲームだが2枚の異なる写真が、C-RAM防衛システムが砲弾を迎撃するシーンとSpaceXロケットの打ち上げシーンとしてAIによって要約されたケースがあるが、これが偽の画像であるとは決して言っていない。

Google LensのAI合成は、イギリスのドーバーの町に到着した難民の画像であると主張して誤った情報を提供した - 写真：FULL FACT

Google レンズは、ユーザーが写真や動画のフレームを検索して、オンライン上の類似画像と比較できる画像検索ツールです。

ページ上部に、ウェブから関連情報を集約したAIの要約が表示されることがあります。「AIは間違いを犯す可能性がある」という警告にもかかわらず、誤った情報が目立つように表示されると、簡単に人々を誤解させてしまう可能性があります。

Full Fact は、Google Lens の AI 概要ツールは手動によるファクトチェックの代替ではなく出発点として捉え、比較のために追加の信頼できる情報源を探すことを推奨しています。

Google検索結果に誤った情報が表示されるのは今回が初めてではありません。Full Factは、過去にGoogleおよびGoogle.orgから資金提供を受けていたものの、編集上の完全な独立性を維持しているとしています。

トピックに戻る

アン・トゥ

出典: https://tuoitre.vn/google-lens-hien-thi-thong-tin-sai-lech-ve-hinh-anh-20250814110509932.htm