Google Lens ist eine von Google entwickelte Bildersuchmaschine – Foto: KLMOBILE
Laut Full Fact handelt es sich bei den oben genannten Fällen um Videos , die angeblich den Krieg in der Ukraine und im Gazastreifen, den Konflikt zwischen Indien und Pakistan, den Flugzeugabsturz der Air India im Juni 2025 und Einwanderer, die in kleinen Booten nach Großbritannien kommen, zum Thema haben.
Full Fact verwendete Google Lens, um nach Screenshots von gefälschten Videos zu suchen, deren Fakten sie überprüft hatten.
In mindestens zehn Fällen konnten die KI-Zusammenfassungen gefälschte Inhalte nicht erkennen und wiederholten sogar Fehlinformationen, die denen in den sozialen Medien ähnelten.
In vier Beispielen wiederholte die KI-Übersicht wörtlich falsche Behauptungen, die Full Fact widerlegt hatte. Darüber hinaus konnten sich die Ergebnisse der KI-Zusammenfassung bei jeder Suche ändern, selbst bei demselben Bild, was zu inkonsistenten Informationen führte.
Google räumt ein, dass einige dieser Fehler auftreten können, gibt aber an, dass die Ursache in den Ergebnissen der Bildersuche und nicht im KI-Übersichtssystem liegt.
Laut Google können die Ergebnisse der Bildersuche Webquellen oder Social-Media-Beiträge enthalten, die sowohl passende Bilder als auch falsche Informationen enthalten, was sich auf die KI-Zusammenfassung auswirkt.
Google sagt, dass es stets darauf abzielt, relevante und qualitativ hochwertige Informationen anzuzeigen, sich kontinuierlich zu verbessern und bei erkannten Problemen entsprechend den Richtlinien zu handeln.
Obwohl Google behauptet, dass KI-Übersichten selten Informationen „erfinden“ (auch als KI-„Halluzinationen“ bekannt), verbreitet das Unternehmen dennoch Fehlinformationen zu wichtigen und sensiblen Themen.
So wurde beispielsweise in einem viralen Video fälschlicherweise behauptet, Asylsuchende würden am Dover Beach in England ankommen. Tatsächlich war die Szene jedoch an einem Strand im indischen Goa zu sehen. Bei der Suche nach einem Screenshot des Videos durch Google Lens wurde es als „Menschen versammeln sich am Dover Beach in England“ zusammengefasst.
Oder einige gefälschte Videos über den Krieg in Russland und der Ukraine, sogar Bilder aus dem Videospiel Arma 3, werden von AI Overview als echt beschrieben, ohne zu warnen, dass es sich um gefälschte Inhalte handelt.
Es gibt einen Fall, in dem dasselbe Videospiel, aber zwei verschiedene Fotos, von der KI als eine Szene zusammengefasst wurden, in der das C-RAM-Verteidigungssystem Artilleriegeschosse abfängt, und als eine Szene, in der eine SpaceX-Rakete startet. Dabei ist absolut nicht gesagt, dass es sich dabei um ein gefälschtes Bild handelt.
Die KI-Synthese von Google Lens lieferte falsche Informationen, als sie behauptete, es handele sich um ein Bild von Flüchtlingen, die in der Stadt Dover in England ankommen – Foto: FULL FACT
Google Lens ist ein Bildsuchtool, mit dem Benutzer nach Fotos oder Einzelbildern aus Videos suchen können, um sie online mit ähnlichen Bildern zu vergleichen.
Manchmal erscheint oben auf der Seite eine KI-Zusammenfassung, die relevante Informationen aus dem Internet zusammenfasst. Trotz der Warnung, dass „KI Fehler machen kann“, kann die prominente Darstellung von Fehlinformationen die Öffentlichkeit leicht in die Irre führen.
Full Fact empfiehlt, das KI-Übersichtstool von Google Lens als Ausgangspunkt und nicht als Ersatz für eine manuelle Faktenprüfung zu betrachten und zum Vergleich zusätzliche zuverlässige Quellen heranzuziehen.
Dies ist nicht das erste Mal, dass Google-Suchergebnisse falsche Informationen anzeigen. Full Fact gibt an, in der Vergangenheit von Google und Google.org finanziert worden zu sein, behält aber seine vollständige redaktionelle Unabhängigkeit.
Quelle: https://tuoitre.vn/google-lens-hien-thi-thong-tin-sai-lech-ve-hinh-anh-20250814110509932.htm
Kommentar (0)