Deepfake des Gaza-Krieges weckt Bedenken hinsichtlich der KI

Diese Bilder wurden im Internet millionenfach angesehen und sind Deepfakes, die mithilfe künstlicher Intelligenz erstellt wurden. Wer genau hinsieht, erkennt verräterische Anzeichen: seltsam gekrümmte Finger oder Augen, die in einem unnatürlichen Licht funkeln.

Die Empörung, die diese Deepfake-Bilder ausgelöst haben, ist jedoch real.

Fotos aus dem Krieg zwischen Israel und der Hamas veranschaulichen auf anschauliche und schmerzhafte Weise die Gefahren der KI als Propagandainstrument, das zur Erzeugung lebensechter Bilder eingesetzt wird.

Seit Beginn der Kämpfe im vergangenen Monat werden in den sozialen Medien digital manipulierte Fotos verwendet, um falsche Angaben zur Verantwortung für Opfer zu machen oder die Menschen über Gräueltaten zu täuschen, die nie stattgefunden haben.

Ein Palästinenser sammelt Habseligkeiten aus den Trümmern im Gazastreifen. AP-Foto.

Technologische Fortschritte finden immer häufiger und ohne große Kontrolle statt. Das macht deutlich, dass KI zu einer weiteren Waffe werden könnte, und bietet einen ersten Einblick in zukünftige Konflikte, Wahlen und andere wichtige Ereignisse.

„Die Dinge werden noch viel schlimmer werden, bevor sie besser werden“, sagte Jean-Claude Goldenstein, CEO von CREOpoint, einem in San Francisco und Paris ansässigen Technologieunternehmen, das KI einsetzt, um die Gültigkeit von Online-Beschwerden zu bewerten.

Sein Unternehmen hat eine Datenbank mit den viralsten Deepfake-Bildern aus Gaza zusammengestellt. „Bilder, Videos und Audio: Mit generativer KI ist das ein Fortschritt, den es so noch nie gegeben hat“, sagte er.

Imran Ahmed, CEO des Center for Countering Digital Hate, einer gemeinnützigen Organisation, die Desinformation aus dem Krieg verfolgt, sagte, die Propagandisten, die solche Bilder erstellen, seien geschickt darin, die tiefsten Impulse und Ängste der Menschen anzusprechen.

Je erschreckender das Bild, desto wahrscheinlicher ist es, dass sich die Nutzer daran erinnern und es teilen, wodurch sie unabsichtlich weitere Fehlinformationen verbreiten. Ähnliche, von KI generierte Fehlinformationen verbreiten sich seit dem Russland-Ukraine-Konflikt viral.

Jeder neue Konflikt oder jede neue Wahlsaison bietet Desinformationsakteuren neue Möglichkeiten. Viele KI-Experten und Politikwissenschaftler warnen daher vor Risiken im kommenden Jahr, wenn in mehreren Ländern, darunter den USA, Indien, Pakistan, der Ukraine, Indonesien und Mexiko, wichtige Wahlen stattfinden.

Abgeordnete beider Parteien in Washington warnen vor dem Risiko, dass KI und soziale Medien dazu genutzt werden könnten, amerikanische Wähler zu belügen. Bei einer kürzlichen Anhörung zu den Gefahren der Deepfake-Technologie sagte der demokratische US-Abgeordnete Gerry Connolly aus Virginia, die USA müssten in die Entwicklung von KI-Tools investieren, die anderen KI-Technologien entgegenwirken sollen.

Um wirksam auf die politischen und sozialen Herausforderungen zu reagieren, die durch von KI generierte Fehlinformationen entstehen, sind sowohl bessere Technologien als auch bessere Regulierungen erforderlich, sagte David Doermann, Professor an der University of Buffalo.

Mai Anh (laut AP)

Quelle: https://www.congluan.vn/tran-lan-anh-gia-deepfake-ve-cuoc-chien-gaza-lam-gia-tang-moi-lo-ngai-ai-post274389.html