Experten empfehlen, ein Krisenmanagement-Szenario speziell für Deepfakes vorzubereiten

Was sagen Experten zum Begriff Deepfake und dem aktuellen Problem der Verbreitung gefälschter Nacktfotos von Prominenten, wie beispielsweise der Sängerin Taylor Swift auf X...

Nachfolgend finden Sie die Meinungen zweier Experten der RMIT University zu den schädlichen Auswirkungen von Deepfakes und Lösungsvorschlägen für dieses Problem:

Chuyên gia khuyến cáo cách chuẩn bị trước kịch bản xử lý khủng hoảng dành riêng cho deepfake

Dr. Jonathan Crellin (links) und Dr. Nguyen Van Thang Long (rechts). (Quelle: RMIT University)

Cyberkriminelle nutzen neue Technologien auf unvorhergesehene Weise

Dr. Jonathan Crellin, Leiter der Informationssicherheit, Fakultät für Naturwissenschaften , Ingenieurwesen und Technologie, RMIT University :

Deepfake ist ein maschinell generiertes Bild, das Bilder oder Videos aus mehreren Quellen kombinieren kann, wodurch ein sehr realistisches Bild, Video oder sogar Audio erstellt wird.

Deepfakes basieren auf einer KI-Technik namens maschinelles Lernen, die Elemente wie das Gesicht einer Person ersetzen und in ein anderes Bild oder Video integrieren kann.

Ein Beispiel für die Verwendung von Deepfake ist die Kombination von pornografischen Inhalten mit Fotos von Taylor Swift zur Erstellung gefälschter Bilder.

Dazu benötigte der Drahtzieher einige Bilder, damit die Software die Mimik des Sängers lernen und diese dann mit pornografischen Inhalten kombinieren konnte, um obszöne Fotos zu erstellen, die das Image des Sängers schädigen.

Tatsächlich wird gemunkelt, dass diese Fotos von einer Telegram-Gruppe veröffentlicht und mit dem Microsoft Designer-Tool mit integrierter KI-Unterstützung erstellt wurden.

Jeder kann zum Opfer werden, da die Kriminellen lediglich ein Bild, eine Video- oder Audioaufnahme der Person benötigen, die sich als solche ausgibt.

Fake News in vielen Formen können dazu verwendet werden, Falschmeldungen zu verbreiten, und man kann davon ausgehen, dass es bei der bevorstehenden US-Präsidentschaftswahl viele solcher Fake News geben wird.

Derzeit versuchen Gesetzgeber auf der ganzen Welt , Gesetze gegen diese Art von Bildern zu erlassen.

In den USA werden derzeit einige Ansätze in der Gesetzgebung umgesetzt, beispielsweise die Nutzung von Zivilklagen oder Gesetze gegen die „Verbreitung sexuell eindeutiger Bilder einer Person, die von künstlicher Intelligenz ohne deren Zustimmung erstellt wurden“.

China hat außerdem neue Vorschriften eingeführt, die eine strafrechtliche Verfolgung derjenigen ermöglichen, die KI-generierte Bilder verbreiten.

Großbritannien hat das Teilen von Deepfake-Inhalten im Rahmen seines Online-Sicherheitsgesetzes für illegal erklärt.

Wie kann man dies erkennen oder verhindern?

Der erste Schritt besteht darin, die Anzahl Ihrer Online-Fotos, Videos und Audioaufnahmen zu reduzieren. Teilen Sie sie nur mit Bekannten und veröffentlichen Sie sie nicht überall. Sobald etwas im Internet ist, ist es fast unmöglich, es zu entfernen.

Die zweite Möglichkeit besteht darin, sich mit Ihrer Familie auf ein geheimes Wort zur Authentifizierung des Anrufs zu einigen. So verringern Sie das Risiko, in die Falle eines gefälschten Anrufs zu tappen.

Bilder, insbesondere Videos, können seltsame (inszeniert wirkende) Fehler aufweisen. Wenn Sie diese Fehler entdecken, besteht eine hohe Wahrscheinlichkeit, dass das Bild oder der Ton gefälscht wurde.

Eine weitere Technik, die verwendet werden kann, ist die Suche nach „umgekehrtem Bild“ bei Google oder anderen Suchmaschinen, um die Quelle des Originalbilds zu ermitteln.

Die letzte Lektion lautet: Glauben Sie nicht blind, was Sie sehen, die Kamera (oder KI) kann lügen!

Deepfakes stellen eine große Bedrohung für Prominente und Politiker dar

Dr. Nguyen Van Thang Long, Dozent, Fakultät für Kommunikation und Design, RMIT University :

Angesichts der zunehmenden Verbreitung von Fake News durch Deepfakes müssen die Medienteams von Prominenten und Politikern über Ressourcen verfügen, um Fake News zu überwachen und umgehend darauf zu reagieren bzw. Falschmeldungen kontinuierlich zu korrigieren.

Wenn Deepfakes systematisch mit organisierten Formen der „schmutzigen PR“ kombiniert werden, wird diese Aufgabe aufgrund der Verbreitung widersprüchlicher Informationen noch schwieriger, und Fake News und negative Nachrichten werden immer häufiger geteilt als positive Nachrichten.

Wenn Einzelpersonen Nachrichten in sozialen Netzwerken sehen, haben sie normalerweise die Angewohnheit, Informationen über offizielle Medienkanäle zu bestätigen.

Angesichts der Flut an Deepfake-Inhalten in den sozialen Medien wird es zunehmend schwieriger und zeitaufwändiger, die Richtigkeit der Mainstream-Nachrichten zu überprüfen. Dies erfordert umfassende Recherchen und Überprüfungstechniken.

Je länger wir mit der Überprüfung von Nachrichten und Quellen warten, desto wahrscheinlicher ist es, dass sich aufgrund der hohen Geschwindigkeit, mit der in den sozialen Medien Informationen geteilt und kommentiert werden, falsche, erfundene oder irreführende Informationen verbreiten.

Dies verschärft das zugrunde liegende Problem und kann zu sozialen Unruhen führen, insbesondere wenn es um Inhalte wie politische Äußerungen, Religion, Geschlecht, Geschäftsstrategien oder makroökonomische Fragen geht.

Im Kontext der Verbreitung von Deepfakes besteht die wirksamste Risikomanagementstrategie nach wie vor darin, konsistente Kommunikationskanäle zwischen Unternehmen, Prominenten, Politikern und wichtigen Interessengruppen wie Fans, Presse, Communities und Mitarbeitern über beliebte Social-Media-Plattformen, Websites oder persönliche Treffen aufrechtzuerhalten.

Der verstärkte Einsatz von KI bringt sowohl Vorteile als auch unerwartete neue Probleme mit sich. Illustrationsfoto. (Quelle: Freepik)

Durch die Aufrechterhaltung dieser Kommunikationskanäle werden Informationen zu Deepfakes schneller empfangen, was eine zeitnahe und wirksame Korrektur von Gerüchten ermöglicht und Fehlinformationen von vornherein aufdeckt.

Unternehmen, Prominente und Politiker müssen jedoch einen Krisenreaktionsplan speziell für Deepfakes entwickeln. Dazu gehört beispielsweise, wer über welche Medienkanäle berichtet, Kriterien für die Überprüfung von Informationen durch Beweise und seriöse Quellen festzulegen, einen Zeitplan für die Aufklärung von Gerüchten festzulegen und eine Strategie zur Wiederherstellung des Rufs zu skizzieren.

Mit einem gut vorbereiteten, methodischen Plan lässt sich eine Deepfake-Krise leichter bewältigen und mögliche unglückliche Folgen minimieren.

[Anzeige_2]
Quelle