Laut FBI wird KI für „Erpressung“ und Belästigung eingesetzt

In einer diese Woche verbreiteten Warnung erklärte das FBI, es habe in letzter Zeit eine Zunahme von Erpressungsopfern beobachtet, die angaben, mithilfe künstlicher Intelligenz gezielt angegriffen worden zu sein, um gewöhnliche Bilder aus Online-Posts, persönlichen Nachrichten oder Videochats in gefälschte Versionen zu verwandeln.

Die spanische Polizei verhaftete einen Programmierer, der mithilfe künstlicher Intelligenz gefälschte Kinderpornografie-Bilder erstellte. Foto: Daily Mail

„Die Bilder werden dann von böswilligen Akteuren direkt an die Opfer gesendet, um sie zu erpressen oder sexuell zu belästigen. Nach der Verbreitung kann es für die Opfer zu erheblichen Herausforderungen kommen, die weitere Verbreitung der manipulierten Inhalte zu verhindern und sie aus dem Internet zu entfernen“, heißt es in der Warnung.

Das Amt sagte, die Bilder wirkten „lebensecht“, merkte jedoch an, dass in einigen Fällen auch Kinder betroffen gewesen seien.

Im Februar verhaftete die Polizei in Spanien einen Computerprogrammierer, der mithilfe künstlicher Intelligenz grausame Bilder von Kindesmissbrauch erstellt hatte. Es handelte sich vermutlich um eine der ersten Verhaftungen dieser Art.

Das FBI ging nicht näher auf die KI-Programme ein, die zur Erstellung sexueller Bilder verwendet wurden, merkte jedoch an, dass der technologische Fortschritt „die Qualität, Anpassungsfähigkeit und Zugänglichkeit der KI-gestützten Inhaltserstellung kontinuierlich verbessert“.

Die Bearbeitung normaler Fotos zur Erstellung erotischer Bilder ist fast so alt wie die Fotografie selbst, doch die jüngste Explosion von Open-Source-KI-Tools hat den Prozess einfacher denn je gemacht.

Gefälschte Fotos oder Videos sind oft nicht von echten Versionen zu unterscheiden und in den letzten Jahren sind sogar mehrere Websites und soziale Netzwerke entstanden, die sich der Erstellung und dem Austausch KI-gestützter sexueller Bilder widmen.

Dies gilt als eines einer Reihe von Risiken, die künstliche Intelligenz für die Gesellschaft darstellen kann, wie Experten in jüngster Zeit beunruhigt und davor gewarnt haben.

Hoang Anh (laut Daily Mail, Reuters)

Quelle: https://www.congluan.vn/fbi-cho-biet-ai-dang-duoc-su-dung-de-tong-tien-va-quay-roi-post250849.html