Angst vor Betrug mit der realistischen Fotoerstellungsfunktion von ChatGPT

ChatGPT „zeichnet wie ein Foto“

Am 26. März sorgte die KI-Nutzergemeinde (Künstliche Intelligenz) weltweit und auch in Vietnam für Aufregung, als OpenAI offiziell Images in ChatGPT veröffentlichte. Der Schwerpunkt lag dabei auf den Möglichkeiten zur Bilderzeugung für Nutzer des intelligenten Modells des Unternehmens. Zuvor konnte ChatGPT zwar auch Bilder erstellen, allerdings nur eingeschränkt und musste dafür ein anderes bekanntes Text-zu-Bild-Modell, DALL-E, nutzen.

Die Fähigkeit des Tools, Text in Zeichnungen umzuwandeln und „Bilder wie Photoshop zu kombinieren“, erregte schnell Aufmerksamkeit. Viele bezeichneten die Bildqualität als „erstaunlich“ und die meisten bewerteten es als „überlegen“ im Vergleich zu gängigen KI-Modellen auf dem Markt.

ChatGPT erstellt realistische Kaffeetassen mit nur einem einfachen Befehl

Laut Gabriel Goh, Forschungsteamleiter bei OpenAI, liegt die signifikante Verbesserung der Bildgenerierungsfunktionen von ChatGPT mithilfe des GPT-4o-Modells in der „Bindung“ – ein Begriff für das Ausmaß, in dem der KI-Bildgenerator die Verknüpfung zwischen Attributen und Objekten aufrechterhält. Herr Goh behauptete, dass GPT-4o Attribute für 15 bis 20 verschiedene Objekte ohne Verwechslungen präzise verknüpfen kann, was die Genauigkeit und Zuverlässigkeit der generierten Inhalte erheblich verbessert.

Images in ChatGPT zeichnet sich nicht nur durch seine herausragende Fähigkeit zur Bilderzeugung aus, sondern behebt auch die fatale Schwäche anderer KI-Tools zur Bildgenerierung: die Anzeige von Schrift und Text im Bild. Tatsächlich werden viele Bilder mit Text präzise dargestellt, wodurch es schwieriger wird, zwischen Fälschung und Echtheit zu unterscheiden.

Der Nachteil dieses Tools ist die lange Zeit, die zum Generieren von Bildern benötigt wird. Dies wird jedoch als angemessen erachtet, da die Verzögerung dadurch entsteht, dass qualitativ hochwertige Bilder, genaue Details und die Übereinstimmung mit der Benutzerbeschreibung immer Geduld erfordern. Das Forschungsteam sagte, dass das Verzögerungsproblem in Zukunft behoben werden soll.

Viele Bedenken hinsichtlich der Möglichkeit, Fotos zu kombinieren

Neben dem Spaßfaktor, den ChatGPT und OpenAI den Nutzern bieten, rücken auch die Themen Informationssicherheit, Datenschutz und Missbrauchsrisiko wieder einmal in den Vordergrund. „In naher Zukunft werden die Bilder, die Sie online sehen, nicht unbedingt echt sein“, äußerte ein Facebook-Nutzer in Vietnam seine Besorgnis, als er ChatGPT aufforderte, völlig unwirkliche Bilder zu erstellen, die aber so echt wie Fotos aussehen, beispielsweise ein Foto des Schauspielers und ehemaligen Wrestlers Dwayne Johnson (The Rock), der für eine Kaugummimarke wirbt, oder ein Bild einer dreifarbigen Katze, die auf dem Herd sitzt und genauso aussieht wie auf einem Foto.

Mit den bereitgestellten detaillierten Befehlen können Benutzer überraschende Ergebnisse erzielen, ohne über umfassende Kenntnisse in der Verwendung herkömmlicher Fotobearbeitungstools verfügen zu müssen.

Viele Nutzer haben sogar die Stripping-Funktion des neuen Tools ausprobiert. TN ( Hanoi ) sagte, er habe ChatGPT anhand eines Modelfotos aus dem Internet gebeten, sich wie gewünscht umzuziehen, und fast alle Befehle seien mit hoher Genauigkeit ausgeführt worden. „Es gab jedoch dennoch einige Ablehnungen, hauptsächlich aufgrund von Verstößen gegen die Systemrichtlinien zur Erstellung urheberrechtlich geschützter Bilder oder übermäßig sexy Inhalten“, teilte TN mit.

In Thanh Niens Tests weigerte sich ChatGPT, Bilder zu erstellen, die mit berühmten oder urheberrechtlich geschützten Charakteren aus der realen Welt oder aus Filmen und Geschichten in Verbindung stehen. „Ich kann das gewünschte Bild nicht erstellen, da das von Ihnen gesendete Referenzbild eindeutig die Figur Doctor Strange zeigt – eine urheberrechtlich geschützte Marvel-Figur, und dies verstößt gegen die aktuellen Inhaltsrichtlinien“, antwortete das System auf die Aufforderung, ein Bild von Doctor Strange zu erstellen, der in Vietnam sitzt und Eistee trinkt.

Jackie Shannon, Leiterin für multimodale Produkte bei ChatGPT, bestätigte, dass Bilder in ChatGPT einen starken Schutz vor Deepfake, pornografischen oder betrügerischen Inhalten bieten. Die generierten Bilder integrieren insbesondere C2PA-Standardmetadaten, um sie als KI-Produkte zu kennzeichnen, benötigen aber separate Tools zur Überprüfung.

Dennoch gibt es immer noch viele Menschen, die erfolgreich das Gesetz umgehen und Bilder berühmter Persönlichkeiten zu Unterhaltungszwecken einsetzen. Beispiele hierfür sind das Bild von CEO Tim Cook, der ein Samsung-Telefon statt eines iPhones hält, das Bild von Schauspieler Robert Downey Jr., der auf einem Gemüsebonbon kaut, oder das Bild von Cristiano Ronaldo, der in einer kleinen Gasse in Vietnam vor vielen Menschen mit Lionel Messi um einen Ball kämpft …

Quelle: https://thanhnien.vn/lo-ngai-gia-mao-voi-kha-nang-tao-anh-nhu-that-cua-chatgpt-185250327005110274.htm