Das israelische Cybersicherheitsunternehmen Zenity hat die erste „Zero Click“-Sicherheitslücke im ChatGPT-Dienst von OpenAI aufgedeckt. Bei dieser Art von Angriff müssen Benutzer keine Aktionen ausführen, wie z. B. das Klicken auf einen Link, das Öffnen einer Datei oder eine andere beabsichtigte Interaktion. Dennoch kann ein Angriff Zugriff auf Konten und die Weitergabe sensibler Daten ermöglichen.
Laut einem VNA-Reporter in Tel Aviv erklärte Mikhail Bergori, Mitbegründer und CTO von Zenity, direkt, dass ein Hacker lediglich die E-Mail-Adresse eines Benutzers benötigt, um Konversationen vollständig zu kontrollieren – einschließlich vergangener und zukünftiger Inhalte –, den Zweck der Konversation zu ändern und sogar ChatGPT so zu steuern, dass es gemäß den Wünschen des Hackers handelt.
In ihrer Präsentation zeigten die Forscher, dass ein kompromittierter ChatGPT zu einem „böswilligen Akteur“ werden könnte, der verdeckt gegen Benutzer vorgehen könnte. Hacker könnten den Chatbot dazu bringen, Benutzern den Download von vireninfizierter Software vorzuschlagen, irreführende Geschäftstipps zu geben oder auf Dateien zuzugreifen, die auf Google Drive gespeichert sind, sofern das Konto des Benutzers verbunden ist.
Der gesamte Vorgang erfolgte ohne Wissen des Benutzers. Die Sicherheitslücke wurde erst vollständig geschlossen, nachdem Zenity OpenAI benachrichtigt hatte.
Neben ChatGPT hat Zenity auch ähnliche Angriffe auf andere beliebte KI-Assistenzplattformen demonstriert. In Microsofts Copilot Studio entdeckten Forscher eine Möglichkeit, ganze CRM-Datenbanken zu leaken.
Bei Salesforce Einstein können Hacker gefälschte Serviceanfragen erstellen, um die gesamte Kundenkommunikation an E-Mail-Adressen umzuleiten, die sie kontrollieren.
Auch Google Gemini und Microsoft 365 Copilot wurden zu „feindlichen Akteuren“, die Phishing-Angriffe durchführten und vertrauliche Informationen über E-Mails und Kalenderereignisse weitergaben.
In einem anderen Beispiel wurde das Softwareentwicklungstool Cursor, wenn es in Jira MCP integriert war, auch dazu ausgenutzt, Entwickleranmeldeinformationen über gefälschte „Tickets“ zu stehlen.
Zenity sagte, einige Unternehmen, darunter OpenAI und Microsoft, hätten nach der Warnung schnell Patches veröffentlicht. Andere lehnten es jedoch ab, das Problem zu beheben, mit der Begründung, es handele sich bei dem Verhalten eher um ein „Designmerkmal“ als um eine Sicherheitslücke.
Die große Herausforderung besteht laut Mikhail Bergori darin, dass KI-Assistenten nicht nur einfache Aufgaben ausführen, sondern zu „digitalen Einheiten“ werden, die Benutzer repräsentieren – und Ordner öffnen, Dateien versenden und E-Mails abrufen können. Er warnt, dass dies ein „Paradies“ für Hacker sei, da es so viele Angriffspunkte gebe.
Ben Kaliger, Mitgründer und CEO von Zenity, betonte, die Untersuchungen des Unternehmens zeigten, dass die aktuellen Sicherheitsmethoden für die Arbeitsweise von KI-Assistenten nicht mehr geeignet seien. Er forderte Unternehmen auf, ihre Herangehensweise zu ändern und in spezialisierte Lösungen zu investieren, um die Aktivitäten dieser „Agenten“ kontrollieren und überwachen zu können.
Zenity wurde 2021 gegründet. Das Unternehmen beschäftigt derzeit weltweit rund 110 Mitarbeiter, davon 70 im Büro in Tel Aviv. Zu den Kunden von Zenity zählen zahlreiche Fortune 100- und sogar Fortune 5-Unternehmen./
Quelle: https://www.vietnamplus.vn/israel-canh-bao-tro-ly-ai-co-the-tro-thanh-tac-nhan-doc-hai-tan-cong-nguoi-dung-post1054883.vnp
Kommentar (0)