Chef lockert, Mitarbeiter geben vertrauliche Daten ruhig an KI weiter

(Dan Tri) – Wenn KI in jeden Winkel der Arbeit eindringt, müssen sich Unternehmen auch einer „Unterströmung“ stellen, die den Datenschutz still und leise hinwegfegt: der sogenannten „Schatten-KI“.

Der Einsatz künstlicher Intelligenz (KI) in der Arbeitswelt ist zu einem unvermeidlichen Trend geworden, der zur Verbesserung der Effizienz und zur Zeitersparnis beiträgt.

Hinter diesem Komfort verbergen sich jedoch potenzielle Risiken für die Datensicherheit, insbesondere das Phänomen der „Schatten-KI“ – wenn Mitarbeiter KI-Tools unvorsichtig und unkontrolliert verwenden und versehentlich vertrauliche Unternehmensdaten auf öffentlichen Plattformen veröffentlichen.

Abhängigkeit und anfängliche Bedenken

Thanh Huyen (21 Jahre), Content-Marketing-Mitarbeiterin bei einem Kosmetik- und Functional-Food-Unternehmen, teilte mit, dass sie sich bei ihrer Arbeit zu 90 % auf KI verlässt, von der Planung über die Erstellung von Inhalten bis hin zur Gestaltung von Bildern und Videos .

Als sie jedoch zufällig auf einen Artikel stieß, der der Idee ähnelte, nach der sie ChatGPT gefragt hatte, begann Huyen sich Sorgen über die Fähigkeit der KI zu machen, eingegebene Informationen zu speichern und weiterzugeben.

Die Anwendung von KI in der Arbeitswelt ist heutzutage in vielen Branchen fast schon zum Standard geworden (Foto: Bao Ngoc).

Auch wenn Huyens Geschichte ein Zufall sein mag, ist es eine unbestreitbare Tatsache, dass die Bereitstellung von Informationen für die KI bedeutet, dass diese Tools Daten sammeln und speichern dürfen, um das Modell zu trainieren.

Das Problem wird ernst, wenn die KI-Plattform gehackt oder schlecht gesichert wird, was zu Informationslecks und negativen Folgen führt.

„Schatten-KI“ – Eine potenzielle Gefahr

HM (20 Jahre alt), ein Kundendienstspezialist, stellt der KI regelmäßig eine Liste mit Kundeninformationen (vollständiger Name, Geburtsdatum, Telefonnummer, Kaufhistorie) zur Analyse zur Verfügung, wodurch Zeit gespart und die Leistung verbessert wird.

M. ist der Ansicht, dass dies kein potenzielles Risiko darstellt, da das Unternehmen klein ist und die Daten nicht weitergegeben werden. Der Fall von M. ist jedoch typisch für „Schatten-KI“ – den Einsatz von KI durch Mitarbeiter ohne Genehmigung oder Aufsicht der IT- oder Cybersicherheitsabteilung.

Unter dem Phänomen „Schatten-KI“ versteht man den Einsatz von KI durch Mitarbeiter in Unternehmen ohne jegliche Kontrolle oder Steuerung (Abbildung: CV).

Ein Cisco-Bericht ergab, dass 62 % der Unternehmen in Vietnam nicht sicher sind, ob sie den unregulierten Einsatz von KI durch ihre Mitarbeiter erkennen können. Eine britische Umfrage ergab außerdem, dass 75 % der Cybersicherheitsmanager über Insider-Bedrohungen wie Schatten-KI besorgt sind.

Dies zeigt, dass Schatten-KI zu einer weit verbreiteten Bedrohung wird, insbesondere da viele Unternehmen keine klaren Richtlinien zur KI-Nutzung haben und den Mitarbeitern das Bewusstsein für Datensicherheit fehlt.

Akzeptieren Sie Kompromisse, um nicht abgehängt zu werden

Obwohl Thanh Huyen sich der Risiken bewusst ist, setzt sie weiterhin auf KI. Sie ist überzeugt, dass die unmittelbaren Vorteile der KI zu groß sind und sie ihr hilft, täglich Dutzende von Artikeln und Ideen zu produzieren.

Aufgrund der Bequemlichkeit, Geschwindigkeit und Möglichkeit zur Leistungssteigerung ist Huyen bereit, der KI sensible und vertrauliche Informationen zur Verfügung zu stellen, sogar die persönlichen Daten ihrer Vorgesetzten.

Trotz der potenziellen Risiken eines unkontrollierten KI-Einsatzes akzeptieren viele Mitarbeiter den Kompromiss für unmittelbare Vorteile (Abbildung: Lebenslauf).

Auch Trung Hieu (20 Jahre), ein Mitarbeiter im Content-Marketing, stellt dem KI-Chatbot regelmäßig interne Dokumente und Geschäftsinformationen zur Verfügung.

Hieu bemerkte eine deutliche Produktivitätssteigerung, die einen Wettbewerbsvorteil darstellte, und ist der Ansicht, dass dies die Geschäftstätigkeit des Unternehmens nicht allzu sehr beeinträchtigt.

Diese Fälle zeigen, dass sich Schatten-KI aufgrund fehlender klarer Richtlinien seitens der Unternehmen und unzureichendem Bewusstsein der Mitarbeiter hinsichtlich der Risiken in Bezug auf Sicherheit, Qualität und Abhängigkeiten ausbreitet.

Eine Reihe von Risiken, wenn man der KI zu sehr vertraut

Herr Nguyen Viet Hung, CEO eines Unternehmens zur Entwicklung von KI-Anwendungssoftware, erklärt die Popularität von Schatten-KI mit drei Faktoren: KI hilft dabei, schneller und effizienter zu arbeiten; es entwickelt sich schnell die Gewohnheit, sich auf KI zu verlassen; und den Unternehmen mangelt es an Warnungen und Schulungen zu Risiken.

Herr Nguyen Viet Hung, CEO eines Unternehmens zur Entwicklung von KI-Anwendungssoftware (Foto: Cong Khanh).

Experten warnen, dass Shadow AI bei der Nutzung kostenloser KI-Tools zu Datenlecks (Kundendaten und interne Daten) führen kann.

Darüber hinaus wird die Qualität der von KI generierten Inhalte nicht überprüft, was leicht zu Verzerrungen führen und Geschäftsentscheidungen beeinflussen kann.

Noch schwerwiegender ist, dass der unkontrollierte Einsatz von KI Sicherheitslücken schaffen kann, die es den IT-Systemen erschweren, die Situation zu überwachen und umgehend darauf zu reagieren. Zudem ist es schwierig, bei Vorfällen die Verantwortung zu bestimmen.

Dunkle Bereiche sind schwer zu kontrollieren.

Die Überwachung und Verwaltung von Mitarbeitern mithilfe von KI ist ein langwieriger und koordinierter Prozess. Experten zufolge stellt der Zugriff von Mitarbeitern auf interne Daten ein großes Hindernis dar, um zu verhindern, dass sie private Daten über persönliche KI-Tools weitergeben.

Darüber hinaus sind KI-Tools mittlerweile leicht zugänglich, sodass sie für die IT schwer zu erkennen oder zu verwalten sind.

Der einfache Zugang zu KI-Tools ist eine der Barrieren, die es schwieriger machen, die Informationen zu kontrollieren, die Mitarbeiter auf KI-Plattformen stellen (Abbildung: CV).

Um diesem Problem zu begegnen, schlug der Experte Nguyen Viet Hung vor, dass Unternehmen ihre Mitarbeiter stärker im Hinblick auf das Risikobewusstsein beim Einsatz von KI schulen und ein tieferes Verständnis für „Schatten-KI“ entwickeln sollten.

Gleichzeitig sollten Sie umgehend gesetzliche Regelungen und interne Richtlinien erlassen. Eine weitere wichtige Lösung besteht darin, die Sicherheitsfunktionen im Unternehmen zu stärken, einschließlich Verhaltensüberwachung, Datenzugriffskontrolle und sorgfältiger Autorisierung jedes einzelnen Mitarbeiters.

Derzeit verfügen viele Unternehmen noch nicht über einen klaren Prozess für den Einsatz von KI und fördern deren Nutzung lediglich zur Steigerung der Produktivität. Um Schatten-KI entgegenzuwirken, haben viele große Unternehmen begonnen, interne KI-Plattformen einzusetzen oder von ihren Mitarbeitern die Verwendung genehmigter Tools mit klaren Informationssicherheitsrichtlinien zu verlangen.

Quelle: https://dantri.com.vn/cong-nghe/sep-buong-long-nhan-vien-than-nhien-cap-du-lieu-mat-cho-ai-20250806090132034.htm