Vervollständigung des Rechtsrahmens für KI

Im Bereich KI hat die Nationalversammlung das Gesetz über die Digitaltechnologieindustrie erlassen, das ein Kapitel zur Regulierung von KI enthält. Dies bildet die erste Rechtsgrundlage für die Entwicklung und Anwendung von KI. Diese Regelungen bilden jedoch noch keinen umfassenden Rechtsrahmen, der offen genug ist, um die Forschung, Entwicklung, Bereitstellung und Nutzung von KI sowie ein umfassendes KI-Ökosystem zu ermöglichen.

Darüber hinaus fehlt es an einem Mechanismus zur Klassifizierung und Kontrolle der Risiken von KI-Systemen, an einem Mechanismus zur Inspektion, Lizenzierung und Überwachung von KI-Systemen, insbesondere von Hochrisiko-KI-Systemen, und an Mechanismen und Richtlinien zur Entwicklung und Gewinnung hochqualifizierter KI-Mitarbeiter. Obwohl in der Resolution Nr. 57-NQ/TW klar festgelegt ist, dass Daten zum wichtigsten Produktionsmittel gemacht und die Datenwirtschaft und der Datenmarkt entwickelt werden müssen, ist die Erfassung, Verarbeitung, Weitergabe und Nutzung von Daten für das Training von KI-Modellen derzeit mit zahlreichen Schwierigkeiten verbunden. Die Verknüpfung und Weitergabe von Daten zwischen nationalen und Branchendatenbanken verläuft noch immer langsam und erfüllt nicht die Anforderungen für die Entwicklung groß angelegter KI-Systeme.

Es ist erwähnenswert, dass es keine rechtliche Haftungslücke gibt, wenn KI Schäden verursacht. Diese rechtliche Lücke ist eine der größten Herausforderungen im Umgang mit den Folgen von KI. Die Frage ist: Wenn ein KI-System Schäden verursacht, wie z. B. ein selbstfahrendes Auto, das einen Unfall verursacht, oder eine medizinische Diagnosesoftware, die falsche Ergebnisse liefert, wer haftet dann? Der Entwickler, der Hersteller, der Nutzer oder das KI-System selbst? Wenn es keine spezifischen Haftungsregelungen gibt, stellt dies ein enormes Risiko für Verbraucher und Unternehmen beim Einsatz von KI dar.

Doch damit nicht genug: Mit der „überlegenen“ Entwicklung der KI gibt es auch Bedenken hinsichtlich nicht-traditioneller Sicherheitsrisiken. Deepfake-Technologie wird missbraucht, um falsche Informationen zu verbreiten, Organisationen und Einzelpersonen zu diffamieren und Betrug zu begehen. Wird diese Situation nicht durch einen ausreichend strengen Rechtsrahmen mit ausreichend starken Sanktionen kontrolliert, führt dies zu sozialer Instabilität.

Um den Standpunkt von Partei und Staat umzusetzen, KI als Speerspitze und Durchbruch zur Verbesserung der nationalen Kapazitäten im digitalen Zeitalter zu betrachten, entwickelt die Regierung den Gesetzentwurf zur künstlichen Intelligenz mit einem einheitlichen Ansatz: Das Gesetz stellt den Menschen in den Mittelpunkt, mit dem obersten Grundsatz, dass KI geschaffen wird, um dem Menschen zu dienen, nicht um ihn zu ersetzen. Der Mensch kontrolliert KI bei wichtigen Entscheidungen; KI muss transparent, verantwortungsvoll und sicher sein. Das Gesetz zur künstlichen Intelligenz verwaltet KI-Systeme entsprechend dem Risikograd, fördert die inländische KI-Entwicklung und KI-Autonomie und betrachtet KI als treibende Kraft für schnelles und nachhaltiges Wachstum.

Um eine verbesserte Verwaltungseffizienz zu gewährleisten und die Rechte der Nutzer zu schützen, legt der Gesetzesentwurf die Verantwortung für die Verwaltung und Behandlung von KI-Vorfällen fest. Dementsprechend sind Organisationen und Einzelpersonen, die an der Entwicklung, Bereitstellung, Einführung und Nutzung von KI-Systemen beteiligt sind, dafür verantwortlich, die Sicherheit und Zuverlässigkeit während des Systembetriebs zu gewährleisten und Vorfälle, die Personen, Eigentum, Daten oder die soziale Ordnung schädigen können, proaktiv zu erkennen, zu verhindern und umgehend zu beheben.

Bei technischen Störungen, fehlerhaften Ergebnissen oder unerwartetem Verhalten des KI-Systems müssen Entwickler und Anbieter unverzüglich technische Maßnahmen ergreifen, um das potenziell schädliche System zu reparieren, auszusetzen oder zu sperren. Die zuständige staatliche Verwaltungsbehörde muss den Vorfall benachrichtigen und sich mit ihr abstimmen, um die Untersuchung und Bearbeitung des Vorfalls zu gewährleisten. Betreiber und Nutzer sind verpflichtet, den Vorfall zu protokollieren, den Anbieter unverzüglich zu benachrichtigen und sich mit den zuständigen Parteien im Behebungsprozess abzustimmen. Sie dürfen nicht eigenmächtig in das System eingreifen oder es ohne Genehmigung verändern. Darüber hinaus legt der Gesetzentwurf auch die Pflichten von Anbietern und Betreibern von KI-Systemen mit hohem Risiko fest.

Die frühzeitige Verkündung des Gesetzes zur künstlichen Intelligenz in Vietnam wird einen Durchbruch für die KI bedeuten, ein günstiges rechtliches Umfeld zur Förderung von Innovationen schaffen, die nationale Wettbewerbsfähigkeit steigern und die Position eines Landes mit der Fähigkeit zur technologischen Autonomie bekräftigen.

Quelle: https://daibieunhandan.vn/hoan-thien-khung-kho-phap-ly-cho-ai-10390839.html