Expertenrat: Keine Eile bei der Legalisierung von KI

(NLDO) – Der Workshop erregte die Aufmerksamkeit von Forschern, Dozenten, Studenten und Experten aus dem Bereich Technologie und Recht.

Am 7. Oktober organisierte die Universität für Wirtschaft und Recht (VNU-HCM) in Abstimmung mit der Ho Chi Minh City Law Newspaper eine wissenschaftliche Konferenz zum Thema „KI und Recht: Internationale Erfahrungen und einige Vorschläge für Vietnam“.

Brauchen Sie Flexibilität statt „starren Rahmen“

In seiner Rede auf dem Workshop präsentierte Außerordentlicher Professor Dr. Ngo Huu Phuoc, stellvertretender Dekan der Fakultät für Wirtschaftsrecht der Universität für Wirtschaft und Recht, ein Papier über die Auswirkungen künstlicher Intelligenz (KI) auf das Rechtssystem, die Gesetzgebungserfahrungen verschiedener Länder weltweit und politische Vorschläge für Vietnam.

Außerordentlicher Professor Dr. Ngo Huu Phuoc, stellvertretender Dekan der Fakultät für Wirtschaftsrecht der Universität für Wirtschaft und Recht, stellte seinen Vortrag vor. Foto: Organisationskomitee

Laut Herrn Phuoc ist China eines der Länder mit einem bemerkenswerten Ansatz zur KI-Governance. Das Land wendet ein mehrschichtiges Modell an, das grundlegende Gesetze wie das Cybersicherheitsgesetz (2017), das Datenschutzgesetz (2021) und das Gesetz zum Schutz personenbezogener Daten (2021) mit speziellen Vorschriften, lokalen Regelungen und technischen Standards mit „Soft Law“-Charakter kombiniert. Dieser Ansatz ermöglicht es China, sowohl streng zu regieren als auch Bedingungen für Technologietests im Rahmen der Kontrolle zu schaffen.

Die Hauptvorteile liegen in Geschwindigkeit und Flexibilität, die eine schnelle Anpassung der Politik an technologische Gegebenheiten ermöglichen und gleichzeitig die Entwicklung eines starken KI-Ökosystems fördern. Dieses Modell birgt jedoch auch Einschränkungen hinsichtlich des Datenschutzes, rechtlicher Überschneidungen und der Gefahr, Innovationen durch tiefgreifende staatliche Eingriffe zu ersticken.

Aufgrund internationaler Erfahrungen ist Associate Professor Dr. Ngo Huu Phuoc der Ansicht, dass Vietnam zum gegenwärtigen Zeitpunkt noch kein eigenes KI-Gesetz erlassen sollte. Der Grund dafür sei, dass das heimische KI-Ökosystem noch nicht ausgereift genug für eine Legalisierung sei. Ein starrer Rechtsrahmen werde Innovationen behindern. Zudem seien die staatlichen Verwaltungsressourcen noch begrenzt.

Stattdessen schlug er vor, einen ethischen Rahmen (Verhaltenskodex) für KI herauszugeben, um verantwortungsvolles Verhalten und Entwicklung zu fördern, eine KI-Sandbox aufzubauen, um kontrollierte Tests zu ermöglichen, und bestehende Gesetze zu ändern und zu ergänzen, um KI-bezogene Vorschriften in das bestehende Rechtssystem zu integrieren.

Diese Ausrichtungen werden Vietnam laut Experten dabei helfen, die Chancen der KI flexibel, sicher und entsprechend den tatsächlichen Gegebenheiten des Landes zu nutzen.

Wenn KI an die Krankenhaustür klopft

Laut Dr. Le Minh Khoi, außerordentlicher Professor und Leiter der Abteilung für Wissenschaft und Ausbildung am Universitätsklinikum für Medizin und Pharmazie in Ho-Chi-Minh-Stadt, wurden in der Medizin im Vergleich zu Bereichen wie Wirtschaft oder Kommunikation bereits viele fortschrittliche Modelle für KI entwickelt. Die praktische Anwendung ist jedoch noch verhalten. „Ärzte erforschen noch immer, ob KI ein ‚Freund‘ oder ein ‚Feind‘ ist“, erklärte Dr. Le Minh Khoi.

Laut Associate Professor Dr. Le Minh Khoi birgt die Einführung von KI im medizinischen Bereich eine Reihe potenzieller Risiken, wie etwa Datensicherheit und Datenschutz, Voreingenommenheit bei Algorithmen und Ethik, Fragen der Sicherheit, Verantwortung und Transparenz …

Eines der größten Risiken ist die „Illusion“ der KI. Treten in einem weit verbreiteten System Fehler auf, könnten die Folgen Tausende von Patienten betreffen. Auch die Frage der Haftung ist heikel: Wenn KI Fehler bei Diagnose oder Behandlung verursacht, wer trägt dann die Verantwortung – der Arzt, der das System nutzt, der Systementwickler, der Händler, das Krankenhaus oder die Aufsichtsbehörde?

Konferenzszene - Foto: Organisationskomitee

Wenn sich Ärzte zu sehr auf KI verlassen, verlieren sie möglicherweise ihre Denk- und Urteilsfähigkeit sowie die Fähigkeit, Fehler zu erkennen und zu korrigieren. Die menschliche Überwachung bleibt dabei ein unverzichtbarer Faktor. Darüber hinaus zögern viele medizinische Fachkräfte aufgrund ihrer konservativen Mentalität, der Angst vor Arbeitsplatzverlust oder ihres mangelnden Technologieverständnisses, KI einzusetzen.

In Bezug auf rechtliche Herausforderungen bemerkte Associate Professor Dr. Le Minh Khoi, dass die Geschwindigkeit der KI-Entwicklung derzeit die Regulierungsmöglichkeiten des Regulierungssystems bei weitem übersteige. Die Technologie entwickelt sich zu schnell, während die Regulierung langsam sei. Dies führe dazu, dass wir in eine „erstickende“ Situation zwischen zwei Extremen geraten: Eine Verschärfung der Regulierung ersticke Innovationen, eine Lockerung hingegen berge Risiken für die Patienten. Darüber hinaus sei die medizinische Dateninfrastruktur in Vietnam noch immer fragmentiert, inkonsistent und von unterschiedlicher Qualität, was das Trainieren und Testen von KI-Modellen erschwere.

Herr Khoi kam zu dem Schluss, dass KI eine große Chance für die Medizinbranche darstellt, aber auch eine Bewährungsprobe für die menschliche Anpassungsfähigkeit, Aufgeschlossenheit und Verantwortung im digitalen Zeitalter darstellt.

Quelle: https://nld.com.vn/chuyen-gia-gop-y-khong-voi-luat-hoa-ai-196251007140039549.htm