전문가 조언: AI 합법화를 서두르지 마세요

10월 7일, 경제 법학대학(VNU-HCM)은 호치민시 법학신문과 협력하여 "AI와 법: 국제적 경험과 베트남에 대한 몇 가지 제안"이라는 주제로 학술 회의를 개최했습니다.

"단단한 프레임" 대신 유연성이 필요합니다.

워크숍에서 경제법학대학 경제법학부 부학장인 응오 후우 푸옥(Ngo Huu Phuoc) 부교수 박사는 인공지능(AI)이 법률 시스템에 미치는 영향, 전 세계 국가의 입법 경험, 베트남에 대한 정책 제안에 관한 논문을 발표했습니다.

Chuyên gia góp ý: Không vội luật hoá AI - Ảnh 1.

Chuyên gia góp ý: Không vội luật hoá AI - Ảnh 2.

경제·법학대학 경제법학부 부학장인 응오 후우 푸옥(Ngo Huu Phuoc) 부교수가 논문을 발표했습니다. 사진: 조직위원회

푸옥 씨에 따르면, 중국은 AI 거버넌스에 대한 탁월한 접근 방식을 가진 국가 중 하나입니다. 중국은 사이버보안법(2017), 데이터보안법(2021), 개인정보보호법(2021)과 같은 기본법과 전문 규정, 지역 규정, 그리고 "소프트 로(soft law)" 성격의 기술 표준을 결합하는 다층적 모델을 적용하고 있습니다. 이러한 접근 방식은 중국이 엄격한 규제를 시행하고 통제 범위 내에서 기술 테스트를 위한 여건을 조성하는 데 도움이 됩니다.

주요 장점은 속도와 유연성으로, 기술 관행에 따른 신속한 정책 조정을 가능하게 하는 동시에 강력한 AI 생태계 구축을 촉진한다는 것입니다. 그러나 이 모델은 개인정보 보호, 법적 중복, 그리고 딥 스테이트(Deep State)의 개입으로 인한 혁신 저해 위험 측면에서 한계를 드러냅니다.

응오 후우 푸옥 부교수는 국제적인 경험을 바탕으로 베트남이 현 단계에서는 AI에 대한 별도의 법률을 제정해서는 안 된다고 생각합니다. 그 이유는 국내 AI 생태계가 아직 합법화될 만큼 성숙하지 않았기 때문입니다. "경직된 법적 체계"는 혁신을 저해할 뿐만 아니라, 국가 관리 자원도 여전히 제한적입니다.

대신 그는 책임 있는 행동과 개발을 안내하는 AI 윤리 프레임워크(행동 강령)를 발행하고, 통제된 테스트를 허용하는 AI 샌드박스를 구축하고, 기존 법률을 개정 및 보완하여 AI 관련 규정을 기존 법률 시스템에 통합할 것을 제안했습니다.

전문가에 따르면, 이러한 방향은 베트남이 AI의 기회를 국가의 실제 상황에 맞춰 유연하고 안전하게 활용하는 데 도움이 될 것입니다.

AI가 병원 문을 두드릴 때

호치민시 의약대학교 병원 과학 교육과장인 레 민 코이 부교수에 따르면, 의학 분야의 AI는 경제학이나 커뮤니케이션 분야와 달리 여러 첨단 모델을 통해 발전해 왔습니다. 하지만 실제 적용은 아직 신중한 단계입니다. 레 민 코이 부교수는 "의사들은 AI가 '친구'인지 '적'인지 아직 고민하고 있습니다."라고 말했습니다.

레 민 코이 준교수에 따르면, 의료 분야에 AI를 도입하면 데이터 보안 및 개인정보 보호, 알고리즘과 윤리의 편견, 안전, 책임 및 투명성 문제 등 여러 가지 잠재적 위험이 발생할 수 있습니다.

가장 큰 위험 중 하나는 AI의 "환상"입니다. 널리 구축된 시스템에서 오류가 발생하면 그 결과는 수천 명의 환자에게 영향을 미칠 수 있습니다. 책임 문제 또한 까다롭습니다. AI가 진단이나 치료에 오류를 발생시킬 경우, 시스템을 사용하는 의사, 시스템 개발자, 유통업체, 병원, 규제 기관 중 누가 책임을 져야 할까요?

Chuyên gia góp ý: Không vội luật hoá AI - Ảnh 3. — 컨퍼런스 현장 - 사진: 조직위원회

또한, 의사들이 AI에 지나치게 의존할 경우, 사고력과 임상적 판단력을 상실하고 오류를 발견하고 수정하는 능력을 점차 잃게 될 수 있습니다. 반면, 인간의 감독은 여전히 필수적인 요소입니다. 또한, 보수적인 사고방식, 실직에 대한 두려움, 기술에 대한 이해 부족 또한 많은 의료진이 AI 도입을 주저하게 만드는 요인입니다.

법적 문제와 관련하여, 레 민 코이 부교수는 AI 개발 속도가 현재 규제 시스템의 규제 능력을 훨씬 넘어섰다고 지적했습니다. 기술은 너무 빠르게 발전하는 반면 규제는 너무 느려, 우리는 두 극단 사이의 "숨 막히는" 상황에 빠지고 있습니다. 규제를 강화하면 혁신을 저해하고, 규제를 완화하면 환자에게 위험을 초래할 것입니다. 또한, 베트남의 의료 데이터 인프라는 여전히 단편화되고 일관성이 없으며 품질도 고르지 않아 AI 모델을 훈련하고 테스트하는 데 어려움을 겪고 있습니다.

코이 씨는 AI가 의료 산업에 큰 기회일 뿐만 아니라 디지털 시대에 인간의 적응력, 개방성, 책임감을 시험하는 곳이기도 하다고 결론지었습니다.

출처: https://nld.com.vn/chuyen-gia-gop-y-khong-voi-luat-hoa-ai-196251007140039549.htm