AI는 가능한 한 빨리, 그러나 안전하고 인도적으로

DNVN - 2025년 9월 15일 "인공지능(AI)의 무한한 힘과 예측 불가능한 과제 - 영향과 정책 대응" 워크숍에서 대표단은 베트남의 "AI화" 과정을 가속화하는 동시에 이 개발 과정에서 안전과 인간성이 보장되어야 한다는 데 동의했습니다.

이 워크숍은 호치민 국립정치아카데미, 공안부 , 국방부, 과학기술부가 공동으로 주최했습니다. 워크숍에는 정치국 위원이자 호치민 국립정치아카데미 원장이며 중앙이론위원회 위원장인 응우옌 쑤언 탕 교수와 정치국 위원이자 공안부 장관인 르엉 땀 꽝 장군 등 고위 간부들이 참석했습니다.

베트남의 AI 개발 - 막대한 잠재력, 많은 위험

정치국 위원이자 호찌민 국립정치아카데미 원장, 중앙이론위원회 위원장인 응우옌 쑤언 탕 교수는 AI의 "무한한 힘"을 설명하며, "메타데이터 시스템을 통해 지속적으로 학습하고 개선하여 AI가 각 상황에 맞는 세부적인 프로그래밍 없이도 점점 더 지능적이고 정확해질 수 있도록 돕는" 능력에서 그 힘을 확인할 수 있다고 말했습니다. AI는 "인간을 훨씬 뛰어넘는 속도와 규모로 데이터를 처리하고 분석"할 수 있으며, "의료 진단 및 치료, 스마트 교육, 자동화된 교통, 정밀 농업, 디지털 금융, 도시 및 환경 관리부터 국방 및 보안에 이르기까지 다학제적으로 응용될 수 있습니다." 응우옌 쑤언 탕 교수는 "AI는 디지털 시대의 새로운 생산력이 되고 있습니다."라고 말했습니다.

정치국 위원, 호치민 정치 아카데미 이사, 중앙이론위원회 위원장인 응우옌 쑤언 탕 교수가 워크숍에서 연설했습니다.

옥스퍼드 인사이트(Oxford Insights)가 발표한 정부 인공지능 준비 지수(Government Artificial Intelligence Readiness Index) 보고서에 따르면, 베트남의 순위는 최근 몇 년간 크게 향상되었습니다. 2024년 베트남은 188개 국가 및 지역 중 51위를 차지했으며, 동아시아에서는 아세안(ASEAN) 10개국 중 각각 9위와 5위를 차지했습니다. 응우옌 쑤언 탕(Nguyen Xuan Thang) 교수는 "최근 몇 년간 베트남은 다양한 수준에서 AI 교육에 집중하고, AI에 대한 심층적인 교육 및 연구 프로그램을 구축하여 국내 전문가팀을 구성하는 데 기여해 왔습니다. 정부는 또한 AI 혁신 생태계를 촉진하고, 기업들이 생산, 무역, 의료, 교육, 교통, 금융 분야에서 이 기술의 연구 및 응용에 투자하도록 장려하고 있으며, 여러 AI 연구 센터와 연구소를 설립했습니다."라고 밝혔습니다.

정치국 위원이자 공안부 장관인 루옹 탐 꽝 장군에 따르면, 베트남의 AI 개발 잠재력은 "막대하며, 광범위하게 적용된다면 2030년에 약 793억 달러, 베트남 GDP의 12%에 해당할 것으로 예측됩니다."

정치국 위원이자 공안부 장관인 루옹 탐 꽝 장군이 워크숍에서 연설했습니다.

베트남의 AI 개발 기회에 대해 응우옌 마잉 훙 과학기술부 장관은 다음과 같이 말했습니다. "AI는 국가의 지적 인프라가 되어야 합니다. 국민에게 봉사하고, 지속 가능한 발전을 이루며, 국가 경쟁력을 강화해야 합니다. 1억 명의 젊고 역동적이며 기술에 정통한 베트남은 자국과 전 세계를 위해 AI 제품을 빠르게 사용하고 개발할 수 있는 조건을 갖추고 있습니다." 그는 AI가 "베트남이 세계 강대국과 동등한 고소득을 가진 선진국으로 도약할 수 있는 좋은 기회"라고 강조했습니다.

AI가 제기하는 보안 및 윤리적 과제

AI는 잠재력 외에도 많은 과제를 안고 있습니다. 루옹 땀 꽝 장군은 "AI는 법적 공백, 윤리적 위험, 사이버 범죄를 위한 기술 오용, 정보전, 데이터 프라이버시 침해, 특히 국가 방위 및 안보에 미치는 영향 위험 측면에서 전례 없는 과제를 안고 있습니다."라고 경고했습니다.

응우옌 쑤언 탕 교수는 또한 "자기 학습 및 자기 적응형 AI 시스템에 대한 통제력을 상실할 가능성"을 포함한 "심각하고 예측 불가능한 위험"을 지적했습니다. AI는 "많은 기존 직업이 대체됨에 따라 노동 시장에 부정적인 영향을 미칠 수 있으며", 훈련 데이터가 편향될 경우 "사회적 편견을 증폭시킬 수 있습니다." 또한 "사생활 침해"와 AI가 "온라인 사기, 가짜 뉴스 유포, 음성 및 이미지 조작(딥페이크)과 같은 위험한 활동에 악용될" 위험 또한 매우 우려스럽습니다. " 우리는 인간의 개입 없이 자동으로 목표물을 공격하고 파괴할 수 있는 자율 무기 시스템의 개발 및 배치가 가장 큰 위험 중 하나라고 생각하기 시작했습니다 . 또한, AI는 정보 시스템, 중요 인프라에 침투하여 파괴하거나 데이터 와 국가 기밀을 훔치기 위한 정교한 사이버 공격을 감행하는 데 악용될 수 있습니다. 사이버 공간에서 AI는 가짜 선전 캠페인을 조장하고, 정보와 여론을 조작하고, 내부 불안정을 조장하고, 대중의 신뢰를 훼손할 수도 있습니다."라고 Thang 교수는 말했습니다.

응웬 쑤언 탕 교수에 따르면, 그러한 위험에 직면한 베트남은 여전히 ​​"AI 전문가 부족", "AI 연구 개발을 위한 불완전한 인프라", "이 기술을 관리할 수 있는 명확하고 동시적인 법적 프레임워크 부족" 등 많은 한계를 안고 있습니다.

AI가 일으킬 수 있는 문제는 "원자폭탄보다 더 클 수도 있다"고 비교하면서, 응우옌 마잉 훙 장관은 AI가 "윤리, 고용, 사회적 신뢰에 관해 많은 문제를 제기한다"고 인정했습니다.

윤리적이고 인도적인 방식으로 AI를 활용하다

기회를 포착하고 난관을 극복하기 위해 응우옌 만 훙 장관은 베트남이 "가능한 한 빨리 AI를 도입"하고 AI를 대중화하여 "모든 베트남 국민이 디지털 비서를 보유하게 하고, 인구는 증가하지 않더라도 사회적 지능은 최소 두 배로 향상될 것"이라고 단언했습니다. 그러나 이러한 과정은 확고한 윤리적, 인도적 원칙에 따라 이루어져야 합니다.

과학기술부 장관 응우옌 마잉 훙.

응우옌 만 훙 장관은 베트남이 "AI를 신속하고, 안전하고, 인도적으로 개발해야 한다"고 강조했습니다. 그는 핵심 철학이 "AI는 인간을 위한 것이지, 인간을 대체하는 것이 아니라 인간을 위해 봉사하는 것이며, AI는 인간의 조력자"라고 강조했습니다. "인간은 궁극적인 의사 결정자이며, AI가 인간의 사고, 가치, 책임을 대체하는 것이 아니라 지원하도록 해야 합니다."라고 응우옌 만 훙 장관은 말했습니다.

루옹 땀 꽝 장군 또한 "인도적이고 안전하며 인도적인 생태계를 구축해야 한다. AI는 국민을 위해 봉사하고, 국민을 보호하며, 국민을 위해 발전해야 한다"는 의견에 동의했습니다. 한편, 응우옌 쑤언 탕 교수는 "AI는 책임감, 윤리, 그리고 명확한 인본주의적 지향 없이는 지속 가능하게 발전할 수 없습니다. 기술은 도구일 뿐이며, 인간은 목표이자 결정적인 요소입니다."라고 덧붙였습니다. 그는 "AI의 잠재력을 최대한 활용하고 최대한 장려하며, 국가의 장기적 이익에 따라 안전하고 지속 가능한 방식으로 AI 기술을 개발하는 과정에서 발생할 수 있는 잠재적 위험을 통제하고 최소화해야 한다"고 촉구했습니다. 또한 "국민의 권리와 국가 안보를 보호해야 한다"고 강조했습니다.

이러한 비전을 실현하기 위해 응우옌 만 훙 장관은 올해 말까지 국가 AI 전략을 업데이트하고 AI 법을 제정할 것이라고 밝혔습니다. 이는 위험 기반 관리, 투명성 및 책임성, 사람을 중심에 두는 것, 국내 AI 개발 및 AI 자율성 장려, AI를 빠르고 지속 가능한 성장을 위한 원동력으로 활용하는 것, 데이터, 인프라, AI 기술을 디지털 주권의 세 가지 전략적 기둥으로 삼아 디지털 주권을 보호하는 것입니다.

장관은 또한 "베트남 AI 개발 경로"를 "그리고(and)"라는 단어로 소개하며 "글로벌과 로컬", "협력과 자율", "기술과 응용", "창의성과 통제" 등 여러 개념의 조화로운 결합을 보여주었습니다. 마지막으로, 응우옌 만 훙 장관은 베트남 AI 선언문을 "인도주의 - 안전 - 자율성 - 협력 - 포용성과 지속가능성"으로 재확인했습니다.

이번 컨퍼런스에서는 전문가, 관리자, 그리고 기업들이 참여하는 인공지능 관련 두 개의 주제별 패널 토론이 진행되었습니다. "AI: 힘, 위험, 그리고 통제"라는 제목의 첫 번째 세션에서는 AI의 긍정적 측면과 부정적 측면을 분석하고 윤리, 안전, 보안, 그리고 사회적 영향 측면에서 위험을 통제할 수 있는 방안을 모색하는 데 중점을 두었습니다.

두 번째 세션은 "국가 AI 개발 전략: 비전에서 실행으로"라는 주제로 진행되었으며, AI를 베트남의 사회경제적 발전의 기둥으로 만들기 위한 전략과 정책을 구현하기 위한 로드맵을 논의했습니다.

히엔 타오

출처: https://doanhnghiepvn.vn/cong-nghe/ai-hoa-nhanh-nhat-co-the-nhung-phai-an-toan-va-nhan-van/20250915094526313