응우옌 만 훙 장관: AI가 만들어내는 문제는 원자폭탄보다 더 클 수 있다

AI - Ảnh 1. — Nguyen Manh Hung 과학기술부 장관이 워크숍에서 연설하고 있다 - 사진: NGUYEN BAO

과학 기술부 장관은 9월 15일 오전에 열린 과학 컨퍼런스에서 인공지능(AI)의 무한한 힘과 예측 불가능한 과제, 부정적 영향과 정책 대응에 대한 내용을 언급했습니다.

AI는 전례 없는 과제를 안고 있습니다

워크숍에서 발표자들은 AI의 양면적 특성, 경제 , 교육, 건강, 문화, 지속 가능한 개발, 방위 및 안보 거버넌스 등에 미치는 영향에 대한 종합적 평가를 지적했습니다.

공안부 장관인 루옹 탐 꽝 장군에 따르면, 제4차 산업혁명에서 인공지능(AI)은 핵심 기술 중 하나로 여겨지며, 앞으로 세계 질서에 변화를 가져올 수 있는 요소입니다.

AI는 경제 성장 촉진, 생산 최적화, 의료 개선, 교육 혁신, 사회적 거버넌스 역량 강화 등의 능력을 갖추고 있어 국가가 비용을 절감하고, 효율성을 높이고, 지식을 확장하는 데 도움이 되며, 디지털 시대에 국가적 입지를 확고히 하는 데 필요한 자원이자 힘이며 원동력입니다.

AI는 잠재력 외에도 법적 격차, 윤리적 위험, 사이버 범죄를 위한 기술 오용, 정보 전쟁, 데이터 개인 정보 침해, 특히 국가 방위와 안보에 미치는 영향 위험 측면에서 전례 없는 과제를 안고 있습니다.

Bộ trưởng Nguyễn Mạnh Hùng: Vấn đề của AI tạo ra có thể lớn hơn bom nguyên tử - Ảnh 2. — 공안부 장관인 루옹 탐 꽝 장군이 회의에서 연설하고 있다 - 사진: 응우옌 바오

호치민 국립 정치 아카데미의 이사인 응우옌 쑤언 탕 교수는 AI가 엄청난 잠재력을 가지고 있음에도 불구하고 심각하고 예측할 수 없는 많은 위험을 안고 있다고 말했습니다.

특히 우려되는 점은 자체 학습 및 자체 적응형 AI 시스템에 대한 통제력이 상실될 가능성이 있다는 점입니다. 특히 이러한 시스템이 인간의 이해와 감독을 넘어 발전함에 따라 더욱 그렇습니다.

Thang 씨에 따르면, AI는 많은 기존 직업을 대체하면서 노동 시장에 부정적인 영향을 미치고 있으며, 특히 비숙련 근로자나 디지털 기술이 없는 근로자의 경우 실업 위험이 커지고 있습니다.

특히, 훈련 데이터가 편향되어 있다면 AI는 사회적 편향을 재생산하고 증폭시켜 편향되고 불공정한 결정을 내리게 됩니다.

또한 AI는 온라인 사기, 가짜 뉴스, 가짜 음성 및 이미지(딥페이크) 유포, 대중의 혼란 유발, 보안 및 사회 질서 침해 등 위험한 활동에 악용될 수 있습니다. 또한 정교한 사이버 공격을 수행하여 정보 시스템 및 중요 인프라에 침투하여 파괴하거나 데이터 및 국가 기밀을 훔치는 데 악용될 수 있습니다.

"국가 간 AI 개발 경쟁은 전략적 불균형을 초래하고 군사적 긴장을 조장할 위험이 있습니다. 특히 방위와 안보 분야에서 AI 사용을 통제할 수 있는 국제적 법적 틀이 없는 상황에서 더욱 그렇습니다.

따라서 AI는 방위와 안보 역량을 강화하는 도구인 동시에 책임감 있고 투명하게 사용하지 않으면 세계 평화와 안보에 잠재적인 위험 요소가 될 수 있습니다."라고 Thang 씨는 말했습니다.

Bộ trưởng Nguyễn Mạnh Hùng: Vấn đề của AI tạo ra có thể lớn hơn bom nguyên tử - Ảnh 3. — 호치민 국립 정치 아카데미 소장인 응우옌 쑤언 탕 교수가 컨퍼런스에서 연설하고 있다 - 사진: 응우옌 바오

AI가 해결할 수 있는 AI 문제

회의에서 응우옌 마잉 훙 과학기술부 장관은 베트남이 2021년에 첫 번째 AI 전략을 발표했다고 밝혔습니다. 하지만 AI는 빠르게 변화하는 분야이며, 올해 말까지 국가 AI 전략과 AI법이 업데이트될 예정입니다.

응우옌 마잉 훙 장관에 따르면, 이는 단순히 법적 틀이 아니라 국가 비전의 선언이기도 합니다. 즉, AI는 국민에게 봉사하고 지속 가능하게 발전하며 국가 경쟁력을 강화하는 국가의 지적 인프라가 되어야 한다는 것입니다.

AI는 엄청난 기회를 열어주지만, 윤리, 고용, 사회적 신뢰에 대한 많은 문제를 야기합니다. 따라서 베트남은 빠르고 안전하며 인도적인 AI를 개발해야 합니다.

AI는 인간을 위한 것이지, 인간을 대체하는 것이 아니라 인간을 돕는 존재입니다. AI는 강력한 도구이지만, 결정권은 인간에게 있습니다. AI가 인간의 사고, 가치관, 책임을 대체하는 것이 아니라, 지원하도록 하세요.

응우옌 만 훙 장관은 다음과 같이 말했습니다. "AI의 힘은 핵에너지보다 클 수 있고, 따라서 AI가 야기하는 문제도 원자폭탄보다 클 수 있습니다. 하지만 AI와 AI가 야기하는 문제는 마치 음과 양, 동전의 양면처럼 쌍둥이처럼 공존하고 발전하기 위해 서로 의지하며 서로를 변화시킵니다.

AI 문제는 AI 자체로 해결할 수 있습니다. 예를 들어, AI 기술 자체로 AI 인력을 훈련하거나, AI 윤리 위반 사항도 AI 자체로 감지할 수 있습니다.

AI는 그로 인해 발생하는 문제와 함께 성장합니다. AI 관련 문제 없이는 AI 성숙도 없습니다. AI와 AI 관련 문제는 중요한 "그리고"입니다. AI와 그 문제는 항상 존재할 것이며, 우리는 이를 완전히 없앨 수는 없지만, 함께 공존하고 현명하게 관리해야 합니다.

국가 AI 윤리강령 발표 예정

응우옌 마잉 훙 장관에 따르면, 국제 기준에 부합하면서도 베트남 실무에 맞게 설계된 국가 AI 윤리 규정이 가까운 미래에 발표될 예정이며, AI 법률 및 AI 전략은 다음과 같은 핵심 관점에 따라 개발될 예정입니다.

첫째, 위험 수준에 따라 관리하세요.

둘째, 투명성과 책임성.

셋째, 사람을 중심에 두세요.

넷째, 국내 AI 발전과 AI 자율화를 장려합니다.

다섯째, AI를 빠르고 지속 가능한 성장의 원동력으로 삼으세요.

여섯째, 디지털 주권을 보호해야 합니다. 데이터, 인프라, 그리고 AI 기술은 디지털 주권의 3대 전략적 기둥입니다.

주제로 돌아가기

응우옌 바오