AI: 혁신과 책임 중 무엇을 선택할까?

AI: Chọn đổi mới hay trách nhiệm? - Ảnh 1. — 스웨덴 대사관이 RMIT 베트남 대학교와 협력하여 9월 15일 호치민시에 위치한 Nobel Dialogue 2025 프로그램의 틀 안에서 개최한 노벨 전시회에 전시됨 - 사진: THANH HIEP

9월 15일 호치민시에 있는 RMIT 베트남 대학과 협력하여 스웨덴 대사관이 주최한 노벨 대화 2025에서 국제 기술 전문가들은 인공지능(AI) 혁신과 인류에 대한 책임 사이의 균형에 대한 다양한 관점을 제시했습니다.

이 프로그램에서 연설한 책임 있는 AI 분야의 버지니아 디그넘 교수(스웨덴 우메오 대학교)는 " 과학 의 영향에 대해 우려했던 알프레드 노벨처럼, AI 분야에서 일하는 우리도 스스로에게 '우리의 작업이 미치는 영향은 무엇인가? AI를 인류의 이익을 위해 좋은 일에 사용할 수 있을까?'라고 질문해야 합니다."라고 강조했습니다.

강력한 AI, 강력한 편향

디그넘 씨는 이 기술을 양면의 동전에 비유합니다. AI는 문제를 해결하는 동시에 새로운 문제를 만들어냅니다. AI는 전례 없는 역량을 제공하지만, 동시에 그것을 만들어낸 문명의 기반을 무너뜨릴 위험도 있습니다.

AI가 인간 데이터에 의존하는 특성상 많은 사람들이 생각하는 것처럼 AI는 결코 진정으로 "중립적"일 수 없습니다. 겉보기에 객관적인 AI 시스템 뒤에는 수백만 명의 작업자가 조용히 데이터를 수집, 처리, 그리고 입력하는 방식으로 작동합니다. AI는 새로운 데이터를 생성하는 것이 아니라, 인간이 생성한 기존 데이터를 반복하거나 때로는 과장할 뿐입니다.

"점점 더 강력해지는 알고리즘은 AI를 더욱 정확하고 빠르게 만들 뿐만 아니라, 기존의 편견을 증폭시켜 인간에게 더 큰 해를 끼칩니다."라고 디그넘 교수는 경고했습니다. 따라서 현대 사회의 가장 큰 과제는 AI를 억제하는 것이 아니라 AI를 책임감 있게 관리하는 것입니다. 그녀는 그 책임이 AI에게 있는 것이 아니라 사회, 정부 , 그리고 인간 자신에게 있다고 강조했습니다.

"우리는 혁신과 윤리적 책임 중 하나를 택할 수 없습니다. 모든 단계의 거버넌스는 과학 발전과 복지를 위한 디딤돌입니다."라고 그녀는 말했습니다.

아무도 뒤처지지 않습니다

디그넘 교수의 주장에 동의하며, RMIT 베트남 대학의 수석 강사인 압둘 로만 박사는 AI 경쟁의 현재 상태가 여전히 기술 중심적으로 접근하고 있으며 AI가 인간을 중심으로 돌아가야 한다는 생각을 잊고 있다고 지적했습니다.

이로 인해 많은 AI 개발자는 사용자의 구체적인 삶의 경험을 이해하는 것이 얼마나 중요한지 알지 못합니다.

로만 씨는 호치민시의 청각 장애인 공동체를 예로 들었는데, 수화의 한계로 인해 어휘력이 매우 부족합니다.

하지만 AI 명령어 설계는 어휘나 음성에 크게 의존하는 기술입니다. 이로 인해 특히 청각 장애인과 취약 계층은 기술 발전에서 눈에 띄지 않게 배제됩니다.

"포용적인 AI 거버넌스나 모두에게 이로운 혁신을 구현할 때, 소수자에 속하는 사람들의 데이터는 무시됩니다. 실제 경험은 AI 혁신에 반영되지 않습니다."라고 로만은 말했습니다.

로만 씨는 AI 개발의 현실을 고려했을 때 베트남은 여전히 특정 국내 상황에 더 잘 맞도록 AI 모델을 "현지화"해야 한다고 말했습니다.

베트남에는 하노이, 호치민시, 다낭과 같은 도시 지역뿐만 아니라 디지털 인프라가 미개발된 산악 지역도 있습니다. 이로 인해 디지털 기술 접근성에 격차가 발생합니다.

"이 문제를 해결하지 않으면 이미 소외된 계층은 AI로 인해 더욱 뒤처지게 될 것입니다. 사람들이 AI 사용법은 알지만 위험으로부터 자신을 보호하는 방법을 모른다면 문제는 더욱 심각해집니다. AI에 대한 공평한 접근을 가능하게 하고 사용자를 보호하는 툴킷을 제공하기 위한 연구를 진행할 수 있습니다. 이는 민간 부문, 정부, 학계가 힘을 합쳐야 할 영역입니다."라고 그는 제안했습니다.