기술이 윤리적 경계를 넘지 않도록 방지

인공지능(AI)은 급속한 발전 속도로 의료, 교육 , 비즈니스부터 일상생활에 이르기까지 다양한 분야에서 "혁명"을 일으키고 있습니다. 그러나 이 기술의 부정적인 측면은 사이버 공간에서 정보의 관리 및 통제에 심각한 과제를 제기합니다.

AI가 만들어낸 가짜 뉴스로 넘쳐난다

AI가 생성한 가짜 뉴스는 주로 조회수, 좋아요를 유도하고, 온라인 판매를 위한 상호작용을 늘리거나 플랫폼에서 수익을 창출하기 위해 소셜 미디어 플랫폼에 퍼집니다.

가짜 뉴스를 만드는 사람들은 종종 대중의 관심을 끄는 최신 이슈를 "팔로우"합니다. 예를 들어, 9월 17일 꽝찌성 라오바오사 탄롱 시장에서 발생한 대형 교통사고로 12명이 다치거나 사망한 후, 소셜 미디어에는 수많은 가슴 아픈 사진들이 게시되어 많은 시청자들의 눈물을 자아냈습니다. 라오 바오 사 경찰은 이러한 사진들이 AI에 의해 생성되었다고 판단하고, 오해를 불러일으키는 가짜 이미지 유포 행위에 대해 경고했습니다. 이러한 행위는 허위 정보의 확산을 초래할 뿐만 아니라 수사에도 영향을 미칩니다.

마찬가지로, 7월 19일 꽝닌성 하롱베이에서 전복된관광선 블루베이 58호 사고로 수십 명이 사망한 사건에 대한 대중의 관심을 틈타, 많은 소셜 미디어 계정들이 피해자들의 감동적인 사진과 이야기를 게시했습니다. 그러나 이러한 콘텐츠 중 상당수는 AI를 활용하여 소셜 미디어 사용자들의 감정을 자극하고 상호작용을 유도하기 위해 제작된 가짜 콘텐츠였습니다. 특히, 과장된 동정심을 유발하는 내용이 담긴 가짜 이미지가 널리 퍼지면서 피해자 가족들에게 더 큰 정신적 충격을 안겨줄 수 있습니다.

AI 기술이 날로 발전함에 따라, 간단한 명령만으로 사용자의 의도에 맞는 매력적인 콘텐츠의 영상을 몇 분 만에 제작할 수 있습니다. 특히 KlingAI, Veo 3, Sora와 같은 차세대 AI 플랫폼은 베트남을 비롯한 전 세계 사용자들에게 큰 인기를 얻고 있습니다.

또한, 딥러닝과 가짜의 결합인 딥페이크 기술은 가짜로 판별하기 매우 어려운 사실적인 이미지, 사운드 또는 영상을 만드는 데 사용될 수 있어 전 세계적으로 큰 우려를 불러일으켰습니다. 그 결과, 베트남은 물론 전 세계에서 이 기술과 관련된 일련의 사기 사건이 발생했습니다.

국가사이버보안협회 상임부회장인 응우옌 민 찐 중장은 불법적인 목적으로 AI를 악용하는 추세가 있다고 지적했습니다. 특히, 사이버 범죄자들은 AI 서비스(AI 도구 및 애플리케이션 제공 서비스, PV)를 악용하여 악성 코드, 가짜 음성, 얼굴, 텍스트 등을 생성하여 사기를 저지르고, 네트워크를 공격하고, 데이터 시스템에 침투하고, 심지어 보안을 불안정하게 만들고, 조직, 기업 및 리더의 평판을 훼손하는 데 악용하고 있습니다.

사이버 피스 컴퍼니 리미티드(CyPeace Company Limited, CyPeace)의 기술 이사인 쩐 응옥 안(Tran Ngoc Anh) 씨에 따르면, AI 사용자가 직면한 위험 중 하나는 해당 도구가 생성한 허위 정보를 받을 수 있다는 것입니다. 또한, 기밀 정보, 개인 정보 등 여러 가지 문제가 발생할 수 있습니다.

기술이 윤리적 경계를 넘지 않도록 방지 - 사진 1.

기술이 윤리적 경계를 넘지 않도록 방지 - 사진 2.

가짜 이미지는 시청자의 "눈물을 끌어내기" 위해 인터넷에 유포되어 '좋아요'를 얻고 상호 작용을 증가시킵니다(스크린샷)

사용자 책임 증가

AI의 개발과 사용을 엄격하게 통제할 수 있는 기술적, 법적 조치가 마련되기 전에, 사용자들이 이 기술을 적극적으로 책임감 있게 사용해야 합니다.

사이버 보안 전문가이자 국가 사이버 보안 협회 기술부장인 부 응옥 손(Vu Ngoc Son)은 AI를 활용하고 활용하는 주체는 인간이므로 AI의 장단점은 인간과 밀접한 관련이 있다고 지적했습니다. 사용자가 자격을 갖추고 선한 목적으로 활용한다면 AI는 그 장점을 최대한 활용할 수 있습니다. 반대로 AI 사용자가 AI에 대한 이해가 부족하거나 불법적인 목적으로 악용한다면 심각한 결과를 초래할 수 있습니다. 사이버 보안 전문가는 "AI를 효과적으로 활용하려면 팀과 프로세스를 구축하는 데 집중해야 합니다. AI는 그것을 제대로 다룰 줄 아는 사람의 손에 맡겨질 때 비로소 그 가치를 발휘합니다."라고 말했습니다.

오늘날 기술 사기의 주요 도구인 딥페이크의 위험성에 따라, 재무부는 투자 및 사업에 관한 법률을 초안하는 과정에서 딥페이크 기술 사업을 조건부 사업 분야로 규제하여 기술 남용으로 인한 정보 교란, 사기 등을 방지해야 한다고 강조했습니다. 재무부에 따르면, 현재 딥페이크 기술 사업은 새로운 분야 중 하나로, 보안 및 질서에 복잡한 위험을 초래하지만 조건부 사업 분야로 규제되지는 않습니다.

하노이 변호사 협회의 쩐 안 투안 변호사는 AI를 허가 없이 사용하여 콘텐츠를 제작하는 경우, 특히 허위, 위조 또는 사기성 정보를 제작하는 경우 민법 규정을 위반할 수 있다고 경고했습니다. 따라서 위반자는 행정 제재 또는 손해 배상을 받게 되며, 심각한 결과가 발생할 경우 형사 처벌을 받을 수 있습니다. 투안 변호사는 "사용자는 AI에 접근하고 사용할 때 주의해야 하며, 조회수와 좋아요를 유도하기 위해 AI를 이용하는 것을 절대 피해야 합니다. 개인의 책임을 강화하고 AI를 사용하거나 온라인 환경에 참여할 때 관련 법률을 준수해야 합니다."라고 권고했습니다.

응우옌 민 찐 중장은 지속 가능한 AI 개발의 핵심 요소는 인적 자원이라고 강조했습니다. 연구원, 엔지니어, 사이버 보안 전문가부터 관리자와 사용자에 이르기까지 모두 지식, 기술, 윤리, 그리고 법적 의식을 완벽하게 갖춰야 합니다. 찐 중장에 따르면, 이 팀은 AI 시스템을 구축하고 운영하는 팀일 뿐만 아니라 사이버 공간에서 첨단 범죄를 예방, 탐지, 그리고 퇴치하는 핵심 인력이기도 합니다.

베트남, 인공지능법 제정한다

최근 AI 관련 국가 학술 대회에서 응우옌 마잉 훙 과학기술부 장관은 AI가 엄청난 기회를 제공하지만 윤리, 고용, 사회적 신뢰와 관련하여 많은 문제를 야기한다고 말했습니다. 따라서 AI는 신속하고 안전하며 인도적인 방식으로 개발되어야 합니다.

응우옌 만 훙 장관에 따르면, AI는 인간을 대체하는 것이 아니라 인간을 위해 봉사하고 인간의 조력자 역할을 합니다. AI는 강력한 도구이지만, 의사결정권은 인간에게 있습니다. 따라서 AI가 인간의 사고, 가치관, 책임을 대체하는 것이 아니라 지원하도록 해야 합니다. 응우옌 만 훙 장관은 "과학기술부는 국제 표준을 준수하면서도 베트남 실무에 부합하는 국가 AI 윤리 강령을 발표하고, 동시에 AI 법률과 AI 전략을 수립할 것"이라고 밝혔습니다.

출처: https://nld.com.vn/ngan-cong-nghe-vuot-ranh-gioi-dao-duc-196250923205638915.htm