첨단기술 시대의 안전

네덜란드 헤이그에 있는 유럽 경찰청(유로폴) 본부.

유로폴에 따르면, AI는 마약 밀매, 인신매매, 사이버 범죄, 신원 도용 등 여러 분야에서 범죄자들의 효율성을 "의도치 않게" 높이는 데 기여했습니다. 유로폴 자문위원인 기술 전문가 브루스 슈나이어는 "AI는 범죄자들을 그 어느 때보다 더 위험하게 만들고 있습니다. 기존의 신원 확인 방식은 더 이상 딥페이크를 막기에 효과적이지 않습니다."라고 인정했습니다.

"조직범죄는 점점 더 정교해지고 있으며, AI와 신기술의 영향으로 온라인상에서 더욱 가속화되고 있습니다. 이는 기술을 이용해 범죄를 저지르는 자와 기술을 이용해 범죄를 퇴치하는 자 사이의 경쟁입니다. 우리는 법 집행 기관이 앞서 나가도록 해야 합니다."라고 유로폴 사무총장 캐서린 드 볼레는 경고했습니다.

올해 2월 중순, 프랑스 파리에서 AI 액션 서밋(AI Action Summit)이 개최되었습니다. 이 행사는 AI 산업이 많은 변동을 겪고 있는 가운데, 특히 세계 시장에 중대한 영향을 미칠 것으로 예상되는 새로운 AI 모델의 등장을 앞두고 진행되었습니다. 에마뉘엘 마크롱 프랑스 대통령은 이 회의에서 오픈소스 AI 모델을 장려하고, 이 분야에서 기업들이 발전할 수 있는 여건을 조성하며, 기술 범죄를 효과적으로 예방하기 위한 협력을 희망한다고 밝혔습니다.

이번 컨퍼런스에는 프랑스 대통령 에마뉘엘 마크롱, 인도 총리 나렌드라 모디, 미국 부통령 JD 밴스 등 기술 산업의 많은 고위 리더와 기업가, 그리고 OpenAI CEO, 마이크로소프트 사장, 구글 CEO 등 실리콘 밸리의 리더들이 참석했습니다.

지리 기술 전문가인 닉 라이너스는 이 컨퍼런스가 AI를 활용할 때 첨단 범죄에 맞서 싸우는 데 있어 글로벌 경쟁의 재편과 협력을 볼 수 있는 기회가 될 수 있다고 말했습니다.

AI는 좋든 싫든 개발의 트렌드로 자리 잡았으며, 지금까지 어떤 나라도 경쟁에서 제외되지 않았습니다. 하지만 여전히 우려되는 부분들이 있습니다. 2025년 1월 말 스위스 다보스에서 개최된 세계 경제 포럼(WEF) 2025에서도 AI 개발에 초점을 맞춘 논의가 이목을 끌었습니다.

특히, 안토니오 구테흐스 유엔 사무총장은 인류에 대한 두 가지 주요 위협, 즉 기후 위기와 AI의 통제되지 않은 개발에 대해 강력한 경고를 발표했습니다. 구테흐스 사무총장은 각국에 기후 변화를 제한하고 최악의 영향을 예방하기 위한 긴급 조치를 취할 것을 촉구했습니다. 인공지능과 관련하여 구테흐스 사무총장은 AI가 삶에 많은 이점을 가져다주지만, 제대로 관리되지 않을 경우 심각한 위험을 초래할 수 있다고 강조했습니다. 그는 AI가 제대로 통제되지 않을 경우 기만의 도구로 악용되어 경제를 교란하고 제도에 대한 신뢰를 훼손할 수 있다고 경고했습니다. 또한 많은 사람들이 이 기술의 혜택을 받지 못하기 때문에 불평등을 심화시킬 수도 있다고 덧붙였습니다.

유엔 사무총장은 그 이후로 기후 위기부터 인공지능의 확산 관리까지 다양한 문제를 해결하기 위해 글로벌 협력을 촉구해 왔습니다.

한편, 전문가들은 AI로 인해 인류가 역사상 그 어떤 기술보다 더 큰 변화를 경험할 수 있을 것이라고 예측합니다. 샌프란시스코에 본사를 둔 스타트업 런웨이(미국)의 CEO인 츠치 첸 박사는 전기에서 인터넷에 이르기까지 이전의 기술 발전이 강력한 사회 변화를 촉발해 왔다고 말했습니다. 그러나 AI는 그보다 더 강력합니다. 첸 박사는 "AI로 인해 인류 사회는 역사상 그 어떤 기술 변화보다 더 큰 규모의 변화를 경험하게 될 것"이라고 말하면서도, "흥미진진한 변화이지만, '양날의 검'처럼 두려운 변화"라고 경고했습니다.

마이크로소프트의 핵심 임원인 재러드 스파타로 박사에 따르면, AI는 긍정적인 측면을 촉진하고 부정적인 측면을 제한할 수 있다면 "업무의 영혼"으로 여겨질 수 있습니다. 특히 첨단 기술 범죄자들이 업무 환경을 이용하고 지배하도록 내버려 두지 않는 것이 중요합니다.

AI 회사의 공동 창업자인 샤론 저우에게 이 기술은 "우리가 감당할 수 있는 것보다 더 빠르게 우리에게 다가올 수 있습니다." 따라서 앞서 나가는 것은 자연스러운 전략이며, 그렇지 않으면 십자포화에 휘말릴 위험이 있습니다. 저우 ...

OpenAI의 수석 과학자 일리아 수츠케버는 MIT Technology Review와의 인터뷰에서 안전이 "필수"라고 말하며, 악의적인 행위자가 AI를 오용할 경우 국제 질서 자체가 위협받을 수 있다고 시사했습니다.

안토니오 구테흐스 유엔 사무총장은 "모두가 안전할 때까지 아무도 안전하지 않다"라고 말한 적이 있습니다. AI가 폭발적으로 발전하는 현대 사회에서 이 말은 더욱 절실합니다. 첨단 범죄와의 싸움은 개인의 책임이 아니기 때문입니다.

“

디지털 시대, AI 폭발적인 성장과 함께 범죄 환경 또한 기술 발전에 따라 급변하고 있으며, 이는 전 세계 보안에 전례 없는 위협을 초래하고 있습니다. 사이버 보안 기업 팔로알토 네트웍스의 보고서에 따르면, 2024년 전 세계 랜섬웨어 공격 건수는 2023년 대비 47% 증가하여 300억 달러 이상의 피해를 입혔습니다. 공격자들은 더 이상 데이터만을 노리지 않고, 갈취를 위해 중요 시스템을 장악하고 있습니다. 이는 더 이상 단순한 재정적 문제를 넘어 국가 안보에 대한 위협으로 이어지고 있습니다. 딥페이크 통화는 최첨단 AI 기술을 활용하여 피해자의 음성이나 이미지를 위조하여 막대한 피해를 유발합니다. 유로폴의 보고서에 따르면, 딥페이크를 이용한 사기는 지난 2년간 300% 증가했습니다.

출처: https://daidoanket.vn/an-toan-trong-thoi-dai-cong-nghe-cao-10302564.html