인공지능, 미국 선거에 '위협'

AI 전문가와 기술에 정통한 정치 학자들은 2024년 미국 대선을 앞두고 ChatGPT와 같은 생성 AI 도구의 예측 불가능한 상태에 대해 경종을 울리고 있습니다.

"미국은 이에 대비하지 못했다"

폭스 뉴스는 5월 15일, 사이버 보안 회사 제로폭스(미국 미네소타주에 본사를 둔)의 AI 전문 부사장 AJ 내쉬의 말을 인용하며 미국인들이 생성적 AI에 대처할 준비가 되어 있지 않다고 경고했습니다. 내쉬 부사장에 따르면, 생성적 AI는 선거 캠페인에 활용할 이메일, 메시지, 비디오 클립의 내용을 빠르게 작성할 수 있을 뿐만 아니라, 위험한 도구로 변질될 가능성도 있습니다.

정부는 AI 도구를 규제할 방법을 찾기 위해 경쟁합니다.

"생성 AI는 오디오 및 비디오 콘텐츠 제작 능력에 있어 상당한 도약을 제공합니다. 대규모로 제작하고 소셜 미디어 플랫폼에 배포할 수 있다면 엄청난 파급력을 가질 수 있습니다."라고 내쉬는 설명했습니다. ChatGPT와 같은 생성 AI가 할 수 있는 수많은 가능성 중 일부는 미국과 같은 현대 국가의 선거와 투표에 큰 영향을 미칠 수 있습니다.

ChatGPT는 짧은 시간에 많은 콘텐츠를 생성할 수 있습니다.

일러스트 사진: 로이터

예를 들어, ChatGPT는 후보자의 목소리를 흉내 내는 자동 음성 메시지를 만들어 유권자들에게 잘못된 날에 투표하도록 지시할 수 있고, 후보자가 범죄를 자백하거나 인종 차별적 콘텐츠를 만드는 것처럼 보이는 오디오 녹음을 공개할 수 있으며, 실제로 일어나지 않은 연설이나 인터뷰를 하는 사람의 비디오 클립을 만들 수 있으며, 지역 뉴스 보도를 기반으로 후보자가 경쟁에서 사퇴했다고 거짓으로 진술하는 컴퓨터 생성 이미지를 만들 수 있습니다.

"일론 머스크가 직접 당신에게 전화를 걸어 특정 후보에게 투표하라고 설득한다면 어떨까요?" 미국 워싱턴주에 본사를 둔 앨런 AI 연구소의 전 CEO이자 설립자인 오렌 에치오니 박사는 이렇게 말했습니다. "많은 사람들이 그의 말에 귀 기울였을 겁니다. 하지만 그 결정을 내린 것은 머스크가 아니라 AI였습니다." 에치오니 박사는 지적했습니다.

적의 위험

사이버 보안 회사 포스포인트(미국 텍사스 본사)의 글로벌 최고기술책임자(CTO)인 페트코 스토야노프는 외국 세력이 인공지능을 이용해 2024년 미국 대선을 방해하려 할 수 있다고 경고했습니다. 스토야노프는 "외국 세력, 사이버 범죄 조직 또는 국가가 누군가를 사칭하려 한다면 어떻게 될까요? 어떤 수준의 영향력을 행사하게 될까요? 우리는 대응할 방법이 있을까요?"라는 의문을 제기하며, 미국은 대선 기간 동안 외국으로부터 엄청난 양의 허위 정보가 유포될 것이라고 경고했습니다.

피트 리케츠 상원의원(네브래스카) 또한 2024년 선거 기간 동안 친중 단체들이 딥페이크(실제 인물이나 사건처럼 보이고 들리도록 조작된 이미지와 영상을 만드는 기술)를 사용할 위험성에 대해 경고했습니다. 리케츠 의원은 폭스 뉴스와의 인터뷰에서 "그들은 분명히 그런 능력을 가지고 있으며, 우리는 이 점에 대해 매우 경계해야 합니다."라고 말했습니다.

올해 초부터 AI가 만든 가짜 뉴스가 소셜 미디어에 폭풍을 일으켰습니다. 바이든 대통령이 트랜스젠더에 대해 모욕적인 발언을 하는 가짜 영상이나 도서관에서 아이들이 사탄숭배를 공부하는 모습을 담은 조작된 이미지 등이 여기에 포함됩니다. 도널드 트럼프 전 대통령의 경찰 기록 사진이 인터넷에 공개되자 많은 사람들이 이를 믿었습니다. 그가 범죄 혐의로 사진 촬영을 당하지 않았음에도 불구하고 말입니다. AI가 생성한 다른 이미지들에서도 트럼프 대통령이 체포에 저항하는 모습이 나왔지만, 이 역시 가짜였습니다.

이벳 클라크(뉴욕) 하원의원은 후보자들이 AI가 생성한 광고 이미지에 대해 유권자들에게 알리도록 요구하는 법안을 발의했습니다. 클라크 의원은 또한 합성 이미지를 만드는 모든 사람이 이미지 출처를 명확히 표시하기 위해 워터마크를 삽입하도록 요구하는 법안을 공동 발의했습니다. 여러 주에서도 딥페이크 우려를 해소하기 위한 자체 법안을 발의했습니다.

리케츠 상원의원은 지금 가장 좋은 일은 미국인들에게 인공 지능(AI)이 초래하는 위험에 대해 교육하는 것이라고 말했습니다. 그는 미국 정부가 대학들과 협력하여 선거가 시작되기 전에 가짜 이미지를 감지하는 능력을 향상시킬 수 있다고 말했습니다.

ChatGPT 업그레이드됨

Mashable에 따르면, OpenAI(미국 캘리포니아)는 ChatGPT에 중요한 업그레이드를 단행했습니다. 이 업그레이드를 통해 ChatGPT는 이제 작동 중에도 웹에 접속하여 검색할 수 있습니다. 이를 통해 ChatGPT는 최신 정보를 업데이트하고 더욱 정확한 답변을 제공할 수 있습니다. 현재 미국 아마존과 같은 기업들은 ChatGPT와 같은 인터페이스를 구축하고 통합하여 고객과의 소통을 지원하기 위해 AI 엔지니어 팀을 고용하고 있습니다.

소스 링크: https://thanhnien.vn/ai-tao-sinh-de-doa-bau-cu-my-18523051612541231.htm