유엔: 인공지능에 대한 세계적 '적색선' 요구

유럽의 VNA 특파원에 따르면, 9월 22일 뉴욕(미국)에서 열린 제80차 유엔 총회에서 유럽 의원들은 노벨상 수상자, 전직 국가 원수, 인공지능(AI) 분야의 주요 연구자들과 함께 AI의 가장 위험한 응용 프로그램을 퇴치하기 위한 구속력 있는 국제 규칙을 요구했습니다.

이 이니셔티브는 각국 정부가 2026년까지 모든 상황에서 위험하다고 간주되는 AI 기능에 대한 "제한선"을 설정하는 데 합의할 것을 촉구합니다. 구체적인 조치는 제시하지 않지만, AI 시스템의 핵 공격, 대규모 감시, 또는 인간 사칭을 방지하는 것과 같은 몇 가지 기본적인 금지 조치를 제시합니다.

이 캠페인은 전례 없는 규모로, 정계 , 과학계, 사회계, 산업계 등 200명 이상의 저명 인사와 70개 단체가 지지를 표명했습니다. 제안서에 서명한 사람들 중에는 전 이탈리아 총리 엔리코 레타, 전 아일랜드 대통령 메리 로빈슨(현 유엔 인권 고등판무관), 유럽 의회(EP) 의원, 노벨상 수상자 10명, 그리고 OpenAI 공동 창립자, 구글 CTO 등 기술 분야 리더들이 있습니다.

서명자들은 글로벌 표준이 없다면 인류는 기술적으로 조작된 전염병과 허위 정보 캠페인부터 대규모 인권 침해, 인간이 첨단 시스템에 대한 통제력을 상실하는 것까지 AI가 초래하는 위협에 직면할 위험이 있다고 주장합니다.

이러한 움직임은 AI가 현실 세계에 미치는 영향에 대한 우려가 커지고 있는 가운데 나온 것입니다. 주목할 만한 사례로, 구글의 ChatGPT, Claude, Gemini를 포함한 주요 챗봇들이 자살 관련 질문에 일관성 없는 답변을 제공했는데, 이는 정신 건강 위기를 악화시키는 것으로 여겨집니다.

AI 시스템과의 대화와 관련된 자살 사건이 여러 건 발생했습니다. AI의 소위 "대부" 중 한 명인 요슈아 벤지오는 점점 더 강력한 모델을 개발하려는 경쟁이 사회가 대처할 준비가 되어 있지 않은 위험을 초래한다고 강조했습니다.

이 이니셔티브 지지자들은 유럽연합(EU)의 AI 규제는 환영할 만하지만, 국가별 및 EU 차원의 AI 규정만으로는 국경을 넘나드는 기술을 규제하기에 충분하지 않다고 주장합니다. 그들은 이러한 규정을 시행할 독립적인 기관이나 기구의 설립을 촉구합니다.

미국, 중국, EU 회원국 등이 자체 AI 규정을 초안하고 있는 가운데, 서명국들은 글로벌 협정만이 공통 표준을 채택하고 시행할 수 있다고 말합니다.

지지자들은 화학무기금지기구(OPCW)의 전 사무총장인 아흐메트 위줌취가 "인류에 돌이킬 수 없는 피해"라고 묘사한 것을 막기 위해 구속력 있는 금지 조치에 대한 협상이 신속히 시작되기를 바라고 있습니다./.

(TTXVN/베트남+)

출처: https://www.vietnamplus.vn/lien-hop-quoc-loi-keu-goi-ve-lan-ranh-do-toan-cau-doi-voi-tri-tue-nhan-tao-post1063499.vnp