세상이 준비되지 않았을 때 인공지능이 조용히 다가온다

Siêu trí tuệ nhân tạo đang âm thầm đến khi thế giới chưa sẵn sàng - 1 — 전 구글 CEO 에릭 슈미트(사진: Vbee).

전 구글 CEO 에릭 슈미트는 인공지능 초지능(ASI)의 급속한 등장에 대해 경고하면서, 사회가 이러한 기술 발전에 심각하게 대비하지 못했다고 강조했습니다.

그는 AI가 끊임없이 스스로를 개선할 수 있는 능력을 갖추게 되면서 곧 대부분의 프로그래밍 직업이 쓸모없게 될 것이라고 예측합니다.

ASI: AGI와 인간 지능의 엄청난 도약

세계가 인공지능(AI), 자동화, 그리고 AI에 의한 일자리 대체의 윤리적 문제에 주목하는 가운데, 에릭 슈미트는 조용히 일어나고 있는 훨씬 더 중요한 발전, 즉 인공 초지능(ASI)의 등장을 지적했습니다.

슈미트는 초인공지능(ASI)이 임박했으며, 사회가 이에 대처할 준비가 되어 있지 않아 위험할 수 있다고 경고합니다. 인간과 유사한 인지 능력을 가진 인공 일반 지능(AGI)과는 달리, ASI는 개인의 지능뿐만 아니라 인류 전체의 집단 지능을 모두 능가할 잠재력을 가진 시스템입니다.

"사람들은 이 수준의 지능이 있을 때 무슨 일이 일어나는지 이해하지 못합니다." 전 구글 CEO가 강조했습니다.

프로그래머가 교체될 위험이 있나요?

슈미트의 가장 논란이 많은 예측 중 하나는 AI가 1년 안에 대부분의 프로그래밍 직업을 쓸모없게 만들 수 있다는 것입니다. 그는 재귀적 자기 개선, 즉 스스로 코드를 작성하고 개선하는 AI 시스템의 발전을 이러한 변화의 핵심 동력으로 꼽습니다.

AI는 이미 소프트웨어 개발에 상당한 기여를 하고 있습니다. 그는 "OpenAI와 Anthropic 연구소 코드의 10~20%가 AI로 작성되고 있습니다."라고 언급했습니다.

Siêu trí tuệ nhân tạo đang âm thầm đến khi thế giới chưa sẵn sàng - 2

이러한 시스템은 계속 발전하면서 더 빠르고 효율적이 될 뿐만 아니라 고급 코딩 및 구조적 추론과 같은 분야에서 박사 학위 소지자와 수학 교수보다 우수한 성과를 보이기 시작했습니다.

이는 기술 분야에서 인간 노동의 역할이 창조자에서 감독자로 근본적으로 바뀌거나 아예 사라질 수도 있음을 의미합니다.

어지러운 도약

구글 전 CEO에 따르면, 실리콘 밸리(세계의 선도적인 기술 기업들이 모이는 곳)의 많은 사람들은 AGI(인간처럼 추론할 수 있는 시스템)가 앞으로 3~5년 안에 달성될 것이라는 데 동의합니다.

그는 더욱 극적인 도약은 AGI 이후 1~2년 후에 일어날 것이라고 말하며, 이러한 궤적을 "샌프란시스코 합의"라고 불렀습니다. 이는 ASI까지의 짧은 일정에 대한 기술 엘리트들 사이의 점점 더 커지는 일치를 반영하는 용어입니다.

이전의 기술 변화와 달리 ASI로의 전환은 너무 빠르고 극적이어서 경영, 법률, 경제 와 같은 기존 시스템이 제때 적응하지 못할 수도 있습니다.

세상은 아직 초지능 시대를 맞이할 준비가 되어 있지 않습니다.

ASI가 잠재적으로 변혁적이고 심지어 실존적 의미를 지닐 수 있음에도 불구하고, 슈미트는 대중의 인식과 담론에 중요한 격차가 있음을 지적합니다.

Siêu trí tuệ nhân tạo đang âm thầm đến khi thế giới chưa sẵn sàng - 3 — ASI는 현대 사회에서 많은 일자리를 '없앨' 수 있다(사진: XP).

"문제는 AI 진화 속도뿐만 아니라, 이를 의미 있게 다룰 개념적 언어와 제도적 틀의 부족입니다. 이러한 일이 실제로 일어날 때 어떤 일이 일어날지 설명할 언어가 없습니다. 우리 사회와 법률이 상호 작용하는 속도보다 더 빠르게 진행되고 있습니다."라고 그는 말했습니다.

다시 말해, 세계의 정책 시스템은 혁신의 속도에 크게 뒤처져 있으며, 이로 인해 기술적 능력과 사회적 준비성 사이에 위험한 불균형이 생겨나고 있습니다.

AI 시스템이 인간의 능력을 뛰어넘으면서, 슈미트는 두 가지 가능한 미래를 제시합니다. 하나는 인류가 직면한 가장 큰 과제들을 해결할 수 있는 초지능 시스템을 기반으로 한 기술 르네상스의 도래입니다. 다른 하나는 윤리적 위기와 전례 없는 사회적 격변의 위험입니다.

전 구글 CEO가 너무 늦기 전에 초인공지능(ASI)에 대비할 것을 전 세계에 촉구했습니다. 에릭 슈미트의 경고는 공상 과학 소설에 기반한 것이 아니라, 미래 기술을 구축하는 사람들 사이에서 현재 벌어지고 있는 대화에 기반한 것입니다.

그의 타임라인에 동의하든 동의하지 않든, 그의 메시지는 분명합니다. 인공 초지능은 터무니없는 개념이 아니며, 빠르게 현실이 되어가고 있습니다.

이러한 현실이 다가옴에 따라 세계는 단기적인 AI 위험에 대한 좁은 토론에서 벗어나 장기적인 거버넌스, 윤리, 인류 역사상 가장 큰 변화를 가져올 수 있는 AI에 대한 준비에 대한 심층적이고 광범위한 대화로 초점을 옮겨야 합니다.

출처: https://dantri.com.vn/cong-nghe/sieu-tri-tue-nhan-tao-dang-am-tham-den-khi-the-gioi-chua-san-sang-20250708010323899.htm