새로운 연구: AI는 인간처럼 '추론'하지 않는다

인공지능(AI) 프로그램은 인상적인 성과를 달성했지만, 새로운 연구에 따르면 AI가 인간처럼 추론할 수 있다는 주장을 과장해서는 안 된다고 합니다.

인공지능 프로그램은 최근 몇 년 동안 많은 성공을 거두었습니다. - 사진: REUTERS

대규모 언어 모델(LLM)의 경우 입력 데이터부터 출력 결과까지의 전체 과정을 관찰할 수 없습니다.

이해를 돕기 위해 과학자들은 이러한 프로그램의 작동 방식을 설명하기 위해 "추론"과 같은 일반적인 용어를 사용해 왔습니다. 또한 이 프로그램이 인간처럼 "생각하고," "추론하고," "이해"할 수 있다고 말합니다.

AI의 능력을 과장하다

ZDNET이 9월 6일에 보도한 바에 따르면, 지난 2년 동안 많은 AI 임원들이 과장 표현을 사용해 간단한 기술적 성과를 과장해 왔습니다.

2024년 9월, OpenAI는 o1 추론 모델이 "문제를 해결할 때 추론 체인을 사용하는데, 이는 인간이 어려운 질문에 직면했을 때 오랫동안 생각하는 방식과 유사하다"고 발표했습니다.

하지만 AI 과학자들은 이의를 제기합니다. 그들은 AI가 인간의 지능을 가지고 있지 않다고 믿습니다.

미국 애리조나 주립 대학의 저자 그룹이 arXiv 데이터베이스를 이용하여 간단한 실험을 통해 AI의 추론 능력을 검증했습니다.

연구 결과에 따르면, "생각의 연쇄에 의한 추론은 실제 논리적 메커니즘이 아니라 단지 정교한 형태의 패턴 매칭일 뿐인 깨지기 쉬운 환상"이라고 합니다.

"생각의 사슬"(CoT)이라는 용어는 AI가 최종 답을 내놓을 뿐만 아니라 GPT-o1이나 DeepSeek V1 모델처럼 논리적 추론의 각 단계를 제시할 수 있도록 해줍니다.

OpenAI의 GPT-2 언어 모델 그림 - 사진: ECHOCRAFTAI

AI가 실제로 무엇을 하는지 확인하세요

연구자들은 대규모 분석 결과 LLM은 논리적 추론 과정보다는 의미론과 표면적 단서에 의존하는 경향이 있다고 밝혔습니다.

"LLM은 학습된 입력 연관성을 기반으로 표면적인 논리 사슬을 구성하는데, 기존의 추론 방법이나 익숙한 패턴에서 벗어나는 작업에서는 종종 실패합니다."라고 연구팀은 설명했습니다.

LLM이 단지 패턴 매칭일 뿐이고 실제 추론은 아니라는 가설을 검증하기 위해 연구팀은 OpenAI가 2019년에 출시한 오픈소스 모델인 GPT-2를 훈련시켰습니다.

이 모델은 처음에는 26개의 영어 글자를 대상으로 매우 간단한 작업, 예를 들어 "APPLE"을 "EAPPL"로 바꾸는 작업으로 학습되었습니다. 이후 연구팀은 작업을 변경하여 GPT-2에 해당 작업을 맡겼습니다.

결과에 따르면, 훈련 데이터에 포함되지 않은 작업의 경우 GPT-2는 CoT를 사용하여 해당 작업을 정확하게 해결할 수 없습니다.

대신, 모델은 가장 유사한 학습 과제를 적용하려고 합니다. 따라서 모델의 "추론"은 타당해 보이지만, 결과는 종종 틀립니다.

이 그룹은 LLM의 답변을 너무 많이 의지하거나 맹목적으로 믿어서는 안 된다고 결론지었습니다. LLM의 답변은 "매우 설득력 있는 듯한 말도 안 되는 소리"를 할 수 있기 때문입니다.

또한 그들은 AI의 진정한 본질을 이해하고, 과장된 광고를 피하고, AI가 인간처럼 추론할 수 있는 능력을 가지고 있다는 홍보를 중단해야 한다고 강조했습니다.

주제로 돌아가기

안 투

출처: https://tuoitre.vn/nghien-cuu-moi-ai-khong-suy-luan-nhu-con-nguoi-20250907152120294.htm