AI 남용으로 인한 '정신적 퇴화' 위험

일러스트 사진.

AI는 일상생활부터 생산, 교육 , 연구, 예술 창작에 이르기까지 인간 삶의 거의 모든 측면에 존재합니다. AI는 사람들의 활동을 최적화하고, 생산성을 높이며, 인적 자원을 절감하는 데 도움을 줍니다. AI의 폭발적인 성장은 머신러닝 애플리케이션과 빅데이터 기술의 지속적인 성장을 보여주며, 인공지능을 새로운 차원으로 끌어올렸습니다.

이러한 엄청난 이점에도 불구하고 AI는 지식 창출 과정을 폐쇄 루프로 전환시켜 창의성을 위협하고 인간 사고의 '퇴화'를 초래할 위험이 있습니다.

전문가들은 AI를 사용하면 즉각적으로 편리해지지만 장기적으로는 지적 비용이 발생할 수 있다고 말합니다.

뇌 기능 장애와 '인지 부채'

매사추세츠 공과대학교(MIT)가 4개월간 진행한 연구는 AI 과다 사용이 인간 뇌에 미치는 심오한 영향을 조명했습니다. 에세이 작성 참여자 54명을 추적 조사한 이 연구는 AI 도구에 의존할 경우 뇌 기능과 비판적 사고 능력이 저하될 수 있음을 발견했습니다.

연구진은 뇌파(EEG) 기술을 사용하여 참가자들의 뇌 활동을 기록했습니다. 그 결과는 놀라웠습니다. AI 도구를 사용한 그룹은 생각만으로 글을 쓴 그룹과 상당히 다른 신경 패턴을 보였습니다. 이 그룹은 생각만으로 글을 쓴 그룹보다 신경 연결이 최대 55% 적었으며, 특히 심층적 사고와 기억 형성을 담당하는 영역에서 더 두드러졌습니다.

연구자들은 이 현상을 "인지 부채"라고 부릅니다. 현재 혜택을 누리면서도 나중에 대가를 치르게 하는 재정적 부채와 마찬가지로, 인지 부채는 우리가 정신적 노력을 외부 시스템에 아웃소싱하여 사용하지 않아 정신적 근육이 위축될 때 발생합니다. AI를 과도하게 사용하면 인간을 수동적인 소비자로 전락시켜 독립적으로 사고하는 능력을 상실할 수 있습니다.

인지적 능력이 저하되면 다음과 같은 결과가 나타납니다.

기억 장애 : MIT 연구의 첫 번째 세션에서 AI 사용자의 83%가 자신의 글에서 인용을 하지 못했으며, 정확한 인용을 제공하는 사람은 아무도 없었습니다. 여러 번의 세션 후에도 많은 사람들이 이 기본적인 작업에 여전히 어려움을 겪었습니다.

비판적 사고력 약화 : AI를 사용하면 '피상적인 참여'가 발생하고 비판적 사고 능력이 약화되어 미루기와 '게으름'이 생길 수 있습니다.

뇌 활동 감소 : AI의 도움을 받아 논문을 쓴 사람들의 뇌 활동이 현저히 낮았으며, 기억, 비판적 사고, 실행 기능과 관련된 영역이 현저히 감소했습니다.

지식 창조의 위기와 '패러다임 붕괴'

LLM의 문제점은 합성 능력이 아니라 기존 지식을 재활용하는 능력에 있습니다. 이러한 시스템은 새로운 지식을 창출하는 것이 아니라, 기존 데이터를 소비하고 재분배하는 데 그칩니다.

돈, 명예, 호기심, 지식 정복 등 여러 이유로 끊임없이 새로운 방향을 모색하는 인간과 달리, AI는 "새로운 것"을 만들어낼 수 없습니다. AI가 거의 모든 복잡한 질문에 단 몇 초 만에 답할 수 있게 되면, 인간의 창의성에 대한 보상은 점차 사라질 것입니다.

이러한 동기 상실은 프로그래머들이 지식을 공유하는 포럼인 Stack Overflow의 사례에서 잘 드러났습니다. ChatGPT가 출시된 지 불과 6개월 만에 플랫폼의 질문 수가 25% 이상 감소했고, 현재는 90%까지 줄었습니다. 이는 각 답변이 검증, 토론, 보완되는 "살아있는 지식 기반"이 사라진 것을 의미합니다.

Stack Overflow와 같은 플랫폼의 데이터는 오랫동안 AI 도구를 훈련하는 데 사용되어 왔습니다. 이러한 지식의 원천이 고갈됨에 따라 AI는 이미 생산한 것을 점점 더 반복하게 될 것입니다.

이러한 현상을 "모델 붕괴"라고 합니다. 연구자들은 AI가 자체적으로 생성한 데이터를 기반으로 모델을 학습할 경우, 지식의 질이 점차 저하되어 현실 세계 의 다양성과 정확성을 반영하지 못하게 된다고 경고합니다. 컬럼비아 대학교의 한나 리 교수는 "전반적으로 모델이 악화되고, 모델 자체도 악화됩니다."라고 결론지었습니다.

지식의 동질화와 재활용의 위험

개인의 인지 능력 저하 외에도 AI의 오용은 지식의 동질화로 이어집니다. AI의 도움을 받아 작성된 에세이들은 놀라울 정도로 유사하며, "통계적으로 동질적인" 패턴을 보입니다. 이는 다양한 인간의 관점이 동일한 알고리즘 렌즈를 통해 걸러지는 지적 단일 문화를 형성하여, 잠재적으로 창의적 다양성을 저해합니다.

AI는 데이터에서 공통적인 패턴을 강조하고, 희귀한 정보, 고유한 세부 정보, 또는 통계적으로 가려진 데이터는 점차 무시하는 경향이 있습니다. 이러한 추세가 지속된다면, 풍부한 정보 저장소인 인터넷은 지식이 희석되는 모호한 세상으로 전락할 위험이 있습니다. 인류는 새로운 창조에 대한 보상이 점점 희미해지면서 혁신이 정체되는 "지식 재활용"의 시대로 접어들 수 있습니다.

AI는 강력한 도구이지만 전략적 접근이 필요합니다. MIT 연구진은 긍정적인 신호를 발견했습니다. AI를 사용하기 전에 탄탄한 인지 기반을 구축했던 참가자들은 AI를 더 효과적으로 사용할 수 있었고, 도구를 처음 접했을 때 신경 활동이 증가하기도 했습니다. 참가자들은 AI를 단순한 지원 도구가 아닌 진정한 조력자로 활용했습니다.

인간의 지식은 노력, 호기심, 그리고 미지의 세계로 모험을 떠나는 용기를 바탕으로 합니다. 하지만 AI가 유일한 "철도"가 된다면, 우리는 인간과 기계 모두 이미 행해진 일을 반복하는 악순환에 빠질 위험이 있습니다.

히엔 타오

출처: https://doanhnghiepvn.vn/cong-nghe/nguy-co-thoai-hoa-tu-duy-vi-lam-dung-ai/20250928033804291