AI 챗봇은 소문처럼 '힘에 목말라' 있을까?

지난 몇 년 동안 ChatGPT는 폭발적인 인기를 얻었으며, 거의 2억 명에 달하는 사용자가 하루에 10억 건이 넘는 요청을 입력하고 있습니다. 이러한 "뜬금없는" 응답은 실제로는 엄청난 에너지를 소모합니다.

2023년까지 AI를 훈련하고 운영하는 데이터 센터는 미국 전력 소비량의 4.4%를 차지할 것으로 예상됩니다. 전 세계적으로 이 수치는 전체 전력 수요의 약 1.5%에 해당합니다. 2030년까지 AI 수요가 계속 증가함에 따라 전력 소비량은 두 배로 증가할 것으로 예상됩니다.

"불과 3년 전만 해도 ChatGPT조차 없었습니다." 암스테르담 자유대학교 신기술 지속가능성 연구원이자 디지털 트렌드의 의도치 않은 결과를 분석하는 플랫폼인 디지코노미스트(Digiconomist)의 설립자인 알렉스 드 브리스-가오(Alex de Vries-Gao)의 말이다. " 그리고 지금은 전 세계 데이터 센터에서 소비하는 전력의 거의 절반을 차지할 수 있는 기술에 대해 이야기하고 있습니다."

대규모 언어 모델(LLM)에 질문하는 것은 일반적인 구글 검색보다 약 10배 더 많은 전력을 소모합니다. (사진: Qi Yang/Getty Images)

AI 챗봇이 왜 그토록 많은 전력을 소모할까요? 그 답은 바로 그 엄청난 규모에 있습니다. 미시간 대학교 컴퓨터 과학 교수 모샤라프 초우두리에 따르면, 특히 "전력 소모가 큰" 두 단계가 있는데, 바로 훈련과 추론입니다.

"하지만 문제는 오늘날의 모델이 너무 커서 단일 GPU에서는 실행할 수 없고, 더군다나 단일 서버에는 적용할 수 없다는 것입니다."라고 모샤라프 초우두리 교수가 Live Science에 설명했습니다.

규모를 가늠해 보시려면, 드 브리스-가오의 2023년 연구에 따르면 Nvidia DGX A100 서버 한 대가 최대 6.5킬로와트의 전력을 소비할 수 있습니다. LLM을 훈련하려면 일반적으로 각각 평균 8개의 GPU를 탑재한 여러 대의 서버가 몇 주 또는 몇 달 동안 지속적으로 실행되어야 합니다. 총 전력 소비량은 엄청납니다. OpenAI의 GPT-4 훈련에만 50기가와트시가 소모되었는데, 이는 샌프란시스코 전체에 3일 동안 전력을 공급할 수 있는 양입니다.

OpenAI의 GPT-4 학습 프로세스는 샌프란시스코 전체에 3일간 전력을 공급할 수 있을 만큼 강력했습니다. (사진: Jaap Arriens/NurPhoto/Rex/Shutterstock)

추론 단계 또한 매우 에너지 집약적입니다. AI 챗봇이 학습한 내용을 활용하여 사용자에게 적합한 답변을 도출하는 단계입니다. 추론 단계는 학습 단계보다 컴퓨팅 리소스가 적게 사용되지만, 챗봇에 전송되는 요청 수가 많기 때문에 여전히 전력 소모가 매우 큽니다.

OpenAI에 따르면 2025년 7월 현재 ChatGPT 사용자는 하루에 25억 건 이상의 요청을 보내고 있습니다. 즉각적인 응답을 위해 시스템은 여러 서버를 동시에 가동해야 합니다. 이는 ChatGPT만 해당되는 이야기이며, Google Gemini와 같이 널리 사용되는 다른 플랫폼도 마찬가지입니다. Gemini는 곧 사용자가 Google 검색에 접속할 때 기본 선택지가 될 것으로 예상됩니다.

"추론 단계에서도 에너지를 실제로 절약할 수는 없습니다." 라고 초우두리는 말했습니다. "더 이상 데이터 크기가 중요한 것이 아닙니다. 모델 자체도 거대하지만, 더 중요한 것은 사용자 수입니다."

초우두리와 드 브리스-가오 같은 연구원들은 이제 전력 소비량을 더욱 정확하게 측정하고 절감할 방법을 모색하고 있습니다. 예를 들어, 초우두리는 오픈소스 모델 추론의 에너지 소비량을 추적하는 ML 에너지 리더보드라는 순위를 유지하고 있습니다.

그러나 상업용 생성 AI 플랫폼 관련 데이터의 대부분은 여전히 "비밀"로 남아 있습니다. 구글, 마이크로소프트, 메타와 같은 대기업들은 이를 비밀로 유지하거나, 실제 환경 영향을 반영하지 않는 매우 모호한 통계만 공개합니다. 이로 인해 AI가 실제로 얼마나 많은 전력을 소비하는지, 향후 몇 년 동안 수요가 얼마나 될지, 그리고 세계가 이를 충족할 수 있을지 판단하기가 매우 어렵습니다.

그러나 사용자는 투명성을 요구할 수 있으며, 이는 개인이 AI를 사용할 때 더 책임감 있는 선택을 하는 데 도움이 될 뿐만 아니라 기업의 책임을 묻는 정책을 촉진하는 데에도 도움이 됩니다.

"디지털 애플리케이션의 핵심 문제 중 하나는 환경에 미치는 영향이 종종 감춰진다는 것입니다." 라고 연구원 드 브리스-가오는 말했습니다. "이제 정책 결정권자들의 손에 달려 있습니다. 정책 결정권자들은 사용자가 조치를 취할 수 있도록 데이터 공개를 장려해야 합니다."

응옥 응우옌(라이브 사이언스)

출처: https://vtcnews.vn/chatbot-ai-co-ngon-dien-nhu-loi-don-ar965919.html