PromptLock – 최초의 AI 기반 랜섬웨어: 사이버 보안의 위험한 전환

뉴욕대학교의 엔지니어 팀은 AI와 랜섬웨어의 교차점에 대한 연구 논문을 개발하기 시작했습니다. 하지만 일주일 만에 그들은 본격적인 AI 기반 랜섬웨어 공격에 대한 개념 증명(PoC)을 완성했고, 이는 사이버 보안 업계를 들끓게 했습니다.

AI가 랜섬웨어가 되면 PromptLock은 데이터를 암호화할 뿐만 아니라 개인화된 랜섬 노트도 작성합니다. (출처: MSN)

AI가 주도한 랜섬웨어 공격

NYU 팀이 개발한 AI 시스템은 랜섬웨어 공격의 4단계를 모두 수행할 수 있습니다.

피해자의 머신 구성에 맞춰 Lua 언어로 맬웨어를 맞춤화합니다.
고가치 파일을 식별하기 위해 IT 시스템을 스캔합니다.
데이터 암호화
사용자 정보를 기반으로 개인화된 몸값 요구서를 작성합니다.

기존 랜섬웨어와 달리 이 AI는 특정 파일만 표적으로 삼아 탐지하기 어렵습니다. 실행될 때마다 악성코드가 다르게(다형성) 생성되어 보안 소프트웨어의 탐지를 피하는 데 도움이 됩니다.

"몇몇 파일만을 표적으로 삼기 때문에 탐지가 훨씬 어렵습니다. 게다가 이 공격은 매우 개인화되어 있습니다. 다형성이 강하기 때문에 여러 시스템에서 실행하거나 같은 시스템에서 여러 번 실행하더라도 생성되는 코드는 결코 같지 않습니다."라고 연구팀의 박사과정생 Md Raz는 설명합니다.

이는 통제된 실험에 불과하지만, AI가 어떻게 더욱 정교한 사이버 공격을 감행하는 데 사용될 수 있는지를 보여줍니다. 전문가들은 이 기술이 잘못된 손에 들어가면 조직과 개인에게 심각한 피해를 입힐 수 있다고 경고합니다.

PromptLock: AI 시대의 랜섬웨어 3.0

이 시스템의 특성과 작동 메커니즘을 더 잘 이해하려면 인공 지능에 의해 완벽하게 제어되는 세계 최초의 랜섬웨어인 PromptLock을 살펴봐야 합니다.

PromptLock은 Ollama API를 통해 배포되는 OpenAI의 대용량 gpt-oss:20b 언어 모델을 사용합니다. 기가바이트 크기의 모델 전체를 다운로드하는 대신, 시스템은 모델을 실행하는 서버에 연결하여 실시간으로 Lua 악성코드를 생성합니다.

슬로바키아 사이버 보안 회사인 ESET은 PromptLock이 PoC(개념 증명)임을 확인했지만, 실제로 배포될 경우 심각한 결과를 초래할 수 있다고 경고했습니다. 공격 지표(IoC)는 실행마다 끊임없이 바뀌기 때문에 탐지 및 억제가 더욱 어려워집니다.

Claude, ChatGPT, GitHub Copilot과 같은 다른 AI 시스템도 "즉각적 주입" 기술을 통해 악용되고 있습니다. 즉, 악의적인 행위자가 AI를 속여 파일 삭제, 데이터 도용 또는 금융 거래와 같은 승인되지 않은 작업을 수행하도록 하는 것입니다.

AI 덕분에: 단 하나의 자연어 명령만으로도 랜섬웨어 공격 주기를 시작할 수 있습니다. (출처: Thehackernews)

PromptLock 연구의 주저자인 Md Raz는 "비록 시제품이었음에도 불구하고, 이 시스템은 사이버 보안 전문가들이 실제 멀웨어임을 확신할 만큼 정교했습니다."라고 말했습니다. 이는 AI가 인간의 개입 없이 공격을 자동화할 수 있는 수준에 도달했음을 보여줍니다.

민 호안

출처: https://vtcnews.vn/ma-doc-tong-tien-dau-tien-do-ai-dieu-khien-promptlock-thach-thuc-an-ninh-mang-ar965501.html