오픈소스 AI 연결 프로토콜을 활용한 새로운 공격 위험 경고

모델 컨텍스트 프로토콜(MCP)은 Anthropic이 2024년에 발표한 오픈소스 AI 연결 프로토콜로, 대규모 언어 모델(LLM)이 검색, 소스 코드 관리, API 액세스, CRM 데이터, 금융 또는 클라우드와 같은 외부 도구 및 서비스에 직접 연결할 수 있도록 합니다. 그러나 다른 오픈소스 도구와 마찬가지로 MCP도 악의적인 목적으로 악용될 수 있습니다.

카스퍼스키의 Gert 긴급 대응팀(GERT)은 실험실에서 개발자 컴퓨터에 악성 MCP 서버가 설치되어 비밀번호, 신용카드, 암호화폐 지갑, API 토큰, 클라우드 구성 및 기타 데이터를 수집하는 시나리오를 시뮬레이션했습니다. 사용자들은 이상 징후를 발견하지 못했기 때문에 쉽게 속았습니다. 카스퍼스키가 실제 사고를 기록한 적은 없지만, 이러한 위험은 데이터 유출뿐만 아니라 백도어 설치, 악성 코드 유포, 금전 갈취 등 잠재적으로 충분히 가능합니다.

이 연구에서 카스퍼스키는 커서(Cursor)를 공격 도구로 전환되는 MCP에 연결되는 가상의 AI 클라이언트로 사용했지만, 이 방법은 모든 LLM에 적용될 수 있습니다. 커서와 앤트로픽(Anthropic)에 통보되었습니다.

카스퍼스키 글로벌 비상 대응팀(GERT)의 사고 대응 전문가인 모하메드 고바시는 "공급망 공격은 오늘날 가장 심각한 위협 중 하나입니다. AI가 워크플로에 깊이 통합되는 상황에서 기업들은 포럼에서 다운로드한 검증되지 않은 맞춤형 MCP를 사용하는 데 쉽게 방심합니다. 이는 데이터 유출 위험을 증가시키고 견고한 방어 시스템 구축의 필요성을 보여줍니다."라고 말했습니다.

새로운 백서에서 카스퍼스키는 공격 기법과 대응책에 대한 자세한 분석을 제공합니다. 전체 보고서는 Securelist에서 확인할 수 있습니다. GERT는 또한 다음과 같은 몇 가지 권고 사항을 제시합니다.

첫째, 사용하기 전에 모든 MCP 서버를 철저히 검사하고, 스캔하여 승인되었는지 확인하고, 인증된 서버의 허용 목록을 유지하는 것이 중요합니다.

둘째, 컨테이너나 가상 머신에서 MCP를 실행하여 액세스를 제한하고, 필요한 디렉토리에만 권한을 부여하며, 개발 환경과 프로덕션 환경을 분리하여 위험 확산을 방지합니다.

셋째, 모든 프롬프트와 응답을 기록하여 비정상적인 동작을 모니터링하고, 예상치 못한 SQL 명령이나 부적절하게 전송된 데이터와 같은 숨겨진 지침이나 이상한 작업을 감지합니다.

또한, 기업은 MDR(Managed Detection and Response)이나 사고 대응과 같은 카스퍼스키 보안 서비스를 구축하여 지속적인 보호, 사고 탐지 및 조사, 전문 인력이 부족한 부서까지 지원해야 합니다.

카스퍼스키에 따르면, AI 시대에 기업이 점점 더 정교해지는 공급망 위협으로부터 자신을 보호하려면 경계를 강화하고, 새로운 도구를 엄격하게 통제하고, 포괄적인 보안 솔루션을 결합하는 것이 핵심이 될 것입니다.

출처: https://nld.com.vn/canh-bao-nguy-co-tan-cong-moi-loi-dung-giao-thuc-ket-noi-ai-ma-nguon-mo-196250924152722129.htm