소프트웨어 개발에 특화된 LLM 기반 에이전트인 코딩 에이전트는 현대 프로그래밍 환경에서 점차 보편화되고 있다. 단순한 코드 완성과 제안을 제공하는 전통적 AI 코딩 보조 도구와 달리, 현대의 코딩 에이전트는 자연어 지시로부터 전체 프로그램을 생성하는 것과 같이 더 복잡한 작업을 보다 높은 자율성으로 수행한다. 이러한 역량을 가능하게 하기 위해 현대 코딩 에이전트는 방대한 기능을 통합하고 있으며, 그 결과 보안 및 개인정보 측면에서의 중대한 우려가 제기된다. 이들의 채택이 확대되고 있음에도 불구하고, 이들 에이전트에 대한 체계적이고 심층적인 보안 분석은 largely(대체로) 간과되어 왔다. 본 논문에서는 실제 사용 환경에서 확인되는 코딩 에이전트 8종에 대한 포괄적인 보안 분석을 제시한다. 우리의 분석은 종종 단편적이고 임시방편적이었던 선행 접근의 한계를, 코딩 에이전트의 내부 워크플로를 체계적으로 검토하고 구성 요소 전반에 걸친 보안 위협을 식별함으로써 보완한다. 분석을 통해, 사용자 시스템의 기밀성과 무결성을 손상시키는 데 악용될 수 있는 15개의 보안 이슈(이전에 간과되었거나 놓쳤던 이슈 포함)를 확인하였다. 또한 이러한 보안 이슈가 단순히 개별 취약점에 그치는 것이 아니라, 집합적으로 종단 간(end-to-end) 악용을 초래할 수 있음을 보여준다. 이러한 보안 이슈를 활용하여 사용자 상호작용이나 승인 없이도 5개 에이전트에서 임의 명령 실행을, 4개 에이전트에서 전역적 데이터 유출(global data exfiltration)을 성공적으로 달성하였다. 본 연구 결과는 현대의 LLM 기반 에이전트에 대해 포괄적인 보안 분석이 필요함을 강조하며, 충분하지 못한 보안 고려가 심각한 취약성으로 이어질 수 있음을 입증한다.

*본 초록은 AI를 통해 원문을 번역한 내용입니다. 정확한 내용은 하기 원문에서 확인해주세요.