보안팀은 AI 기반 공격에 대응하기 위해 더 정교한 도구와 자사 AI에 대한 통제력을 확보하기 위해 분주히 움직이고 있다.
최근 몇 달간 여러 CISO와의 대화에서 뚜렷한 변화의 흐름이 감지됐다. 과거에는 전통적인 위협 벡터나 규제 준수 체계가 주요 논의 주제였지만, 이제는 AI를 보안 운영에 통합하는 동시에 AI 기반 공격을 방어해야 한다는 복합적인 과제로 대화의 초점이 옮겨가고 있다.
수치가 이를 뒷받침한다. 최근 탈레스(Thales)가 발표한 ‘데이터 위협 보고서’에 따르면 기업의 73%가 매년 100만 달러 이상을 AI 특화 보안 도구에 투자하고 있다. 그럼에도 불구하고 70%는 빠른 AI 기술 발전 속도를 최대 보안 우려 요인으로 꼽았다. 이 같은 긴장감은 CIO와 보안 리더로 하여금 기업 방어 전략 전반을 근본적으로 재검토하게 만드는 요인이 되고 있다.
전통적 공격에 AI가 더해지다
최근 잇따른 침해 사고는 보안 리더들의 우려를 더욱 키우고 있다. 예를 들어 2024년 12월 발생한 렉시스넥시스 리스크 솔루션(LexisNexis Risk Solutions)의 보안 사고에서는 해커들이 서드파티 플랫폼을 침해해 36만 4,000명 이상의 개인 데이터에 접근했다. 또한 맥라렌 헬스케어(McLaren Health Care)는 1년 사이 2번의 대규모 랜섬웨어 공격을 받아 74만 3,000명이 피해를 입었다. 이런 사례는 단순한 통계 수치가 아니다. 공격의 규모와 정교함이 동시에 가속화되고 있음을 보여주는 사례다.
최근의 주요 사건은 다음과 같다.
- 렉시스넥시스 리스크 솔루션(2024년 12월): 서드파티 플랫폼 침해로 36만 4,000건 이상의 데이터 유출
- 맥라렌 헬스케어(2024년 7~8월): 12개월 내 2번의 대규모 랜섬웨어 공격으로 74만 3,000명 피해
- 애플락(Aflac, 2025년 6월): 보험 산업을 겨냥한 정교한 사회공학 공격, 랜섬웨어는 없었지만 데이터 탈취 발생
- 유나이티드 내셔널 푸드(UNFI, 2025년 6월): 식품 유통망 공급에 차질을 초래한 사이버 공격으로 운영 중단 발생
- 세일즈포스(Salesforce, 2025년 8월): 위협 인텔리전스 보고서에 따르면 서드파티 드리프트 인증 토큰이 탈취돼 고객 CRM 데이터가 대규모로 유출
AI의 역량은 전통적인 공격 벡터를 증폭시키며 취약점을 훨씬 손쉽게 악용할 수 있도록 하고 있다. 여러 보안 임원과의 대화에 따르면, 공격자들은 특히 AI를 활용해 피싱 캠페인을 개인 맞춤형으로 설계하고, 그 과정을 전례 없는 속도와 규모로 자동화하고 있다.
새로운 위협에 대응하는 새로운 도구···‘AI-DR 혁명’
기존 보안 도구로는 AI 기반 공격에 대응하기 어렵다는 한계가 드러나면서, 기업들이 AI 탐지 및 대응(AI-DR, AI Detection and Response) 솔루션을 적극 도입하고 있다. 가트너(Gartner) 보고서에 따르면 향후 2~3년 내 전체 AI 애플리케이션의 70%가 ‘가디언 에이전트(Guardian Agent)’라 불리는 멀티에이전트 시스템을 활용할 것으로 전망된다.
여러 CIO가 이미 전체 보안 예산의 15~20%를 AI 위협 대응에 별도로 배정하고 있다고 밝혔다. 이는 단순한 실험적 투자나 장기적 대비가 아니다. 현재의 보안 인프라로는 AI가 주도하는 공격을 제대로 탐지하거나 차단할 수 없다는 현실적인 우려가 이러한 즉각적 투자로 이어지고 있다.
스스로 보안 결정을 내리는 에이전틱 AI
가장 주목받으면서도 우려를 낳고 있는 변화는 기업 보안 운영 내 ‘에이전틱 AI(Agentic AI)’ 시스템의 등장이다. 이들 시스템은 점차 중요한 보안 결정을 자율적으로 내리기 시작했다. 이는 막대한 기회와 함께 상당한 위험도 동반한다.
이는 필자가 앞선 칼럼에서 언급한 내용과도 일치한다. 조직은 자동화된 보안 탐지 및 사고 대응의 효율성을 적극 활용하는 한편 AI 에이전트 자체의 보안 강화, 올바른 신원 관리 체계 구축, 조직 통제력 유지와 같은 근본적인 과제를 동시에 해결해야 한다.
대화를 나눈 CISO들은 다음과 같은 질문에 직면해 있다고 밝혔다.
- AI 보안 에이전트가 침해되거나 조작되지 않도록 보장하려면 어떻게 해야 할까?
- 방어용 AI가 정상적인 비즈니스 운영과 충돌할 경우, 어떤 방식으로 대응해야 할까?
- 자동화된 대응의 속도 이점을 잃지 않으면서 사람의 통제와 감독을 유지하려면 어떻게 해야 할까?
보안 리더를 위한 실질적 대응 방안
보안 책임자들과의 논의 및 여러 포트폴리오 기업의 관찰 결과를 종합하면, 지금 즉시 실행해야 할 핵심 과제는 다음과 같다.
- AI-DR 기능을 지금 도입한다. 완벽한 솔루션을 기다릴 수는 없다. 초기 단계의 AI-DR 도구도 이미 AI 기반 공격 방어에 효과를 입증하고 있다. 기술은 계속 발전하겠지만, 기본적인 보호 수단은 이미 활용 가능하다.
- AI 에이전트 거버넌스를 확립한다. AI 시스템이 보안 운영 내에서 자율적으로 행동할 수 있는 명확한 정책과 통제 체계를 마련해야 한다. 여기에는 킬 스위치, 위험 단계별 대응 프로토콜, AI 의사결정에 대한 정기적 감사 체계가 포함돼야 한다.
- AI 시스템에도 제로 트러스트 원칙을 적용한다. 사용자나 기기뿐 아니라 AI 에이전트 자체도 지속적으로 검증하고, 권한은 최소한으로 제한된 상태에서만 작동하도록 설정해야 한다.
- 벤더에 대한 새로운 리스크 평가 기준을 도입한다. 기존의 벤더 평가 기준은 AI 기반 공격을 고려하지 못한다. 따라서 벤더가 AI로 생성된 위협을 어떻게 탐지하고 방어하는지를 포함해 평가 체계를 전면적으로 개편해야 한다.
향후 18개월 전망
기업 보안의 현실은 명확하다. AI 기반 사이버보안은 더 이상 미래의 문제가 아니라, 지금 즉시 대응해야 할 도전 과제다. AI-DR 역량을 신속히 구축하고, 에이전틱 AI에 대한 명확한 거버넌스를 마련하는 조직이 방어력에서 뚜렷한 우위를 점하게 될 가능성이 높다.
사이버보안 환경은 그 어느 때보다 빠르게 진화하고 있다. 위협이 발전하는 속도만큼 방어 기술과 전략 역시 빠르게 발전하고 있다. CIO와 보안 리더에게 필요한 것은 혁신과 신중한 리스크 관리의 균형이다. 즉, AI의 방어 역량을 적극 활용하면서도 공격 가능성에 대비할 수 있는 선제적 전략을 병행해야 한다.
이 환경에서의 성공은 단순히 새로운 기술을 도입하는 데 그치지 않는다. AI가 주도하는 위협의 속도에 발맞추면서도, 기업 운영이 요구하는 통제력과 감독 체계를 유지할 수 있는 새로운 운영 프레임워크를 얼마나 빠르게 구축하느냐에 달려있다.
[email protected]
