[241126] 사이버 보안의 새로운 무기가 된 인공지능(AI)

다양한 사이버 위험이 증가하고 있는 현재 AI는 단순한 자동화 도구를 넘어 공격자와 방어자 모두에게 막강한 기술 도구가 됨. 본 글에서는 AI로 새로운 보안 위협에 대응하는 방법과 오펜시브 보안 분야에서 AI가 어떻게 사용되고 있는지 살펴볼 예정임.

 

본 글은 Theori의 https://blog.theori.io/ai-for-cybersecurity-e299e27faa89 글을 요약정리하였음.

---

사이버 보안 위협 현황

최근 조사에 따른 사이버 위협의 심각성은 다음과 같음.

• 데이터 침해 사고의 평균 비용 -> 445만 달러
• 클라우드 환경에서 발생하는 침해 사고 -> 1년동안 75% 증가
• 공격자가 성공적인 공격을 수행하는 데 걸리는 시간 -> 적게는 2분 7초

=> 이러한 추세라면 2025년꺼지 사이버 범죄로 인한 피해 규모는 10조 5천억 달러에 이를 것으로 예상

 

왜 조직은 사이버 위협에 더 취약해졌을까?

1. 클라우드 서비스 의존도: 기업의 94%가 클라우드 서비스를 사용하고 있어 구성 오류, 부적절한 접근 제어가 빈번하게 밯생하고 공격 가능한 표면이 이전보다 넓어짐
2. 펜데믹 이후 급격히 늘어난 원격 근무 환경: 알려진 취약점뿐만 아니라 제로데이, API 식별 등 취약점 발견, 관리, 적절한 대응이 어려워지고 있음.
3. 사이버 보안 전문 인력의 부족

오펜시브 보안 분야에서 활용하는 인공지능(AI)

AI를 활용해 대규모의 정교한 공격을 더 빠르게 수행할 수 있으며, AI로 실제와 구분하기 어려운 합성 미디어를 사용해 사기와 정보 왜곡을 일으키는 사회 공격이 이루어지기도 하지만 AI를 활용하여 실시간으로 위협을 탐지하고 사전에 공격을 차단하며 보안 태세를 강화할 수 있음. 

 

클라우드 보안

클라우드 보안에서 AI는 구성 오류 탐지와 권한 관리에 중요한 역할을 함. 클라우드 환경에서 보안 침해 사고의 65%는 잘못된 구성에서 비롯된다고 함. -> AI는 이런 구성 오류를 자동으로 탐지라고 악용할 수 있는 공격 지점을 찾아내고 있음

 

또한 AI는 크리덴셜 스터핑과 같은 무차열 암호 대입 공격(브루트포스)을 가속화해 공격의 효율성을 높이고 있음.

 

크리덴셜 스터핑이란?
유출된 개인정보를 웹사이트에 무작위로 대입하는 것

 

외부 위협 탐지

AI를 활용하면 광대한 공격 표면에서 취약점을 자동으로 탐지 가능함. 

 

Xint

통합 보안 태세 관리 플랫폼. Offensive Security AI Engine을 탑재해 기존의 URL 및 인터넷 스캐너를 확장하고 다양한 보안 취약점을 자동으로 찾아내는 기능을 제공함. 

 

지능형 멀웨어 개발

강화 학습 기법을 활용해 멀웨어를 학습 -> 99%의 탐지 회피율을 달성

강화 학습 에이전트 -> 악성 행위를 수행하면서도 이를 평가하고 탐지를 회피할 수 읶는 최적의 전략을 학습

 

멀웨어란?
악성 소프트웨어 또는 맬웨어는 컴퓨터 시스템이나 사용자에게 해를 입히기 위해 의도적으로 작성된 랜섬웨어, 트로이 목마, 스파이웨어를 비롯한 모든 소프트웨어 코드 또는 컴퓨터 프로그램

(출처 - IBM)

 

취약점 탐지 및 관리

LLM을 활용 -> 소스 코드를 분석하면서 구성 요소 간 관계를 파악하고 잠재적 취약점을 자동으로 찾아낼 수 있음.

=> 코드나 인프라 환경의 전후 맥락을 종합적으로 이해해 취약점으로 이어질 수 있는 로직을 추론해 낼 수 있음

 

실시간 보안 모니터링 및 대응 자동화

방대한 이벤트 로그와 네트워크 데이터를 실시간으로 분석해 이상 징후를 탐지하고 대응할 때 AI, 특히 머신러닝 기술이 큰 역할을 함 -> 시스템의 비정상적 행위를 재빨리 포착하고 자동으로 대응 방안을 제시함

 

실시간 코드 분석, 보안 약점 자동 개선

AI는 애플리케이션 보안을 근본적으로 개선하는 데에도 기여함

 

개발자가 코드를 작성하면 AI가 실시간으로 해당 코드를 분석해 보안 취약점을 확인 -> 발견된 취약점 대응 가이드라인까지 제시

 

---

 

AI 보안 자동화는 크게 3가지로 이루어짐

1. 보안 약점 탐지 및 근본 원인 규명
2. 공격 경로 가시화
3. 최적의 해결책 도출

조직이 살아남기 위해서는 AI 기술 도입이 필수적임. 하지만 AI는 완벽한 해결책이 아니므로 사람과 AI의 시너지를 발휘하는 방법, 기술에 대한 깊은 이해, 윤리적/사회적 고려가 함께 이루어질 때 비로소 AI는 우리의 든든한 창과 방패가 될 수 있을 것임.