[250211] 생성형 AI 시대, 이제는 보안이다

본 게시글은 IGLOO의 '생성형 AI 시대, 이제는 보안이다'를 참고하여 작성된 글임.

(출처 링크ㅣ https://www.igloo.co.kr/security-information/%ec%83%9d%ec%84%b1%ed%98%95-ai-%ec%8b%9c%eb%8c%80-%ec%9d%b4%ec%a0%9c%eb%8a%94-%eb%b3%b4%ec%95%88%ec%9d%b4%eb%8b%a4/)

---

01. 생성형 AI에서 보안이란

1) 생성형 AI의 도약과 그 이면:보안의 필요성

 

Chat GPT를 비롯한 생성형 AI의 양적 성장에도 불구하고 여전히 미흡한 점 존재 :

1. 지속성
2. 안정성
3. 정확성

두 차례의 대규모 서비스 중단 -> 서버 과부하, 소프트웨어 업데이트, 네트워크 장애의 문제

 

AI의 발전 속에서 우리는 Security for AI(AI를 보안 위협에서 보호)와 AI for Security(AI를 활용해 보안을 강화)를 고민할 필요가 있음

 

02. 보안 위협에서 생성형 AI를 보호하라(Security for AI)

인공지능의 가장 우려되는 부분 -> 보안 위협

 

• 최근 사례인 '웜 지피티' : 지피티를 사용한 자연스럽고 정교한 피싱 이메일이 다수의 피해자와 금전적 손실을 만듦
• 특정 인물의 목소리와 외모를 모방하는 '딥페이크 기술' : 정치적 목적의 선동, 허위사실 유포, 합성 음란물 제작과 같은 심각한 문제를 일으킴
• 소규모 언어 모델 기술을 악용해 공격 목적으로 제작 또는 배포

현재 다양한 기업과 기관에서 AI 보안을 위한 기술 가이드라인을 발표하며 이러한 문제에 대응하고 있음.

[표 1] AI 기술보안 가이드 및 프레임워크 (출처: 이글루코퍼레이션)

 

03. 생성형 AI를 통해 보안을 강화하라(AI for Security)

• 공격 빈도가 증가하고 악성코드의 유형과 변종이 늘어나면서 기존 탐지 방식이 한계를 드러냄
• 새로운 공격 벡터가 계속 등장 -> 기존 방어 방법으로는 효과적으로 대응 X

-> 더 정교한 탐지 방법과 새로운 접근 방식 요구

 

머신러닝 -> 악성코드 탐지와 분류, 정/오탐 식별 등 보안에서 중요한 역할

 

= > AI는 이를 넘어선 활용 가능성을 보여줌

 

기업들은 AI를 활용해 보안을 강화하기 위한 다양한 시도 진행중

• 마이크로소프트 : 자사의 모든 보안 제품에 오픈AI GPT-4 기반의 'Copilot for Security'를 도입
• 구글 : AI 기반 보안 운영 플랫폼인 제미나이를 활용
• 이글루코퍼레이션 : 머신러닝 기반 + AI 모델 = 하이브리드 모델 제공

04. 보안과 AI, 보이지 않은 혁신의 동반자

 

좋은 보안 -> 눈에 보이지 않아야 함

=> 보안이 사용자의 경험에 최소한의 영향을 미침 + 효율적으로 사용자를 보호

 

생성형 AI 역시 눈에 보이지 않으면서 우리를 안전하게 보호해야 함