[2441104] 딥페이크란 무엇이고, 기업에 어떤 영향을 미치는가?

본 글은 SAMSUNG SDS의 인사이드 리포트 https://www.samsungsds.com/kr/insights/what-is-a-deepfake.html 를 요약 작성함.

---

딥페이크란?

실제로 행동하지 않았거나 말하지 않은 것들을 한 것처럼 조작한 이미 또는 영상을 말한다.

deep learning(인공지능 기술로 이미지, 비디오, 오디오 등을 합성) + fake(현실에 존재하지 않는 것이나 발생한 적이 없는 사건)

 

딥페이크 콘텐츠가 빠르게 확산되면서 대중이 이 정보를 진짜로 믿게 되는 경우가 빈번해지고 있다. 딥페이크 기술은 2017년부터 급격히 발전하였는데, AI 알고리즘이 데이터 분석과 학습 능력을 통해 점점 더 정교한 합성을 가능하도록 만들었다.

 

딥페이크는 딥러닝 알고리즘을 통해 대량의 데이터를 학습하고 목소리, 얼굴 등을 모방하여 가상의 이미지나 동영상을 생성 가능한데, 이 기술은 주로 영상 편집이나 목소리 변조에 사용되며 매우 정교하기 때문에 실제와 거의 구분이 가지 않는다.

 

딥페이크는 주로 두 가지 기술로 구성된다.

 

 ●  Autoencoders: 업에 신경망을 활용하도록 하는 비지도 학습 방법. 입력된 데이터 압축, 압축된 데이터를 바탕으로 원래의 데이터와 유사한 형태로 복원하는 신경망. 

https://velog.io/@jochedda/%EB%94%A5%EB%9F%AC%EB%8B%9D-Autoencoder-%EA%B0%9C%EB%85%90-%EB%B0%8F-%EC%A2%85%EB%A5%98

 

 

● Generative Adversarial Networks (GANs): 두 개의 신경망, 생성자와 판별자가 서로 경쟁하면서 학습하는 구조.

 Generator(G,생성모델/생성기) -> 진짜와 구분할 수 없는 가짜 이미지 생성

 Discriminator(D,판별모델/판별기) -> 이 이미지가 진짜인지 가짜인지 판별

Hamed Alqahtani. 2019. An Analysis Of Evaluation Metric Of GANs

딥페이크의 활용

● 마케팅 및 광고

동일한 유명 인플루언서나 셀러브리티를 여러 언어로 등장하는 기술을 만든다. 연예인이나 유명 모델과 직접 협력하지 않고도 이미지와 목소리를 사용할 수 있어 비용 절감에 크게 기여할 수 있다. 또한 기술적으로 촬영이나 계약 없이도 다양한 변형 광고를 쉽게 제작할 수 있기 때문에 비용 효과적이기도 하다. 

 

● 교육

딥페이크는 역사적 인물을 생생하게 재현해 학생들에게 실감나는 교육 경험을 제공한다. 이를 활용하면 언어 학습 과정에서 학습자의 언어 수준에 맞춰 교사나 유명인이 다양한 상황에서 가상 대화를 나누는 장면을 만들 수 있다. 이를 통해 몰입형 환경에서 자연스레 언어 습득이 가능하다. 또한 기업 교육 프로그램에서도 기업의 CEO나 임원이 직접 참석하지 않더하도 딥페이크 기술을 활용해 가상 리더십 세션을 진행할 수 있다.

 

● 의료

딥페이크 기술은 발음 장애나 실어증을 겪는 환자들에게 목소리를 복원하거나 맞춤형 의사소통 장치를 제공하는 데 활용된다. 딥페이크 음성 합성 기술을 통해 환자의 실제 목소리를 복제하고, 텍스트나 제스처를 입력하면 환자의 목소리로 말하는 장치를 개발할 수 있다. 이를 통해 환자의 자존감을 높이고 심리적 안정감을 제공한다. 

 

● 영화 및 엔터테인먼트

배우의 나이, 고인의 복원, 대역 배우 활용, 목소리 합성 등 다양한 방식으로 활용되며, 창의적인 연출과 더불어 현실적인 몰입감을 제공한다. 이 기술을 통해 관객에게는 자연스러운 연출을 제공하고, 주연 배우가 직접 모든 장면을 촬영하지 않아도 되는 이점을 준다.

 

딥페이크가 기업에 미치는 부정적 영향

●  기업 명성 손상

기업의 대표나 임원이 가짜 발언을 하는 영상이나, 제품 관련 허위 광고 영상이 유포될 수 있다. 딥페이크 기술이 가짜 정보를 유포하는 경우, 고객과 투자자들 사이에서 불신이 생길 수 있으며 이는 경제적 손실로 이어질 수 있다. 이 기술을 이용해 의도적으로 평판을 훼손하는 경우도 발생할 수 있다.

 

●  고객 신뢰 상실

고객들은 진짜와 가짜를 구분하기 어려워 기업이 제공하는 정보를 의심할 수 있다. 딥페이크 기술로 인해 영상과 음성에 대한 사회적 신뢰도가 떨어지면 기업의 홍보 및 커뮤니케이션 활동 전반에도 부정적 영향을 끼칠 수 있다.

 

●  법적 및 규제 리스크

딥페이크로 인해 발생한 피해에 대해 기업은 법적 책임이 부과될 수 있으며 이에 대한 규제나 법적 대응에 소요되는 비용이 발생할 수 있디.

 

딥페이크 위협으로부터의 대응 방안

●  딥페이크 모니터링 및 탐지 기술 도입

딥페이크 영상을 자동으로 식별할 수 있는 AI 기반 탐지 도구를 도입하는 것이 필수적이다. 딥페이크 탐지 솔루션을 활용해 가짜 콘텐츠가 생성되는 것을 조기에 감지하고 대응할 수 있다. 기업은 중요한 거래나 결정을 내릴 때 다중 인증과 같은 추가적 보안 절차를 도입해야 한다. 

 

●  법률적 대비책 구푹

딥페이크 공격을 받았을 때 즉각적으로 대응할 수 있는 법적 절차와 방침을 마련해야 한다. 특히 사이버 보안 관련 규제와 관련한 협업이 중요하다.

 

●  위기 관리 계획 수립

중요한 공지나 발표는 공식 채널을 통해 이루어져야 하며 비공식 경로로 유포되는 정보는 의심하고 검증하도록 권장할 필요가 있다. 신속한 대중 대응 및 위기 관리 절차는 딥페이크로 인한 피해를 최소화하고 기업의 이미지 회복에 도움을 준다. 딥페이크 위협을 사전에 차단하고 발생한 위협에 신속히 대응할 수 있는 체계를 갖는 것이 중요하다.