• KIMA Newsletter

    미 CRS의 딥페이크와 국가안보 관련성 보고서 [제1261호]
      발행일  2022-06-16
    KIMA Newsletter [제1261호,2022.06.16] 미 CRS 딥페이크와 국가안보.pdf



    지난 6월 3일 미국 의회연구원(United States Congressional Research Service: US CRS)은 ‘딥페이크와 국가안보(Deep Fake and National Security)’라는 주제로 보고서를 발간했다.
    해당 보고서는 “지난 몇 년 간 세계 주요 국가를 포함해 많은 국가들에게 확산됐던 딥페이크(Deep Fake: 가짜정보 확산)가 미국 국가안보에 미치는 영향이 무엇이고, 어떻게 활용되고 있으며, 미 국가정보당국은 이에 대해 어떻게 대응해야 하는가”를 평가했으며, 주요 내용은 다음과 같다.
    첫째, 딥페이크는 “인공지능(Artificial Intelligence: AI) 기술을 활용해 조작된 사진과 영상을 만들어 소셜네트워크(SNS)에 유포함으로써 해당 국가 국가안보에 심각한 영향을 주는 것”으로 정의할 수 있으며, 2017년부터 해당 국가안보에 실질적인 영향을 미치는 추세다.
    이러한 딥페이크 확산과 함께 인공지능 등 관련기술들의 발전이 가속화돼 파급효과가 크며, 해당국가의 안보를 무형적으로 위협하고 있다.
    딥페이크는 인공지능의 부속기술인 머신러닝(MachineLearning: ML)을 기반으로 한 적대적 생성 신경망(Generative Adversarial Networks: GANs) 기술을 통해 고도화 되고 있다.
    GANs의 프로세스는 2개의 ML 시스템이 경쟁하는 과정으로 진행된다. 여기서 하나의 ML 시스템(A로 지칭)은 조작된 정보(counterfeit data)를 생산해내고, 다른 하나의 ML 시스템(B로 지칭)은 이것을 검증한다. 이 과정은 B가 A의 정보를 조작된 정보가 아닌 사실로 받아들일 때까지 수천, 수만 번 이상 이뤄지며, 이 과정에서 조작된 정보가 더욱 정교하게 다듬어진다.
    이러한 GANs의 프로세스에 따라 생성된 딥페이크는 사실과 매우 유사한 조작된 정보로 유통됨으로써 해당국가의 안보에 위협이 되고 있다.
    하지만 딥페이크는 새롭게 나타난 현상이 아니다. 그동안 미국을 포함한 많은 국가에서 딥페이크 추세가 나타났음에도 불구하고 관심을 크게 두지 않았다. 이후 인공지능(AI) 기술이 급속도로 발전하면서 국가안보에 대한 새로운 위협으로 대두됐다.
    둘째, 왜 딥페이크가 국가안보를 위협함에도 불구하고 해당국가가 제대로 대응하지 못했는가? 딥페이크 GANs가 뉴스 브리핑 등이 아닌, 주로 흥미 위주의 SNS를 대상으로 하고 있기 때문이다. 특히 인터넷 사용자들이 이를 선호하고 있는 것이 문제다.
    국가당국도 대응을 소홀히 함으로써 이러한 딥페이크가 개인에서 소규모 단체, 그리고 대규모 시위 등으로 확산되고 있어 국가안보 위협이 되고 있다.
    이러한 딥페이크의 확산은 해당국가의 안보와 국방정책 입안과정에 부정적 영향을 미치면서 전문가들의
    합리적인 정책 제시에 부정적인 영향을 미치고 있다.
    대표적으로 2016년부터 진행된 러시아발 딥페이크가 2017년 미국 대선에 영향을 준 사례와 2022년 3월 우크라이나 볼로디미르 젤렌스키(Volodymyr Zelensky) 연설 내용이 왜곡돼 전파된 사례가 있다.
    더욱 심각한 문제는 딥페이크 식별과 출처를 찾아 대응하는 것이 어려우며, 개인 사용자들이 이를 거부하도록 하기가 쉽지 않다는 것이다.
    셋째, 미국 정보당국은 점차 강력해지고, 확산되고 있는 딥페이크에 어떻게 대응해야 하는가?
    2021년 『미국 국방수권법(National Defense Authorization Act: NDAA)』은 미 국방부 정부기관을 통해 다양한 딥페이크 대응방안을 강구하라고 지시하고 있다. 이에 NSF와 NIST 등 정보기술 기관들이 딥페이크에 사용될 SNS의 통제에 나서고 있다.
    특히 미 국방부 고등기술연구원(DARPA)은 미디어 포렌식(MedFor)과 세만틱 포렌식(SemaFor) 관련 기술을 개발해 SNS에서 일관되고 상호 일치되지 않은 딥페이크를 식별하도록 하고 있으며, MedFor에 2억 9천만 불, SemaFor에 8천만 불의 예산을 요청했다. DARPA는 이를 통해 딥페이크가 SNS를 통해 확산되는 것을 방지할 수 있는 알고리즘(algorithm)을 개발해 사전 차단하겠다고 밝혔다.
    또한, 딥페이크 사용자들의 대응이다. 일종의 ‘쥐와 고양이 싸움(cat-and-mouse game)’ 양상과 같이 SNS상 네트워크를 업그레이드해 딥페이크 대응 알고리즘에 대처하고, 여기에 대응 억제방안까지 만들어 기존 알고리즘을 무력화시키고 있다.
    넷째, 미 의회의 과제 제안이다. 미국 국가안보에 위협이 되는 딥페이크가 해외로부터 유입되는 것을 심각히 우려해야 하고, DARPA가 개발하고 있는 딥페이크 알고리즘이 일회성에 그치지 않도록 지원해야 하며, 연방정부만이 아닌 주정부 차원에서 딥페이크 대응 방안이 구축될 수 있도록 촉구해야 한다.
    특히 상기 미 정보기관과 국방부 차원에서의 딥페이크 대응방안들이 미국이 지향하는 언론의 자유와 보도의 투명성을 저해하지 않도록 주의해야 하며, 딥페이크를 사용하는 러시아 등의 국가들이 역이용하는 사례가 되지 않도록 해야 한다.
    궁극적으로 이번 CRS 보고서는 그동안 소홀히 대응한 딥페이크 심각성을 지적하면서, 2017년 미국 대선과 현재 진행 중인 우크라이나 전쟁에서 나타나고 있는 딥페이크에 대한 미래지향적 대응책 강구를 요청했다.

    * 출처 : FEDSOC.org, June 1, 2022; United States Congressional Research Service, Deep Fake and National Security, June 3, 202.

    저작권자ⓒ한국군사문제연구원(www.kima.re.kr)