“사진 위·변조 꼼짝마”…‘딥페이크 탐지 모바일 앱’ 나왔다
한국과학기술원(KAIST, 총장 이광형))은 디지털 사진의 변형 여부를 탐지하는 모바일 앱 '카이캐치'(KaiCatch)를 개발해 서비스한다고 30일 밝혔다.

KAIST 전산학부 이흥규 교수 연구팀과 KAIST 창업기업인 디지탈이노텍이 공동 개발한 이번 기술은 인공신경망을 이용해 사진의 위·변조 여부를 확인할 수 있는 이른바 ‘인공신경망 기반 딥페이크 탐지’ 기술이다.

딥페이크(deepfake·인공지능 영상 합성) 탐지 앱 개발은 국내 최초로, 안드로이드 스마트폰에서 내려받아 사용할 수 있다.

이에따라 디지털콘텐츠 위변조 탐지가 필요한 공공기관, 산업계, 언론 및 방송사, 각종 포털 종사자들 및 일반인들도 손쉽게 활용할 수 있을 것으로 기대된다. 이번 모바일 앱 서비스는 본격적으로 일반인들도 손쉽게 디지털콘텐츠 위변조 탐지 기술을 활용할 수 있도록 실용화 단계로 들어섰다는 점에서 의미가 크다.

최근 딥페이크 등 각종 위·변조 영상으로 인한 가짜 뉴스, 음란물 제작, 영상 증거 조작 등이 사회적으로 논란이 되고 있다.

하지만 위조 여부를 확인할 수 있는 분석 도구가 없어 전문가의 주관적 판단에 의존해야 했다.

연구팀은 30여만장의 이미지 데이터, 포렌식 영상 데이터, 딥페이크 실험 영상 자료 등을 인공신경망을 통해 학습해 미세 변형·이상 신호 흔적을 탐지할 수 있는 기술을 개발했다. 이를 이용해 얼굴 영역의 미세 변형이나 코, 입, 얼굴 윤곽 등 얼굴 내 기하학적 왜곡이 발생 가능한 영역에서 이상 신호 흔적을 분석해 딥페이크를 탐지하게 된다.

분석 결과는 0에서 100까지의 값으로 표시되며, 숫자가 높을수록 딥페이크일 확률이 높다는 뜻이다.

이흥규 교수는 "예측할 수 없거나 알려지지 않은 변형 기법을 사용해도 90% 안팎의 높은 정확도로 탐지할 수 있다"며 "애플 iOS 기반 앱도 추가로 출시할 계획"이라고 말했다.

이 교수는 이어 “이번에는 안드로이드 기반의 모바일 환경에서만 동작하는 앱 서비스 기술로 개발됐지만, 가까운 기간내 애플 iOS 기반의 앱 출시와 함께 영어, 중국어, 일어 앱 들도 출시하려고 한다”며 “기존 탐지 기법과는 매우 상이한 기법들을 사용한 위변조 탐지 기술도 실용화해 카이캐치에 추가 탑재 운용함으로써, 탐지가 안 되는 각종 예외 경우들을 대폭 줄이도록 노력하겠다”고 덧붙였다.

이번 연구는 KAIST 창업기업인 ㈜디지탈이노텍(http://www.kaicatch.com/) 과 산학협력 연구로 수행됐다.

카이캐치 앱을 KAIST와 공동 개발한 업체는 어디야
㈜디지탈이노텍