네이버, 음란 이미지 필터링 고도화…4가지 등급으로 세분
네이버가 음란물 필터링 시스템를 고도화했다. 기존에 정상/음란으로 구분하던 이미지 필터링을 정상/음란/성인/선정 4가지 등급으로 세분했고 정확도도 99.5%까지 끌어올렸다는 설명이다.

네이버는 음란 이미지를 실시간으로 감지해 검색 노출을 막는 ‘엑스아이(X-eye)’의 차세대 버전인 엑스아이 2.0을 7월부터 적용한다고 29일 밝혔다. 2017년 처음 선보인 엑스아이는 400여만 장의 이미지를 형태별로 분류해 AI 학습을 거쳐 탄생했다. 네이버는 엑스아이 도입 이후 98.1%의 적중률로 유해한 사진, 동영상을 실시간으로 걸러냈다고 밝혔다.

새롭게 선보이는 엑스아이 2.0에는 네이버 AI랩과 클로바가 진행한 선행 이미지인식 기술 연구결과가 활용됐다. 정확도가 더욱 높아진 고성능 이미지인식 모델 ‘렉스넷(ReXNet)’, AI 모델 학습 시 데이터 부족을 위해 사용되는 데이터증강기법 ‘컷믹스(CutMix)’, 안정적으로 모델을 학습하고 인식 정확도를 향상시키는 최적화 기법 ‘AdamP’ 등 다양한 AI 기술들이 적용됐다는 설명이다.

엑스아이 1.0에서 정상/음란으로만 구분하던 음란 이미지는 엑스아이 2.0에서 정상/음란/성인/선정 4가지 등급으로 세분된다. 판단 정확도도 99.5%까지 높아졌다는 게 네이버 측의 설명이다. 문제되는 부분이 지나치게 작게 나오거나 희미한 경우 등 잘못 탐지할 가능성이 높은 문제도 보완됐고 놓친 이미지에 대해서도 AI 모델이 빠르게 자동학습이 가능하도록 설계됐다.

유봉석 네이버 서비스운영총괄은 “네이버는 음란물, 성인물은 물론 불법촬영물, 혐오 등 사회적 변화에 맞춰 다양한 유해 콘텐츠 차단을 위해 지속적으로 노력해오고 있다”며 “추후 엑스아이의 오픈 API 기술을 공개해 아직 기술이 부족한 스타트업과 사업자 등 다양한 영역에서 활용할 수 있도록 준비 예정”이라고 밝혔다.
유해물 차단을 위해 7월부터 네이버가 어떤 시스템을 시행하는 거야
엑스아이 2.0