“대만족” 후기 남긴 고객, 알고 보니... AI가 만든 가짜 얼굴
“대만족.” “신규 사업을 시작해 자격증을 살렸어요.”
일본의 한 통신판매 사이트와 자격증 강좌 사이트에 올라 온 이 후기는 글쓴이의 사진과 함께 게재돼 왠지 믿음이 간다. 하지만 이 사진은 인공지능(AI)이 생성한 가상의 인물 사진. 회사 측이 지구상에 존재하지 않는 사람의 얼굴을 내세워 고객인 것처럼 가장해 후기를 올린 것이다.
이처럼 AI 프로그램을 이용해 만든 가상의 얼굴 사진이 다수의 상업적 웹사이트에서 취지와 다르게 이용되고 있다고 요미우리신문이 13일 보도했다. 신문에 따르면 일본 오사카시의 IT기업 ‘AC웍스’는 기업 등에서 이미지 사진이나 가상 모델 등으로 활용할 수 있도록 AI로 만든 가상의 인물 사진을 무료로 제공하는 서비스를 2년 전에 시작했다. 물론 실재하는 고객인 것처럼 가장해 게재하는 행위 등은 규약으로 금지하고 있다. 하지만 요미우리신문이 이 회사에서 제공받은 103명 분의 사진 이용상황을 조사한 결과, 규약을 위반하는 방식으로 게재하고 있는 사이트가 적어도 90개에 이르는 것으로 확인됐다.
구체적인 사례로 건강식품이나 인재파견, 시스템개발회사 등의 사이트가 ‘고객의 소리’라며 자사 제품을 추천하는 후기를 올린 경우가 많았다. 회사 측에선 직업을 세무사 등으로 소개했지만 사실은 가짜 사진을 이용한 허위 게시글이다.
도호쿠지역 유품정리회사의 웹사이트에는 “자격 있는 회사에 부탁해서 다행입니다”라는 후기와 함께 온화한 표정의 남성 사진 2건이 게재돼 있었다. 사이트 운영자는 “얼굴이 있으면 글의 신빙성이 높아진다”며 “실제 손님의 사진을 게재하는 것은 허락을 받기 어렵지만, 가공의 얼굴이라면 아무도 불평하지 않을 것이라고 생각했다”고 신문에 밝혔다.
회사 구성원들의 신뢰도를 높이기 위해 가상의 얼굴 사진을 이용하는 사례도 있었다. 한 어린이 영어회화 사이트는 “일류 이중언어 교사들입니다”라면서 강사 16명을 사진과 함께 소개했는데 이 중 최소 11명은 가짜 사진이었다. 중부 지방의 한 컨설팅 회사는 소속된 세무사나 법무사의 사진과 이름을 적어두었는데, 사진뿐 아니라 내용까지 허위였다. 세무사연합회 등에 문의한 결과 그런 사람은 존재하지 않았다.
신문은 AC웍스가 이들 회사에 자사 사진의 활용 규약을 위반했으니 콘텐츠를 삭제하라고 요구할 것이라고 밝혔다고 전했다. 그러면서 “가상과 현실의 경계가 모호해지면 무엇이 진짜인지 헷갈리게 된다”며 “윤리적인 선 긋기와 규제 방식에 대한 논의를 시작해야 한다”고 지적했다.
AI로 있지도 않은 사람의 모습을 만들어서 거짓 게시물에 쓴 이유는 뭐야
얼굴이 있으면 글의 신빙성이 높아진다