딥페이크 어플 '인싸놀이'에 아른거리는 디지털 성범죄
상태바
딥페이크 어플 '인싸놀이'에 아른거리는 디지털 성범죄
딥페이크 어플 이용한 합성영상 SNS서 인기
감쪽같지만 알고보면 서늘해지는 딥페이크 기술의 두 얼굴
타인 이미지 무단 사용하면 '초상권 침해'...성범죄 악용 우려 커
"가치중립성 신화 벗어나 적극적인 감시 시스템, 피해 예방책 마련해야"
  • 손지인 기자
  • 승인 2021.09.10 13:37
  • 댓글 0
이 기사를 공유합니다

딥페이스 어플 '페이스플레이'와 '리페이스'.
딥페이스 어플 '페이스플레이'와 '리페이스' 화면 갈무리.

[PD저널=손지인 기자] 인공지능(AI) 기술을 이용해 특정 인물의 얼굴, 신체 등을 원하는 영상에 합성하는 ‘딥페이크 어플'이 인기를 끌고 있다. SNS에서는 딥페이크 어플을 이용한 '인싸놀이'가 유행이지만, 범죄 악용을 경계하는 목소리도 나온다. 

앞다퉈 출시되고 있는 딥페이크 어플 중에 중국 회사 이노베이셔널 테크놀로지스가 개발한 ‘페이스플레이’와 우크라이나 회사 네오코텍스트가 만든 ‘리페이스’가 이용자들에게 널리 알려진 어플로 꼽힌다.   

'페이스플레이'는 9일 오후 앱 스토어 사진 및 비디오 부문의 무료 앱 인기차트에서 인스타그램(2위)와 유튜브(3위)를 제치고 1위에 오를 정도로 높은 관심을 받고 있다. 지난 5일에는 앱 스토어 전체 무료 앱 인기차트에서 ‘페이스플레이'가 1위에 올랐다. 

어플 이용법은 간단하다. 어플에서 제공하는 영상을 선택해 이용자의 휴대폰 앨범 속 사진을 고르면 자동으로 딥페이크 영상이 완성된다. 영상과 사진의 각도가 잘 맞으면 실제로 촬영한 영상처럼 보일 정도로 감쪽같다. 영상이 완성되면 곧바로 저장과 다른 SNS로의 공유도 가능하다. 

SNS에서는 해당 어플로 만든 딥페이크 영상을 게시하고 공유하는 놀이가 한창이다. ‘인스타그램’에서 ‘페이스플레이’나 ‘리페이스’를 검색하면 본인의 사진으로 만든 딥페이크 영상을 재밋거리로 공유하며 즐기는 모습을 쉽게 발견할 수 있다. 

딥페이크 기술이 일상에 가깝게 들어왔지만, 적법한 이용을 위해선 이용자들의 주의가 요구된다.  

현재 ‘페이스플레이’와 ‘리페이스’ 모두 이용자의 휴대폰 앨범에 있는 사진이라면, 타인의 사진으로도 딥페이크 영상을 만들 수 있다. 타인의 이미지를 허락 없이 사용할 경우 초상권 침해에 해당할 수 있다는 지적이다.

손승우 중앙대 산업보안학과 교수는 “타인의 초상을 가지고 허락 없이 영상을 제작하게 되면 대개 초상권 침해 가능성이 상당히 높다. 영상의 성격에 따라 명예훼손에 해당할 수도 있다”면서 “타인의 초상으로 딥페이크 영상을 만든다면 사전 허락을 받고 만들어야 한다”고 말했다.

해외 제작사에서 만든 딥페이크 어플이 많아 개인정보 유출 우려도 적지 않다. 중국 어플인 '페이스플레이' 이용 후기에는 개인정보가 유출될 수 있어 조심해야 한다는 경고글이 심심치 않게 보인다. 

무엇보다 디지털 성범죄에 악용될 우려가 크다. 출시된 딥페이크 어플은 유명인의 이미지를 합성 영상으로 제공하고 있지만, 음란물 제작이 가능한 어플이 나올 가능성이 없지 않기 때문이다.

디지털성범죄 피해자지원센터가 2020년 9월부터 12월까지 1만 8191건의 불법합성물을 직접 추적한 결과 아이돌 등 가수(71%), 배우(5.5%) 등 유명인의 피해가 컸지만, 학생·직장인을 대상으로 한 딥페이크 영상도 19.5%를 차지했다.  

서승희 한국사이버성폭력대응센터 대표는 “복잡한 컴퓨터 프로그램을 통해서 딥페이크 기술을 이용할 때도 여성 연예인 등을 대상으로 하는 수많은 딥페이크 포르노 영상이 만들어졌다. 딥페이크 기술이 어플을 통해 대중화되고 있는 지금, 디지털 성범죄로의 악용이 우려될 수밖에 없는 상황”이라면서 “무엇보다도 타인의 사진을, 특히 성적인 방식으로 합성하고 공유하는 것은 성범죄이자 성폭력이라는 사실을 관계기관이 적극적으로 알릴 필요가 있다”고 했다.

딥페이크 음란물을 제작 유포하는 행위는 처벌 대상이다. 성폭력범죄의 처벌 등에 관한 특례법에 따르면 불법합성물을 제작·유포한 사람은 ‘5년 이하의 징역 또는 5000만원 이하의 벌금’에 처하고, 영리 목적으로 유포하면 ‘7년 이하의 징역’으로 가중 처벌된다. 불법합성물을 소지하거나 시청하는 것만으로 처벌이 가능한 법안도 발의된 상태다. 

과학기술이 가치중립적이라는 신화에서 벗어나 적극적인 피해 예방에 나서야 한다는 목소리도 나온다. 

최병호 고려대 Human-inspired AI 연구소 교수는 “딥페이크로 인한 사회적인 문제는 점점 더 악랄해질 것"이라며 "‘딥페이크’를 비롯한 인공지능 기술은 이미 편견 덩어리인 현재 모습들을 활용한 데이터를 기반으로 하기 때문에 기술 자체가 중립적일 가능성이 없다"고 지적했다. 

이어 최병호 교수는 “딥페이크 기술은 소스가 오픈되어 있어 어플이 없어도 누구나 쉽게 딥페이크 기술을 이용하고, 또 악용할 수 있는 상황이다. ‘n번방’ 사건처럼 디지털 성범죄에 피해자를 계속해서 끌어들이고, 피해자의 정치·사회적인 생명을 뺏는 게 쉬워진 것”이라며 “악용을 막기 위해서는 일어날 범죄를 해결할 법률과 딥페이크와 같은 인공지능 기술을 어떻게 만들어야 할지에 대한 윤리선언, 시민사회의 조직적이고도 지속적인 감시 시스템이 필요하다”고 말했다.


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.
주요기사
이슈포토