'악플' 거른다는 네이버 AI기술, '짱깨'·'맘충' 혐오표현 그대로 노출
상태바
'악플' 거른다는 네이버 AI기술, '짱깨'·'맘충' 혐오표현 그대로 노출
네이버, 욕설·혐오표현 자동으로 숨겨주는 '클린봇' 전체 뉴스에 확대 적용...혐오성 댓글 맥락 이해 미흡하고 차단 기준 모호
"이용자 신고 등 반영해 클린봇 학습, 고도화하는 시스템"..."소수자 차별 금지' 원칙 보여줘야"
  • 박예람 기자
  • 승인 2019.11.27 12:31
  • 댓글 2
이 기사를 공유합니다

네이버 ⓒ뉴시스
네이버 ⓒ뉴시스

[PD저널=박예람 기자] 네이버가 악성 댓글을 거르기 위해 전체 뉴스에 클린봇 기능을 확대 적용한 뒤에도 혐오 표현이 담긴 악성 댓글은 사라지지 않고 있다. 사회적 소수자에 대한 혐오 표현을 규제해야 한다는 목소리는 갈수록 커지고 있지만 아직까지 맥락 파악에 미흡한 AI기술로 혐오 댓글에 대응하는 것은 역부족이라는 지적이다. 

네이버는 지난 12일부터 AI기술을 활용해 욕설이 포함된 악성댓글을 자동으로 숨겨주는 기능인 '클린봇'을 전체 뉴스 영역에 확대·적용하고 있다. 설리 사망으로 '악플'이 사회적 문제로 떠오른 이후 포털사이트 다음의 '연예뉴스 댓글 폐지'에 이어 네이버가 내놓은 댓글 개선책이었다.   

네이버 이용자가 클린봇 모드를 켜고 네이버 뉴스 댓글창을 볼 경우 욕설이 담긴 댓글은 “클린봇이 이용자 보호를 위해 숨긴 댓글입니다”라는 안내문으로 대체되는 방식이다. 클린봇은 20만 개에 이르는 욕설DB와 국어사전DB에 기반해 24시간 욕설과 혐오 표현 댓글을 감지한다고 한다.

네이버 관계자는 “2012년에 도입한 ‘욕설 자동 치환’의 경우엔 욕설DB에 등록된 단어와 정확히 일치해야 걸러낼 수 있었지만 클린봇은 무수히 파생되는 욕설과 혐오 표현을 실시간으로 사람처럼 인지하고 차단할 수 있다”며 “이용자의 신고를 받은 댓글 또한 클린봇 학습에 이용되며 고도화 되는 구조”라고 설명했다.

네이버가 '악플' 필터링 기술을 고도화하고 있지만, 혐오성 댓글이 근절됐다고 보기는 어렵다. 

네이버가 클린봇 적용을 확대한 이후 댓글창을 살펴본 결과 욕설은 'ㅈㄴ'처럼 자음만 딴 경우나 맞춤법을 일부러 틀리게 표기한 경우에도 차단하는 것으로 확인됐다.

하지만 홍콩 시위 소식을 전한 기사에선 중국인을 폄하하는 뜻으로 주로 쓰이는 '짱깨'라는 표현을 쓴 댓글이 클린봇을 활성화한 상태에서도 노출됐다. 영화  <82년생 김지영> 흥행을 계기로 30대 여성의 고용률·실업률을 살펴본 기사에는 아이가 있는 기혼 여성을 '맘충'으로 표현하면서 멸시하는 댓글이 줄줄이 달렸다. 

국가인권위원회는 지난달 발간한 혐오표현 리포트에서 혐오 표현을 “성별,장애, 종교, 나이, 출신지역, 인종, 성적 지향 등을 이유로 어떤 개인집단에서 모욕‧비하‧멸시‧위협 또는 차별‧폭력의 선전과 선동을 함으로써 차별을 정당화‧조장‧강화하는 효과를 갖는 표현”이라고 정의했다. 

문장에 혐오의 의미가 담긴 댓글을 차단하는 기준은 더 모호하다. 가령 불법촬영물 피해를 입은 여성을 대상으로 “잘 봤습니다”라며 여성혐오적인 댓글을 단 경우도 클린봇은 차단하지 않고 있다. 

네이버 관계자는 “클린봇의 블라인드 조치가 특정 단어가 포함되었는지 여부로 결정되기보다는 해당 문장과 표현에 따라 이뤄진다”며 “악성 댓글의 정의는 개인마다 다른 만큼 보편적인 수준에서 이용자들이 공감할 수 있는 표현을 규제하고 있다”고 말했다.

네이버가 게시한 '클린봇' 공지글. ⓒ네이버
네이버가 게시한 '클린봇' 공지글. ⓒ네이버

네이버는 '클린봇'이 거르지 못한 댓글은 댓글 신고와 게시 중단 요청 제도로 규제할 수 있다는 입장이다. 하지만 네이버는 현재 댓글 신고 사유로 '특정인 비방 욕설' '단체 명예훼손'은 명시하고 있지만 '소수자 혐오'를 따로 분류하고 있지는 않다. 

네이버의 댓글 정책이 정화 노력에 그치는 게 아니라 '소수자 차별 금지'에 대한 방향과 원칙을 분명히 해야 한다는 목소리도 나온다. 

국가인권위원회가 지난 3월 실시한 여론조사에서 대다수 응답자는 혐오 표현의 대응이 필요하다는 데 공감하면서 ‘온라인 사업자 자율 규제’(80.9%,복수응답)를 주요 대책으로 꼽았다.

이동후 인천대 신문방송학과 교수는 “혐오 표현들은 각기 다른 적대 수준을 보이는데 이를 고려하지 않고 일괄 삭제하면 표현의 자유 침해 논란을 일으킬 수 있다”며 “포털 기업이 ‘소수자 혐오 불관용’ 원칙에 입각한 규제 기준을 마련해 혐오댓글은 엄단하는 한편 소수자의 대항 표현을 인정하는 등 실효성 있는 규제가 필요하다”고 지적했다.

‘혐오 행위 관련 정책’을 마련해 의도와 맥락을 고려해 혐오게시물을 규제하고 있는 트위터가 본보기다. 

트위터는 성전환자를 성전환 이전의 성별이나 이름으로 지칭하는 행위'를 사례로 들며 “보호 대상으로 규정한 소수자 집단의 인간성을 말살하거나 부정적 고정관념을 강화할 의도가 있는” 표현물에 대해 신고를 검토하고 조치를 취한다. 소수자 집단 구성원이 “역사적으로 개인을 비하하는 데 사용된 용어를 되찾기 위한 수단”으로 혐오 표현을 사용하는 경우는 예외로 둬 소수자의 대항 표현은 인정하고 있다.  

송경재 경희대 인류사회재건연구원 연구교수는 “클린봇과 같은 AI기술의 댓글 감지 속도는 빠르지만 댓글의 의도와 사회적 맥락을 읽는 건 여전히 인간의 몫”이라며 “포털 기업이 소수자 차별에 예민한 감수성을 바탕으로 혐오 댓글을 모니터링하고, 이용자들의 적극적인 신고를 유도하는 방안도 적극적으로 검토해야 한다”고 말했다.

 



댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 2
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.
고양이가세상을바꾼다 2019-11-27 12:53:59
동감합니다. 소수자 다루는 기사 더 조명해주시길 바랍니다

2019-11-29 00:36:40
조선족들 및 정병자들이 빵즈, 개한민국 , 조센진 이런표현 쓰면서 한국인들과 한국 비하하던데 한국인들만 꼭 그러는 거처럼 기사제목을 뽑은 거 같네요

주요기사
이슈포토