AI 서비스 이용자 보호 원칙 마련...'알고리즘은 공개 제외'
상태바
AI 서비스 이용자 보호 원칙 마련...'알고리즘은 공개 제외'
방통위, 디지털 미디어 플랫폼 적용 이용자 보호 기본원칙안 토론회
투명성·공정성·책무성 핵심원칙..."기준 모호해" 지적
  • 박수선 기자
  • 승인 2021.05.20 17:49
  • 댓글 0
이 기사를 공유합니다

경기도 과천정부청사 방송통신위원회. ⓒ방통위
경기도 과천정부청사 방송통신위원회. ⓒ방통위

[PD저널=박수선 기자] 방송통신위원회(이하 방통위)가 인공지능 추천 서비스 이용자 보호를 위해 투명성, 공정성, 책무성을 핵심요소로 한 기본원칙(안)을 마련했다.  

방통위와 정보통신정책연구원은 20일 ‘인공지능 기반 추천 서비스 이용자 보호를 위한 기본원칙(안)’을 공개하고 각계 의견을 듣는 토론회를 열었다. 

AI 추천 서비스 기본원칙(안)은 미디어 분야의 추천 서비스 제공자에게 권고되는 자율규범으로, AI 서비스의 사회적 영향력이 커지면서 발생하는 처별‧편향‧불공정성 등의 역기능으로부터 이용자를 보호하기 위해 마련됐다. 

한상혁 방통위원장은 “지능정보사회 핵심인 인공지능이 사회에 다양하게 스며들면서 편리함을 주고 있지만 기술의 오용, 확증편향 등 부정적인 측면도 있다”며 “인공지능 추천서비스 이용자 보호 기본원칙을 통해 지능정보 분야 산업과 이용자와 함께 성장하기를 바란다”고 말했다. 

기본원칙 발표를 맡은 권은정 정보통신정책연구원 부연구위원은 “국내외 주요 디지털 플랫폼에서 인공지능 알고리즘을 적용한 콘텐츠 추천 서비스가 상용화됐다"며 "특히 (인공지능 추천 서비스는) 디지털 미디어 영역에서 이용자 권익 보호와 결부되어 중요한 이슈로 부상하고 있다”고 추진 배경을 설명했다. 

디지털 미디어 플랫폼에 특화된 기본원칙은 투명성, 공정성, 책무성이 핵심이다. 실행원칙으로는 △이용자를 위한 정보공개 △이용자의 선택권 보장△자율검증 실행 △불만처리 및 분쟁해결 △내부규칙 제정 등이 제시됐다. 

권은정 부연구위원은 “디지털 미디어 플랫폼에서 제공되는 인공지능 기반 추천 서비스의 투명성과 공정성을 제고하기 위해 서비스 제공자에게 권고되는 자율적인 실천규범”이라며 “디지털 미디어 콘텐츠의 편향적 차별적 제공을 방지하기 위한 목적”이라고 설명했다. 

방통위는 인공지능 기반 추천 서비스를 “인공지능 알고리즘을 적용해 자동화된 배열 시스템을 통해 이용자에게 미디어 콘텐츠를 선별적으로 노출시키는 서비스”로 규정했다. 

권은정 부연구위원은 서비스 제공자에게 요구하는 투명성에 대해 “인공지능 기반 추천 서비스 제공 여부와 추천 시스템에 적용된 콘텐츠 자동 배열의 주요 기준, 기속적인 검증 개선 시스템의 작용 여부 및 결과를 공개한다는 의미”라면서도 "'자동 배열의 주요 기준'이 알고리즘 자체를 공개하는 뜻은 아니"라고 강조했다. '알고리즘 제외'에 대해 구체적인 언급은 없었지만 포털 등 플랫폼 사업자들이 알고리즘이 영업비밀에 해당한다는 이유로 비공개 방침을 유지하고 있는 것과 무관치 않아 보인다.  

이어진 토론에선 기본원칙안이 자율규범 성격이더라도 기준이 모호하다는 지적이 많았다.  

이수영 카이스트 교수는 “이루다 챗봇 논란도 모은 데이터를 익명화하지 않아서 생긴 문제”라면서 “투명서의 핵심 요소는 데이터를 어떻게 어떤 방법으로 수집하고 가공했느냐”라며 구체적인 가이드라인 마련이 필요하다고 봤다.    

황용석 건국대 교수는 “기본원칙 적용 대상이 불명확한 부분이 있다. 부가통신사업자 중에 자동화된 배열적 서비스를 제공하는 사업자가 될 것으로 보인다”고 짚은 뒤 “방통위의 기본원칙은 최소규제 측면에서 보면 강한 법률안이긴 하지만, 기준 자체를 분명히 하는 게 필요하다“는 의견을 냈다. 

사업자와 이용자를 대변한 토론자들은 다른 이유로 기본원칙안에 부정적인 입장을 드러냈다. 

권세화 한국인터넷기업협회 실장은 “디지털 미디어가 콘텐츠를 추천하는 목적은 더 좋은 제품을 소개하고, 수익을 창출하는 것”이라며 “기본원칙은 시장경제 원리에 반하는 것으로 구성되어 있다”고 말했다.

정지연 한국소비자연맹 사무총장은 “추천시스템의 알고리즘은 제외한다고 강조했는데, 사업자들이 알고리즘 문제가 발생했을 때 알고리즘 뒤로 숨는 경우를 너무 많이 봤다”고 꼬집었다. 

그러면서 “핵심원칙에서 ‘알고리즘 제외’를 지나치게 강조하고 있어 이용자 보호라는 본질을 비켜가는 게 아닌가 우려되는 측면이 있다”고 실효성에 의문을 제기했다.  

방통위는 토론회에서 나온 의견을 취합해 AI 추천서비스 기본원칙을 확정할 예정이라고 밝혔다. 


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.
주요기사
이슈포토