“신고·예방·상담 먼저”… 네이버,디지털 범죄 방지 캠페인 진행

[네이버 제공]

[헤럴드경제=김민지 기자] 네이버가 디지털 성범죄 방지를 위한 캠페인에 나섰다.

네이버는 디지털 성범죄 관련 검색어 입력시 2차 피해를 방지하기 위한 피해자 지원 정보 및 피해 예방 캠페인 내용을 우선 노출한다고 24일 밝혔다.

특히, 성범죄 뿐만 아니라 ‘일반인 몰래카메라’, ‘일반인 불법 촬영물’ 등과 같은 키워드까지 캠페인 노출 범위를 확대 2차·3차 피해를 막기 위한 노력한다는 방침이다.

네이버는 서비스 초기부터 ‘운영원칙’에서 불법게시물 제한과 관련한 내용을 명시해왔다. 특히, 2018년부터는 이용자들이 이해하기 쉽도록 약관을 명확하게 변경하고, ‘사회적 약자 학대를 묘사한 게시물’ 등 불법 게시물의 종류를 보다 구체적으로 명기, 불법 게시물 제한 정책을 강화한 바 있다.

음란물 유통 방지를 위한 기술적 조치도 시행하고 있다. 자체 개발한 AI기반 음란 게시물 필터링 시스템 ‘X-eye(엑스아이)’가 게시물이 업로드 되는 단계부터 선제적으로 음란 게시물을 차단한다. 이용자가 게시물을 업로드하면 게시물에 포함된 사진, 동영상이 별도의 ‘엑스아이’ 서버를 통해 실시간으로 검수된다. 음란물로 판별된 게시물은 즉시 삭제되는 구조다. 필터링된 데이터가 쌓이면서 엑스아이는 자체적으로 음란 게시물 판별 정확도를 업그레이드 한다. 네이버에 따르면, 현재 엑스아이의 정확도는 약 99%에 달한다.

인력을 동원한 상시 모니터링도 병행된다. 네이버는 모니터링 전담팀과 신고센터를 운영하며 상시적으로 적발된 게시물 및 신고된 게시물에 대한 조치를 진행하고 있다. 이용자가 접수한 신고에 대해 즉각적으로 모니터링하고 불법성을 판단한 뒤 처리한다.

그룹형 SNS밴드(BAND)에서는 지난 2015년부터 음란 게시물에 대한 ‘원 스트라이크 아웃’ 정책을 진행하고 있다. 특히, 아동청소년음란물을 포함한 디지털 성범죄 관련 콘텐츠에 대해서는 게시물을 직접 업로드한 이용자 뿐만 아니라 음란물의 공유, 매매를 요청한 이용자에 대해서도 서비스 사용 권한을 영구정지하고 있다.

jakmeen@heraldcorp.com

Print Friendly