네이버, 대형참사·인명사고 보도 악성 댓글 탐지 강화

[아이뉴스24 정유림 기자] 네이버는 대형 참사와 인명사고 기사에 대한 악플(악성 댓글) 감지 기능 강화에 나선다고 24일 밝혔다.

네이버는 악플이 많이 붙고 있는 기사를 탐지해 언론사에 알려주는 인공지능(AI) 서비스인 '클린봇 옵저버'를 고도화해 대형 참사와 인명사고 보도의 악플 감지, 알림 기능을 강화할 예정이다. 1분기 내 개발을 목표로 한다.

인명사고와 관련한 2차 피해를 막기 위해 인명사고 기사 탐지 기술을 '클린봇 옵저버'에 적용해 고도화할 방침이다. 네이버에 따르면 앞서 지난해 연말 발생한 제주항공 참사 당시 약 30개 언론사가 댓글 제공 중단 기능을 이용했다.

네이버는 2019년 업계 최초로 AI 기반의 악플 탐지 기술인 '클린봇'을 선보였으며 문장 맥락을 파악해 욕설, 저속한 표현과 선정적·폭력적·차별적·비하적 표현을 탐지해 필터링하는 등 고도화를 이어가고 있다고 밝혔다. 이 '클린봇'을 기반으로 댓글 작성 시도 수, 악플 비율을 계산해 감지 대상 기사를 선별하고 언론사에 알리는 '클린봇 옵저버' 시범(베타) 서비스를 2023년 7월부터 시작했다.

네이버는 또한 언론 협·단체와 함께 상반기 중 자살 예방 보도 준칙과 같은 참사 보도 권고 기준과 악플 예방 문구를 마련해 관련 보도 시 문구를 삽입하도록 협의할 방침이다. 네이버는 2023년 9월부터 자살 예방 보도 준칙에 따라 자살 예방 배너를 삽입하고 댓글·추천 스티커 기능을 제외해 왔다. 자살 예방 문구처럼 악플 예방 문구를 기사에 삽입하면 자동으로 대형참사, 인명사고 기사로 탐지해 해당 기사 댓글이 자동으로 닫히는 방안을 논의 중인 것으로 전해졌다.

자살(극단적 선택)이나 인명사고 보도 외에도 향후 첨예한 사회적 갈등이나 의견 대립이 발생한 것으로 감지된 기사에 대한 대응도 검토하고 있다. 가령 일정 기준 이상 공감·비공감이 빠르게 올라가는 기사의 경우 언론사에 알림을 통해 댓글 정렬 방식을 전환하도록 유도하는 등이다. 네이버 관계자는 "대형 참사를 포함한 인명사고 기사에 악플이 근절될 수 있도록 정책적·기술적 노력을 이어가겠다"고 밝혔다.