"네이버, AI를 활용한 유해물 관리 강화"
AI를 활용한 유해물 관리 기업들이 증가하고 있다. 특히, 실시간 방송을 하는 스트리밍 서비스와 사용자 창작 콘텐츠로 운영되는 플랫폼에서 AI의 활용도가 높아지고 있는 추세다. 이러한 온라인 서비스에서는 유해 콘텐츠를 빠르게 차단하기 위해 사람들이 일일이 관리하기 어려워 AI의 힘을 빌리는 것이 목표이다.
이에 따라 네이버는 자사의 스트리밍 플랫폼 치지직에 이미지 유해성 판단 서비스 클로바 그린아이를 전면적으로 적용할 계획이다. 이 서비스는 네이버의 AI 기술을 활용한 이미지 유해성 판단 서비스로, 2017년 출시된 24시간 실시간 음란 이미지 필터링 기술인 엑스아이를 기반으로 한다. 네이버는 수백만 장의 이미지를 학습하여 부적절한 이미지나 동영상이 등록되면 실시간으로 감지하여 검색 노출을 차단한다. 또한, 검색 외에도 카페, 블로그, 지식인 등 다양한 서비스에 엑스아이를 활용하였으며, 2021년에는 엑스아이 2.0으로 시스템을 업그레이드하여 정상, 음란, 성인, 선정 등으로 콘텐츠를 세분화하여 분류하였다. 이를 통해 네이버는 이미지 인식 선행연구 결과를 적용하여 정확도를 99.5%까지 끌어올렸다.
네이버와 함께 실시간 스트리밍 플랫폼을 운영해온 아프리카TV도 독자적인 실시간 음란물 필터링 기술을 보유하고 있다. 2018년에 처음 선보인 태권S가 그 예시이다. 아프리카TV는 역시 운영 중인 영상들을 실시간으로 감지하여 음란물을 차단하는 기능을 가지고 있다.
이처럼 AI를 활용한 유해물 관리 기업들의 노력으로 온라인 서비스에서 유해 콘텐츠를 효과적으로 차단하는 일이 가능해지고 있다. 앞으로도 AI 기술의 발전과 함께 유해물 관리 시스템은 더욱 강화될 것으로 기대된다.
이에 따라 네이버는 자사의 스트리밍 플랫폼 치지직에 이미지 유해성 판단 서비스 클로바 그린아이를 전면적으로 적용할 계획이다. 이 서비스는 네이버의 AI 기술을 활용한 이미지 유해성 판단 서비스로, 2017년 출시된 24시간 실시간 음란 이미지 필터링 기술인 엑스아이를 기반으로 한다. 네이버는 수백만 장의 이미지를 학습하여 부적절한 이미지나 동영상이 등록되면 실시간으로 감지하여 검색 노출을 차단한다. 또한, 검색 외에도 카페, 블로그, 지식인 등 다양한 서비스에 엑스아이를 활용하였으며, 2021년에는 엑스아이 2.0으로 시스템을 업그레이드하여 정상, 음란, 성인, 선정 등으로 콘텐츠를 세분화하여 분류하였다. 이를 통해 네이버는 이미지 인식 선행연구 결과를 적용하여 정확도를 99.5%까지 끌어올렸다.
네이버와 함께 실시간 스트리밍 플랫폼을 운영해온 아프리카TV도 독자적인 실시간 음란물 필터링 기술을 보유하고 있다. 2018년에 처음 선보인 태권S가 그 예시이다. 아프리카TV는 역시 운영 중인 영상들을 실시간으로 감지하여 음란물을 차단하는 기능을 가지고 있다.
이처럼 AI를 활용한 유해물 관리 기업들의 노력으로 온라인 서비스에서 유해 콘텐츠를 효과적으로 차단하는 일이 가능해지고 있다. 앞으로도 AI 기술의 발전과 함께 유해물 관리 시스템은 더욱 강화될 것으로 기대된다.
추천
0
비추천0
- 이전글의료정책과 의사의 역할: 돈 걱정 없는 치료를 위해 사회의 개입이 필요하다. 24.01.16
- 다음글조현병 동생을 돌보는 여성, 자신의 삶을 찾고 싶어 24.01.16
한혜*
정말 미래적인 기술이네요. 어서 빨리 상용화 되었으면 좋겠습니다.
이동*
정말 최고예요!
김한*
정말 대책없네요.
등록된 댓글이 없습니다.
