• 목록

• 페이스북 공유
• 트위터 공유

서울시, AI 기술을 활용한 24시간 자동 추적·감시 시스템으로 디지털성범죄 예방과 피해자 지원 강화

지난달, 쇼핑몰 아르바이트생인 A씨(21)가 찍힌 불법촬영물이 사회관계망서비스(SNS)를 통해 확산되는 사태가 발생하였습니다. 당시 A씨는 서울 디지털성범죄 안심지원센터에 도움을 요청하였고, 이때 피해 영상을 찾아낸 것은 인공지능(AI) 기술이었습니다. AI는 삭제지원관이 활동하지 않는 새벽 시간에 A씨의 영상이 추가로 유포되는 것을 발견하여 재유포를 막는 데 중요한 역할을 담당했습니다.

서울시는 디지털성범죄 예방과 피해자 지원을 위해 AI 기술을 활용한 24시간 자동 추적·감시 시스템을 도입하였고, 7개월 동안 총 45만7440건의 영상물을 모니터링하는 성과를 달성했습니다. 이는 삭제지원관이 직접 모니터링했을 때와 비교했을 때 1265% 증가한 규모입니다.

서울시는 작년 3월에 개관한 서울 디지털 성범죄 안심지원센터를 통해 올해 3월까지 1년 동안 서울연구원과 함께 AI 삭제지원 기술을 개발하고 도입했습니다. 이후 3개월간의 시범 운영 기간을 거쳐 현재까지 SNS상의 피해영상물을 추적하고 감시하여 찾아내고 있습니다.

시에 따르면 AI를 도입한 후 실제 피해영상물을 찾아내기까지 걸리는 시간은 크게 단축되었습니다. 키워드 입력부터 영상물 검출까지 사람이 수행했을 때는 평균 2시간이 소요되었지만, AI 기술을 사용하면 3분만에 검출이 가능하여 검출시간이 97.5%로 단축되었습니다.

또한, 피해영상물 삭제지원도 AI 기술의 도입으로 크게 증가하였습니다. AI 기술이 도입되기 전인 2022년 3월부터 10월까지는 2049건이었으나, 기술이 도입된 이후인 2023년 3월부터 10월까지는 4141건으로 102% 증가하였습니다. 시 관계자는 "향후 AI 학습 데이터가 축적되면서 정확도와 속도가 지속적으로 향상될 것으로 기대하고 있다"고 말했습니다.

또한, 서울시는 안심지원센터를 통해 긴급상담부터 수사·법률지원, 상담사례 관리 등 다양한 서비스를 제공하고 있습니다. 이를 통해 피해자들의 신속하고 효과적인 지원을 도모하고자 하고 있습니다. 디지털성범죄의 예방과 피해자 지원을 위해 계속해서 노력해 나갈 예정입니다.

추천

0

비추천

0