(서울=뉴스1) 한지명 기자 = 서울시는 온라인상 유포된 디지털 성범죄 영상의 신속한 삭제를 위해 전국 최초로 AI 기반 '자동 삭제신고 시스템'을 개발해 본격 운영에 들어갔다고 21일 밝혔다.

서울시는 2023년 3월 서울연구원과 협력해 AI 기반 '디지털 성범죄 삭제지원 기술'을 개발하고 이를 활용한 24시간 불법 영상물 모니터링 체계를 운영해 왔다. 당시에는 영상물 검출 중심의 체계로, 채증과 삭제신고는 사람이 직접 처리했다.

이번에 새롭게 도입하는 'AI 자동 삭제신고 시스템'은 기존 기술을 고도화한 것으로, 영상 검출 이후 채증, 보고서 작성, 삭제요청 이메일 생성까지 전 과정을 자동화한 것이 핵심이다.

AI는 피해 영상물을 상시 검출한 뒤 자동으로 채증 보고서를 생성하고 해당 사이트에 삭제 요청하는 이메일을 자동으로 작성한다. 최종적으로 삭제지원관이 이메일을 확인 후 발송하는 방식이다.

기존에는 SNS나 온라인 커뮤니티, 불법 사이트 등에 유포된 불법 영상물을 찾아 삭제 신고까지 평균 2시간 30분에서 3시간이 걸렸으나, 새 시스템은 이 시간을 약 6분으로 단축했다. 처리 속도는 기존 대비 30배 이상 향상됐으며 보고서 자동화 기능으로 수사기관 제출용 법적 증거자료 생성도 가능해졌다.

서울디지털성범죄안심지원센터는 '전기통신사업법' 제22조의5에 따라 불법촬영물 등에 대한 신고·삭제 기관으로 지정돼 있으며 삭제 요청을 받은 사이트는 법령에 따라 즉시 조치해야 한다. 이를 이행하지 않을 경우 3년 이하 징역, 1억 원 이하 벌금, 매출액의 3% 이하 과징금, 등록취소 또는 사업정지 등의 제재를 받을 수 있다.

최근에는 피해 영상이 해외에 유포되는 사례가 늘어남에 따라 시스템은 영어, 중국어, 일본어, 러시아어 등 7개 언어로 삭제 요청 이메일을 자동 생성하도록 설계됐다. 시는 피해 영상물이 미국 외 중국, 러시아, 베트남 등으로 확산되는 점을 고려해 검색 기반도 확장했다.

센터는 밀착 상담(39.98%), 수사·법률지원(20.20%), 삭제지원(36.12%) 외에도 심리상담(1만 5781건), 의료지원 등 원스톱 서비스를 제공하고 있다. 피해자는 직통전화 또는 누리집을 통해 상담할 수 있다.

hjm@dqdt.shop