성착취영상 OUT, 'AI 자동 삭제신고 시스템' 전국 최초 개발 6분 안에 삭제 신고까지 끝!

안녕하세요. 유익한 정보를 전해 드리는 '또!찰리네'의 찰리입니다.
오늘은 성착취동영상으로 고통받는 사람들에게 조금이나마 도움을 드릴 수 있는 정보를 소개하도록 하겠습니다.
 

서울시가 최초로 개발해 실행에 들어가는 온라인상 성착취영상 ‘AI 자동 삭제신고 시스템’

 
서울시가 온라인상 성착취영상을 찾아내 삭제 신고까지 지원하는 ‘AI 자동 삭제신고 시스템’을 최초로 개발해 실행에 들어갑니다.
 

AI 모니터링 도입에 이어 삭제 신고까지 ‘전 과정 자동화’

서울시는 디지털 성범죄 예방과 피해자 지원을 위해 2023년도 3월 서울연구원과 협력, 전국 최초로 ‘디지털 성범죄 AI 삭제지원 기술’을 개발했습니다.
이를 활용, 서울 디지털성범죄 안심지원센터(서울특별시여성가족재단 운영)에서 24시간 불법 영상물 감시 및 삭제지원을 하고 있습니다.

‘AI 자동 삭제신고 시스템’은 AI가 24시간 피해 영상물을 상시 검출한 뒤, 찾아낸 영상물을 자동으로 채증해 보고서를 만든 후 해당 사이트에 삭제 요청하는 이메일을 자동으로 생성합니다.
이렇게 완성된 신고 이메일은 삭제지원관이 최종 확인해 발송하게 됩니다.

이렇게 되면 사회관계망서비스(SNS)나 온라인 커뮤니티, 불법 사이트 등 온라인 상에 무분별하게 떠도는 불법 영상물을 찾아내서 해당 사이트에 삭제 신고를 하는 데까지 드는 시간이 기존 약 2시간 반~3시간에서 불과 ‘6분’으로 획기적으로 단축됩니다.
 

기존 3시간 → 6분
처리속도 30배로 획기적 단축

AI디지털성범죄 피해영상물 검출 결과

 

‘서울 디지털성범죄 안심지원센터’는 ｢전기통신사업법｣ 제22조의5에 따라 불법촬영물등에 대한 신고·삭제 기관으로 지정고시된 기관입니다.

피해영상물이 게시된 해당 사이트에 센터가 삭제 신고할 경우 해당 사이트는 ｢전기통신사업법｣ 및 같은 법 시행령에 따라 삭제·접속차단을 해야 하며, 이행하지 않을 시 3년 이하의 징역 또는 1억 원 이하의 벌금, 매출액의 3% 이하에 해당하는 과징금, 등록취소 또는 사업정지 등 제재 처분될 수 있습니다.

기존에는 삭제지원관이 영상물마다 모두 수작업으로 피해 영상물을 채증하고, 보고서를 작성해야 했기 때문에 많은 시간이 소요됐으나, 이제 디지털 성범죄 영상물의 모니터링부터 검출, 삭제까지 전 과정을 ‘AI 자동화’ 함으로써 처리속도를 30배 개선하는 성과를 기대할 수 있게 됐습니다.

피해 영상물 찾아 보고서 만들고, 7개 국어로 신고 이메일 자동 생성

자동 채증 보고서 기능은 텍스트, 이미지, URL 등 콘텐츠에 포함된 핵심 정보를 자동 추출하고, 이를 한글(HWP) 문서로 변환해 저장함으로써 향후 수사기관 또는 사법 절차에 필요한 법적 증거자료로 즉시 활용할 수 있습니다.

특히, 최근에 피해 영상물이 해외에 서버를 둔 사이트에 올라오는 사례가 증가함에 따라 AI가 해외에 유포된 피해 영상물을 검색 후 영어, 중국어, 일본어, 러시아어 등 7개 국어로 신고 이메일을 생성하게 됩니다.

서울시는 기존에 미국을 중심으로 유포됐던 피해 영상물이 최근 중국, 러시아, 베트남 등으로 확산되는 점에 착안해 국가 기반을 넓혀 검색 영역을 확장했습니다.

 

 

서울 디지털 성범죄 안심지원센터 누리집

 

상담·심리치료·삭제지원까지 원스톱으로…3년간 총 3,650명 지원

서울시는 ‘서울 디지털 성범죄 안심지원센터’를 통해 삭제지원을 비롯해 수사‧법률지원, 심리치료‧의료 지원 등을 원스톱 지원하고 있습니다.

지난 3년간(’22.3~’25.3) 3,650명의 피해자를 지원했고 총 지원 건수는 64,677건에 이릅니다.

서울시가 지원한 피해자의 연령대는 10~20대가 가장 높은 비율을 차지하고 있으며, 특히 센터 개관 이후 아동, 청소년을 대상으로 한 디지털 성범죄 피해지원이 크게 증가하고 있습니다.

서울 디지털 성범죄 안심지원센터에서는 아동‧청소년의 경우 부모에게도 말하지 못하는 피해 상담을 제공하기 위해 익명으로 상담할 수 있는 카카오톡 오픈채팅방 ‘디지털성범죄 SOS 상담’ 창구를 통해 상담을 지원하고, 아동‧청소년 뿐 아니라 학부모를 대상으로도 심리치료를 무료로 지원하고 있습니다.

또한 수사, 법률, 의료, 삭제지원까지 원스톱으로 지원합니다.

도움이 필요한 디지털 성범죄 피해자 누구나 센터 상담전용 직통번호 ‘815-0382(영상빨리)’나 서울디지털성범죄 안심지원센터 누리집으로 문의하시면 됩니다.

 

디지털 성범죄 안심지원센터

 

누리집 : 서울디지털성밤죄 안심지원센터
오픈채팅 : 디지털성범죄 SOS 상담
상담·문의 : 02- 815-0382(영상빨리) 
                   ※ 휴일·야간 02-1366
상담시간 : 09:00 ~ 18:00(월~금) (점심시간 12:00~13:00)

 

오늘은 성착취영상, 딥페이크로 고통받고 계신 분들에게 조금이나마 도움이 될 만한 'AI 자동 삭제신고 시스템' 소식을 전해드렸습니다.
상대방을 고려하지 않고 자신의 이익을 위해 비인간적인 행동을 하는 사람들이 하루속히 처벌받아 밝고 건강한 사회가 되기를 진심으로 기원합니다.
 
또, 좋은 소식으로 다시 돌아 오겠습니다.
지금까지 찰리였습니다.