“사진 보낼래?” 이 한 마디만 나와도 AI가 바로 잡는다! 서울시 충격적인 행보

전국 최초로 AI 기반 ‘서울 안심아이(eye)’를 개발한다.

서울시가 전국 최초로 ‘온라인 그루밍 성범죄’를 실시간으로 탐지·차단하는 AI 시스템 ‘서울 안심아이(eye)’를 2025년 안에 출시합니다. “영상통화 할까?”, “가출해볼래?”, “용돈 줄게~” 같은 위험 대화만 감지돼도 즉시 피해지원기관에 알림이 가고, 전문 상담사가 개입합니다. 이제 미성년자를 노리는 그루밍 범죄, 더 이상 방치하지 않습니다!

 

1. 온라인 그루밍, 얼마나 심각할까? (서울시 실태조사 충격 결과)

• 서울시 초5~고3 학생 2,316명 대상 조사 (2025년)
• 5명 중 1명(19%)이 온라인 그루밍 접근 경험
• 11.7%는 돈·선물 제안 등 적극적 유인 경험
• 적극적 유인에 실제로 대답한 비율 16.7%
• 그중 28.9%가 오프라인에서 실제 만남까지 감
• 주요 플랫폼: SNS(33.3%) > 1:1·오픈채팅(31.1%) > 게임(15.6%)
• 상대방: 낯선 성인(35.5%) > 또래(34.2%)

→ 많은 아이들이 ‘이게 범죄인지도 모른 채’ 점점 깊은 수렁으로 빠져들고 있습니다.

서울시 아동·청소년 온라인 그루밍 피해 실태조사

 

2. ‘서울 안심아이(eye)’ 핵심 기능 4가지

1. 24시간 실시간 탐지 SNS, 오픈채팅방, 게임 등 미성년자가 주로 사용하는 플랫폼 감시
2. 트리거 문장 + 대화 맥락 종합 분석 단순 키워드 탐지가 아닌, 은어·약어·연속 대화까지 파악하는 멀티모달 sLLM 적용 예시 탐지 문장
   • “사진 보낼래?”
   • “몸 사진 찍어서 보내줄 수 있어?”
   • “영상통화로 얼굴 좀 보자”
   • “집 벗어나고 싶으면 내가 도와줄게”
   • “용돈 줄 테니까 원하는 거 해줘”
3. 위험 감지 즉시 긴급 알림 AI가 위험 징후 포착 → 다시함께상담센터 등 피해지원기관 실시간 통보
4. 신속한 초기 개입 + 수사 지원 전문 상담사 배정 → 피해 확산 차단 → 반복 범죄자 계정은 신고·고발

 

3. 법도 바뀌었다! 이제 ‘시도만 해도’ 처벌 가능

2025년 4월 22일 개정된 「아동·청소년의 성보호에 관한 법률」 제15조의2 제3항 → 성적 대화 ‘시도’ 단계부터 미수범 처벌 가능 과거엔 실제 성적 행위가 이뤄져야 처벌이 가능했지만, 이제는 초기 그루밍 단계만 포착돼도 법적 조치가 가능해졌습니다. AI 탐지 + 법 개정 = 그루밍 범죄자 숨을 곳 없어짐!

 

 

4. 서울시, 이미 디지털 성범죄 AI 기술 선도 중

• 2023년: 국내 최초 AI 기반 디지털 성범죄 영상 모니터링·삭제 시스템 도입
• 2024년: 아동·청소년 얼굴로 나이 예측하는 AI 개발 → 성착취물 사전 차단
• 2025년: 온라인 그루밍 실시간 탐지 AI ‘서울 안심아이’ 완성

지금 당장 아이에게 알려줘야 할 말

• 낯선 사람이 친절하게 계속 연락한다 → 의심하라
• 선물·용돈 제안하며 개인 정보·사진 요구한다 → 바로 차단
• “비밀이다”, “부모님한테 말하면 안 돼”라고 한다 → 100% 범죄자

상담·신고 바로가기

서울디지털성범죄안심지원센터 ☎ 02-815-0382

 

서울시는 미성년자 5명 중 1명이 겪고 있는 온라인 그루밍 성범죄를 뿌리 뽑기 위해 전국 최초로 24시간 AI 탐지 시스템 ‘서울 안심아이’를 2025년 내 출시합니다. 단순 키워드 탐지가 아닌, 대화 맥락과 은어까지 분석하는 최신 sLLM 기술로 “사진 보낼래?”, “영상통화 할까?” 같은 위험 신호를 실시간 포착하고, 즉시 전문 상담기관에 알림을 보내 초기 개입합니다. 올해 4월 개정된 법률로 그루밍 ‘시도’만으로도 처벌이 가능해진 만큼, AI와 법이 시너지를 발휘해 범죄자를 강력하게 차단할 전망입니다. 우리 아이들을 지키는 가장 강력한 방패가 드디어 등장했습니다.

또, 좋은 소식으로 다시 돌아오겠습니다.
지금까지 찰리였습니다.