이에 서울시는 아동·청소년 성착취물을 특정할 수 있는 AI(인공지능) 감시 기술을 전국 최초로 개발·도입해 24시간 자동 추적·감시에 나서기로 했다. 아동·청소년은 관련 법에 따라 당사자나 부모의 신고가 없이도 피해 영상물 삭제가 가능한 만큼, AI를 통해 아동·청소년 성착취물을 빠르게 찾아내고 삭제해 피해에 신속 대응한다는 계획이다.

이번에 도입된 AI 감시 시스템은 AI 딥러닝 기반 안면인식 기술로 성인과 잘 구분되지 않는 아동·청소년의 성별과 나이를 판별할 수 있는 시스템이다. 또, AI가 영상물에 자주 등장하는 책, 교복, 청소년이 사용하는 언어 등을 함께 인식하기 때문에 영상물에 얼굴이 등장하지 않더라도 피해 영상물 여부를 판별할 수 있다.
 

AI가 SNS 빅데이터 분석을 통해 아동·청소년 성범죄물 관련 신조어도 자동으로 생성할 수 있게 돼 영상물 검출에 사용되는 키워드도 다양해진다. 예를 들어 기존엔 삭제지원관이 ‘딥페(딥페이크·이미지 조작을 뜻하는 단어의 약자)’로 검색했다면 이젠 AI가 ‘뒵페’ ‘뒷페’ 등 유사한 신조어도 자동으로 찾아낸다.

 

김선순 서울시 여성가족정책실장은 "우리 사회를 충격에 빠트린 n번방 사건 이후 4년이 흘렀지만 여전히 아동·청소년을 대상으로 한 디지털 성범죄는 사라지지 않고 있고 그 피해도 심각하다"며 "아동·청소년 성착취 영상을 특정할 수 있는 기술을 통해 선제적인 감시·삭제에 나서겠다"고 말했다.
 

https://n.news.naver.com/article/020/0003566185?cds=news_media_pc