성평등알림장5 - AI는 디지털성폭력을 막을 수 있을까?
성평등알림장
작성자
중랑구성평등활동센터
작성일
2026-04-08 11:56
조회
3
성평등알림장5 <AI는 디지털성폭력을 막을 수 있을까?>
- 2026년 4월 08일 (수) 발행 -
카드1.양날의 검, 인공지능지난 시간에는 기술 발전과 인공지능이 디지털 성폭력을 어떻게 더 빠르고 교묘하게 퍼뜨리는지 살펴봤습니다. 이번에는 반대로, 폭력에 대응하기 위해 AI와 기술이 어떻게 쓰이고 있는지 알아봅니다.
카드 2. AI로 대응하는 3가지 방법
3월 31일 성평등가족부는 디지털 성범죄 대응 속도와 정확도를 높이기 위해 3가지 AI 기반 시스템을 도입했다고 밝혔습니다.
① 삭제 요청 자동화
② 아동·청소년 성착취 선제 대응
③ 딥페이크 탐지
카드 3. 삭제 요청 자동화
첫째, 삭제 요청 자동화입니다. 예전에는 담당자가 불법 촬영물이나 피해 영상이 올라온 사이트를 직접 찾고, 삭제 요청도 하나씩 해야 했습니다. 이제는 그 과정을 인공지능이 자동화해 더 빠르게 대응할 수 있게 됐습니다.
카드 4. 빠르고 넓어진 대응
이 시스템이 도입되면 약 2만 개 사이트에 대해 탐지, 삭제 요청, 처리 관리까지 한 번에 이어서 처리할 수 있습니다. 삭제 요청 1건을 보내는 시간도 1분 이내로 줄어들었습니다.
카드 5. 여러 기관과 연결된 삭제 시스템
또 성평등가족부는 중앙디지털성범죄피해자지원센터의 삭제지원시스템을 아동·청소년 성착취물을 추적하고 신고 받는 국제 기관 NCMEC, 그리고 인터넷 트래픽을 중간에서 관리하는 회사인 클라우드플레어와 연결했습니다. 이렇게 여러 기관의 시스템을 함께 연결하면서, 영상이 올라온 사이트뿐 아니라 같은 영상이 다른 주소로 퍼진 경우까지 포함해 여러 인터넷주소에 대한 삭제 요청을 한 번에 자동으로 보낼 수 있게 됐습니다.
카드 6. 선제 대응
둘째, 아동·청소년 온라인 성착취 선제 대응 시스템을 갖췄습니다. 이 시스템은 SNS와 랜덤채팅앱에서 성착취물이나 유인 정보를 24시간 자동으로 수집하고 분석합니다. 필요하면 신고와 삭제 요청까지 이어집니다.
카드 7. AI는 어떻게 위험을 미리 알아낼까?
AI는 이런 방식으로 내용을 살핍니다. 위험한 단어가 있는지 찾기, 이미지 속 글자를 읽기, 신체 노출 정도를 판단하기, 비슷한 이미지와 비교하기, 아동·청소년 대상 성착취물인지 추정하기 즉, 사람이 하나하나 보지 않아도 위험 신호를 더 빨리 찾도록 돕는 것입니다.
카드 8. 실제로 얼마나 달라졌을까?
시범운영 결과도 나왔습니다. 종사자 1인당 하루 평균 수집 건수는 아동·청소년 성착취물은 2.7배 이상, 성착취 유인 정보는 80배 이상 늘었습니다. 성평등가족부는 앞으로 성착취물은 더 빨리 삭제 지원하고, 유인 정보는 상담원이 직접 개입하는 방식까지 함께 하겠다고 밝혔습니다.
카드 9. 딥페이크 탐지
셋째, AI 기반 딥페이크 탐지도 도입됐습니다. 겉으로 보기엔 진짜처럼 보여도 AI가 합성·편집 여부를 더 정확히 찾아내 추가 유포를 막는 데 도움을 줄 수 있습니다. 피해자가 아직 알지 못한 합성물까지 더 빨리 발견할 가능성도 생겼습니다.
*딥페이크: 인공지능 기술로 기존 영상이나 사진을 조작해 실제처럼 보이게 만든 합성 영상이나 이미지
카드 10. 마무리
기술은 디지털 성폭력을 퍼뜨리기도, 막기도 합니다. 하지만 문제의 핵심은 기술이 아니라 이 폭력이 가능해지는 문화입니다. 성평등하지 않은 사회, 타인의 몸을 대상화하는 문화 속에서 디지털 성폭력은 반복됩니다. 그래서 필요한 것은 기술보다 먼저, 서로를 존중하는 디지털 시민의식입니다.
