AI로 딥페이크 성범죄 영상물 신속 삭제·차단
정부가 딥페이크 성범죄 영상물을 AI가 먼저 판별하고 삭제·차단과 피해자 지원까지 이어지는 공동 대응체계를 본격 가동한다. 행정안전부와 성평등가족부, 방송미디어통신위원회가 AI 탐지모델을 공유해 피해영상물 대응 전 과정을 고도화한다.
행정안전부는 국립과학수사연구원과 협업해 개발한 AI 딥페이크 탐지·분석모델을 관계기관과 공유한다. 성평등가족부는 민간 탐지모델과 정부 모델을 함께 활용해 피해영상물과 의심 콘텐츠를 정밀 분석하고 삭제를 지원한다. 방송미디어통신위원회는 플랫폼 사업자와 삭제·차단 협력체계를 강화하고 재유포·변형 콘텐츠에 신속히 대응한다.
세 기관은 AI 탐지·분석모델을 현장에 본격 적용하고 활용도를 높이며 공동 대응 성과를 지속적으로 점검할 계획이다. 피해영상물 처리 과정에서는 개인정보와 피해자 인권 보호를 최우선으로 고려하고 보안관리 기준을 강화한다.
AI 탐지·분석 기술은 피해영상물이나 의심 콘텐츠가 접수되면 1차 탐지·분석을 실시하고 결과를 삭제·차단과 피해자 지원 절차에 연계해 신속한 대응을 가능하게 한다. 정부는 탐지부터 피해자 보호까지 AI 기반 대응체계를 구축해 딥페이크 성범죄 피해 예방과 피해자 보호 강화를 추진한다.
