[보도자료] AI로 딥페이크 성범죄물 찾고 차단한다… 관계기관 공동 대응 추진

AI 기반 딥페이크 성범죄 대응체계 강화

정부가 생성형 AI를 악용한 딥페이크 성범죄에 대응하기 위해 관계기관 간 기술협력을 본격 추진합니다. 행정안전부와 성평등가족부, 방송미디어통신위원회는 딥페이크 성범죄 대응 기술협력을 위한 업무협약을 체결하고, AI 기반 탐지·분석 기술을 현장에 활용하기로 했습니다.

이번 협약은 딥페이크 성범죄가 지능화되고 피해영상물이 온라인에서 빠르게 확산되는 상황에 대응하기 위해 마련됐습니다. 정부는 행정안전부가 국립과학수사연구원과 함께 개발한 ‘AI 딥페이크 탐지·분석모델’을 관계기관과 공유해 피해영상물 대응의 신속성과 정확성을 높일 계획입니다.

세 기관은 AI 탐지·분석모델 공유와 활용, 피해영상물 탐지·삭제·차단 절차 연계, 2차 피해 방지를 위한 정보보호와 보안조치에 협력합니다. 피해영상물이나 의심 콘텐츠가 접수되면 AI 모델을 활용해 1차 탐지·분석을 진행하고, 그 결과를 삭제·차단과 피해자 지원 절차에 연계하는 방식입니다.

성평등가족부는 기존 민간 탐지모델과 이번 AI 탐지·분석모델을 함께 활용해 피해영상물과 의심 콘텐츠 분석·삭제를 강화합니다. 방송미디어통신위원회는 온라인 유통 대응과 플랫폼 사업자와의 삭제·차단 협력체계를 확대하고, 재유포·변형 콘텐츠에 대한 기관 간 정보공유도 추진합니다.

정부는 피해영상물 처리 과정에서 개인정보와 피해자 인권 보호를 최우선으로 고려하고, 불필요한 복제와 공유, 보관을 제한하는 등 보안관리 기준도 강화할 방침입니다. 앞으로 관계기관은 AI 탐지·분석모델의 현장 활용도를 높이고, 딥페이크 성범죄 공동 대응 성과를 지속적으로 점검해 나갈 계획입니다.