[보도자료] "인공지능서비스, 불법·유해정보 대응해야"

안전하고 신뢰할 수 있는 AI 이용 환경 조성

방송미디어통신위원회가 서울에서 「인공지능서비스 이용자보호 민관협의회」 2차 회의를 개최했습니다. 이번 회의는 AI 서비스 과정에서 불법·유해정보 노출 위험이 커지는 상황에 대응하고, 이용자 보호를 위한 기술적·제도적 방안을 논의하기 위해 마련됐습니다.

회의에는 정부와 공공기관, 산업계, 학계, 법조계, 소비자·시민단체 관계자들이 참석했습니다. 참석자들은 AI 서비스 확산으로 기존 제도의 사각지대가 발생할 수 있다는 점을 진단하고, 안전한 서비스 환경을 조성하기 위한 다층적 제도 개선과 민관 협력 방안을 논의했습니다.

이날 회의에서는 카카오 AI Safety 리더가 AI 서비스 불법·유해정보 대응을 위한 가드레일 시스템 현황을 발표했습니다. 특히 국내 한국어 환경에 특화된 오픈소스 기반 AI 안정성 검증 모델인 ‘카나나 세이프가드’를 소개하고, 사업자의 자율적 안전조치 고도화 방향과 생태계 협력 필요성을 공유했습니다.

이어진 종합토론에서는 AI 서비스 내 불법·유해정보 노출 위험에 대응하기 위한 사업자의 자율조치 활성화 방안이 다뤄졌습니다. 참석자들은 기술적 안전조치가 실제 이용자 보호로 이어질 수 있도록 법과 제도 설계 과정에 현장의 기술 동향과 사업자 의견을 반영해야 한다는 데 의견을 모았습니다.

방미통위는 AI 기술 진흥과 이용자 보호가 함께 추진되어야 한다고 강조했습니다. 윤리적으로 신뢰할 수 없는 AI 기술은 사회적 불신을 키우고 산업 성장에도 걸림돌이 될 수 있는 만큼, 기술적 안전조치와 제도적 지원을 병행해 국민이 안심하고 이용할 수 있는 AI 서비스 환경을 조성해 나갈 방침입니다.