[보도자료] 과기정통부·앤트로픽 맞손… AI 안전·보안 협력 본격화

글로벌 AI 안전·보안 협력체계 강화

과학기술정보통신부가 글로벌 AI 연구개발 기업 앤트로픽과 AI 안전성 확보와 사이버보안 협력을 위한 업무협약을 체결했습니다. 이번 협약은 AI 기술 발전에 따라 커지고 있는 안전성과 오남용 위험에 대응하고, 신뢰할 수 있는 AI 활용 기반을 마련하기 위해 추진됐습니다.

과기정통부는 이번 협약을 통해 AI가 사이버 공격과 방어에 미치는 영향을 분석하고, 한국어 맥락에서 AI 모델의 안전성과 오남용 위험을 평가할 계획입니다. 자율형 AI 에이전트에 대한 레드팀 평가 등 첨단 AI 기술의 위험을 사전에 점검하는 협력도 강화합니다.

이번 협약은 과기정통부가 오픈AI, 엔비디아, 구글 딥마인드 등 글로벌 AI 기업과 이어온 협력 네트워크를 안전·신뢰 분야로 확장했다는 점에서 의미가 있습니다. 특히 앤트로픽은 일본, 인도, 호주에 이어 한국사무소를 개소하며 한국을 아시아 시장의 주요 전략 거점으로 삼고 있습니다.

AI 안전 분야에서는 국내 AI 안전연구소와 앤트로픽이 AI 모델과 자율형 AI 에이전트의 안전성 평가를 함께 추진합니다. 사이버보안 분야에서는 금융을 포함한 주요 산업의 AI 취약점 발굴과 사이버 위협 정보 공유 등 실질적인 협력을 이어갈 예정입니다.

과기정통부는 이번 협약을 계기로 안전과 보안을 기반으로 한 AI 혁신 생태계를 강화하고, 한국이 글로벌 AI 협력의 핵심 파트너로 자리 잡을 수 있도록 국제 협력을 확대해 나갈 계획입니다.