국정원, AI 에이전트 안전성 평가 확대…12월 가이드라인 배포

AI 생성 이미지

핵심요약

• 국가정보원이 9월 17일, 자율형 AI 에이전트까지 안전성 평가를 확대하고 사이버 위협 대응에 나섰습니다.
• 국정원은 오는 12월까지 AI 시스템 레드티밍 가이드라인과 AI 보안 플레이북을 배포할 예정입니다.
• 국정원 주도로 개발된 'AI 방어팀'은 국제 사이버 훈련인 APEX 2026에 처음 투입되어 효과를 입증했습니다.

인공지능(AI) 기술이 빠르게 발전하면서 사이버 위협 또한 고도화되고 있습니다. 이에 국가정보원이 기존 대규모언어모델(LLM) 중심의 AI 안전성 평가를 자율적으로 업무를 수행하는 AI 에이전트까지 확대하며 국가 사이버 안보 강화에 나섰습니다. 이는 AI 기술의 잠재적 위험에 선제적으로 대응하고 안전한 AI 생태계를 구축하기 위한 중요한 조치로 평가됩니다.

특히 국정원은 AI 에이전트의 확산에 따른 보안 취약점 증가에 주목하고 있습니다. AI 에이전트는 스스로 판단하고 행동하는 특성상 오작동이나 악용될 경우 심각한 파급력을 가질 수 있기 때문입니다. 이번 평가 확대는 이러한 새로운 위협에 대한 경각심을 높이고, 국가 차원의 강력한 대응 체계를 마련하는 데 기여할 것으로 보입니다.

AI 에이전트 평가 확대 및 가이드라인 배포

국가정보원은 9월 17일 서울 코엑스에서 개막한 '사이버 서밋 코리아(CSK) 2026'에서 이 같은 내용을 발표했습니다. 이종석 국정원장은 개회사에서 “보안은 혁신의 발목을 잡는 걸림돌이 아니라 혁신을 지속할 수 있는 필수 조건”이라고 강조하며 AI 보안의 중요성을 역설했습니다.

국정원은 향후 AI 에이전트 평가 결과를 '국가사이버위협정보공유시스템(NCTI)'에 게시하여 각 기관이 AI 시스템의 취약점을 직접 확인하고 대응할 수 있도록 지원할 방침입니다. 또한, 오는 12월에는 각급 기관이 자체적으로 AI 시스템의 취약점을 진단할 수 있는 'AI 레드티밍 가이드라인'과 보안 조치 의무 사항을 담은 'AI 보안 플레이북'을 배포할 예정입니다.

국정원 AI 보안 강화 주요 계획

항목	수치	비고
AI 에이전트 평가 확대	LLM → AI 에이전트	평가 범위 확장
AI 레드티밍 가이드라인 배포	2026년 12월	공격자 관점 취약점 진단
AI 보안 플레이북 배포	2026년 12월	보안 조치 의무 사항 포함
'AI 방어팀' 국제 훈련 투입	APEX 2026	민관군 정예팀, 네이버클라우드 지원

'AI 방어팀' 국제 훈련 첫 투입으로 효과 입증

이번 사이버 서밋 코리아에서는 국정원 국가사이버안보센터(NCSC) 주도로 국방부, 국가보안기술연구소, 스틸리언, 금융보안원 등 민관군 정예팀이 4개월간 개발한 'AI 방어팀'이 국제 사이버 훈련인 APEX 2026에 처음 투입되어 그 효과를 입증했습니다. 네이버클라우드가 기반 환경을 지원한 '프로젝트 팔랑크스'라는 이름의 이 AI 방어팀은 사람의 개입 없이 공격에 자동으로 대응하는 제로 트러스트 기반의 시스템으로, 방어자가 공격자에 비해 가지는 구조적 한계를 보완하기 위해 개발됐습니다.

이러한 AI 기반 방어 시스템의 도입은 급변하는 사이버 위협 환경에서 국가 안보를 지키는 데 필수적인 요소로 자리매김하고 있습니다. 실제 훈련에서의 성공적인 투입은 AI 기술이 사이버 보안 분야에서 실질적인 해결책이 될 수 있음을 보여주는 사례입니다.

전망과 의미

국정원의 이번 AI 에이전트 안전성 평가 확대와 가이드라인 배포는 국내 AI 기술 개발 및 활용에 있어 중요한 이정표가 될 것으로 보입니다. AI 기술의 혁신과 더불어 안전성 확보라는 두 마리 토끼를 잡기 위한 노력은 국내 AI 생태계의 건전한 성장을 유도하고, 글로벌 AI 보안 표준을 선도하는 데 기여할 것으로 기대됩니다.

궁금한 점

Q. AI 에이전트란 무엇인가요?

AI 에이전트는 대규모언어모델(LLM)을 넘어 자율적으로 환경을 인식하고 판단하여 목표를 달성하기 위해 행동하는 인공지능 시스템을 의미합니다. 사람의 개입 없이도 복잡한 작업을 수행할 수 있습니다.

Q. 국정원이 배포할 'AI 레드티밍 가이드라인'은 어떤 내용을 담고 있나요?

'AI 레드티밍 가이드라인'은 각 기관이 AI 시스템을 개발하고 운영하는 과정에서 발생할 수 있는 잠재적 취약점을 공격자의 관점에서 진단하고 평가하는 방법과 절차를 제시하는 지침입니다.

※ 이 글은 월드뉴스데일리의 기사입니다.