En resumen
정부가 AI 서비스의 보안 위협에 대응하기 위한 'AI 보안 위협 대응 매뉴얼'과 'AI 보안 레드티밍 가이드' 2종을 공개했다. 두 지침서는 AI 보안 점검 역량 강화와 실제 공격자 관점에서의 취약점 식별을 돕기 위해 발간되었으며, 관련 홈페이지에서 무료로 내려받을 수 있다.
Resumen generado por IA
Por qué importa
인공지능(AI) 서비스의 보안 위협이 증가함에 따라 정부 차원에서 실무 지침서 발간을 통해 대응 역량을 강화하고자 한다.
프롬프트 인젝션·데이터 유출 등 위협 유형·대응 방안 수록
(서울=연합뉴스) 권하영 기자 = 인공지능(AI) 서비스의 보안 위협에 대응하기 위한 정부 공인 실무 지침서 2종이 공개됐다.
과학기술정보통신부와 한국인터넷진흥원(KISA)은 AI 서비스 현장의 보안 점검 역량을 강화하기 위해 'AI 보안 위협 대응 매뉴얼'과 'AI 보안 레드티밍 가이드'를 발간했다고 8일 밝혔다.
최근 AI 보안 위협은 기존 정보보호 체계만으로는 충분히 검증하고 대응하기 어려운 만큼 실제 공격자 관점에서 보안 취약점을 식별하는 AI 레드팀의 중요성이 높아지고 있다.
이에 'AI 보안 위협 대응 매뉴얼'은 AI 보안 위협 분류 및 진단, 산업별 위협 시나리오, 위협별 대응 방안 등을 담았다.
데이터 위협, 모델 위협, 에이전트 위협, 공급망 위협, 고성능 모델 위협 등으로 위협을 분류하고, 금융·의료·공공·행정·교육·제조·에너지·통신·법률·IT 등 8개 도메인별 시나리오를 수록했다.
C레벨급 경영진에게는 AI 보안 위협의 유형과 사례를 제공하고, AI 보안 실무자와 IT 운영자 등에게는 보안 위협을 어떻게 진단하고 대응할지에 대한 구체적 기준과 방안을 제시한다.
'AI 보안 레드티밍 가이드'는 AI 보안 레드팀 운영을 원하는 실무진을 위한 정부 발간 운영 기준서다.
레드팀 기획 및 구성부터 레드티밍 준비, 이행, 결과 보고까지 전 과정을 안내하며, 레드티밍 체크리스트와 점검 도구, 레드팀 인력 직무기술서 등도 수록해 실용성을 높였다.
이 가이드는 민간 기업 AI 보안 담당 실무자들의 의견과 레드티밍 전문기업 관계자의 현장 수요를 반영해 마련됐으며, 학계 전문가 자문을 통해 전문성도 보강했다. AI 레드티밍 국제표준안(ISO/IEC 42119-7)을 기반으로 구성해 국제 기준에도 부합한다.
두 가이드는 과기정통부와 KISA 홈페이지에서 무료로 내려받을 수 있다.
