양식		(정보보안 분야) 신규과제 기술수요조사서 양식

수요명	○○○○○ 수준 달성(문제해결)을 위한 ○○○○ ○○○○○기술개발
기술분야 ( ICT연구개발 기술분류체계)	대분류	중분류		소분류		세분류
	사이버보안
개발기간	( ) 년		총 소요 금액 (정부출연금 기준)		( ) 억원
개발목표	￭ *기술개발의 목표 제시
배경/필요성	￭(지원 필요성) *기술개발 배경, 기존 기술의 문제점, 개선 필요사항, 정부 지원 필요성 등 ￭(국내외 동향) *관련 연구개발 동향, 산업·시장 동향 및 규모 등
개발내용	￭*요약형태로 기술하되, 정량적/정성적 내용이 드러나도록 작성
파급효과	￭*기술개발이 완료되었을 시 예상되는 기대 및 파급효과 * 제안과제검토를 위해 필요시 출처 명기(논문 및 보고서명, 인터넷 주소 등)
개인정보 수집 및 이용에 대한 동의	o 개인정보 수집ㆍ이용 목적 - 과제기획(수요조사 내용 활용) 및 각 중앙행정기관의 장이나 유관기관에 제공, 수요조사 안내 등 o 수집하는 개인정보 항목 - 제안자 성명, 소속 기관명, 부서명, 직급명, 전화번호, 휴대전화번호, 전자우편주소, 학력, 경력 등 o 개인정보 보유ㆍ이용 기간 : 동의서가 작성된 시점부터 상기 개인정보 수집·이용 목적이 종료되는 시점까지 o 개인정보 수집․이용에 관한 동의 여부 o 제안 기술수요에 대해서는 제안자가 권리 등을 주장할 수 없음 동의함 ☐ 동의하지 않음 ☐ ※ 해당항목에 ☑ 표시

붙임1		사이버보안 R&D 기술분류체계

□ 사이버보안 분야

대분류	중분류	소분류	세분류
사이버보안	공통 보안	암호	암호설계
			암호부채널분석
			암호분석
		인증/인가	범용인증
			ID관리 및 접근제어
			바이오인증
		데이터 보안	프라이버시 보호
			데이터 비식별화
			데이터 주권보장
		인공지능 보안	AI모델 보호
			생성형 AI 보안
			적대적공격 대응
	디지털취약점 분석‧시스템 보안	디지털취약점 분석	HW취약점분석
			SW취약점분석
			위협헌팅
		악성코드 대응	악성코드 대응
			랜섬웨어 대응
		디지털포렌식	디스크·모바일포렌식
			멀티미디어포렌식
			IoT 포렌식
			드론·자동차포렌식
			안티포렌식
		보안위협 역추적	사이버공격 역추적
			디바이스 역추적
			익명통신 역추적
			가상자산 역추적
		시스템·서비스 보안	운영체제 보안
			가상화 보안
			시스템 접근제어
			응용서비스 보안
		공급망보안	펌웨어 분석
			HW/SW 보안 검증
	네트워크‧ 클라우드보안	네트워크 보안	유선 네트워크 보안
			무선 네트워크 보안
		클라우드보안	가상화 플랫폼 보안
			클라우드 보안 서비스
		지능형 위협분석 및 관제	지능형 사이버위협 분석
			보안정보 분석 및 로그관리 보안관제
	융합보안	가상융합보안	메타버스 인증 및 프라이버시 보안
			가상경제 및 가상공간 보안
		모빌리티보안	무인이동체 드론 보안
			자동차보안
		항공·우주보안	항공교통시스템 안전 및 보안
			위성 우주보안
			해양 선박 보안
		제어시스템 보안	기반시설 보안
			스마트공장 스마트시티보안
		헬스케어·의료 보안	헬스케어 디바이스·센서 보안
			의료 데이터 서비스보안
	물리보안	휴먼/바이오인식	바이오인식 센서
			개인 인식 및 인증
		지능형CCTV	카메라 및 저장장치
			영상통합관제 VMS
			지능형 CCTV
		보안검색 및 무인경비	대인검색기, 수화물/화물검색기
			무인전자경비 서비스

붙임2		(정보보안 분야) 신규과제 기술수요조사서 샘플

수요명

[샘플] AI 시스템 전주기 대상의 한국형 보안성 평가 프레임워크 개발

기술분야

( ICT연구개발  기술분류체계)

대분류

중분류

소분류

세분류

사이버보안

공통 보안

인공지능 보안

AI 모델 보호

개발기간

( 5 ) 년

총 소요 금액

(정부출연금 기준)

( 100 ) 억원

개발목표

￭AI 시스템 전주기 보안성 평가 솔루션 및 실증 환경 구축

배경/필요성

￭(AI 보안성 위협 증가) AI 모델의 정상 동작을 변조하거나 데이터 포이즈닝, 프롬프트 인젝션, 모델 인버전 등의 공격 기술이 지속적으로 등장하면서 AI 시스템의 보안 신뢰성에 대한 국민 우려 증대

- 최근 미국 금융안정감독위원회(FSOC)는 연례보고서(‘24.12.)에서 생성형 AI의 금융분야 활용 과정에서 사이버공격 발생 가능성, 데이터 편향으로 인한 의사결정 왜곡 등의 위험성이 있음을 지적

￭(글로벌 동향) 유럽/미국 중심으로 AI 생태계 대상의 보안 신뢰성 확보를 위한 글로벌 연합체 구성과 관련 체계의 정책 마련이 가속화되고 있음

- Google, Microsoft, OpenAI 등 주요 IT 기업들이 CoSAI*에 참여하여 AI 모델, 데이터, 응용프로그램 전주기 보안과 공급망 무결성 기준 및 도구 개발에 협력 중

- Google은 2023년 발간한 Gemini 보고서**에서 AI 모델 개발의 전주기 동안 개발평가/보증평가/레드팀/외부평가로 구성된 안전성 평가를 제시

- EU는 2025년부터 AI Act***를 시행하며 고위험 AI 시스템에 대한 위험 평가, 모니터링, 사이버보안 요구사항 등을 체계적으로 규정

- 영국 표준협회(BSI)는 2025년 7월 31일 BS ISO/IEC 42006:2025****를  발행하여 AI 관리 시스템(AIMS) 감사에 필요한 자격·절차를 규정할 예정

* “Introducing the Coalition for Secure AI (CoSAI) and founding member organizations”, Google, 2024.7

** “Gemini: A Family of Highly Capable Multimodal Models”, Google, 2023

*** “AI models with systemic risks given pointers on how to comply with EU AI rules”, Reuters, 2025.7

**** “BSI publishes standard to ensure quality among growing AI audit market”, BSIGroup, 2025.7

￭(국내 동향) AI 안전성 또는 보안성 평가에 대한 필요성을 인지하고 관련 서비스도 나타나고 있으나 이를 효과적/정밀적으로 지원할 수 있는 전용 기술에 대한 준비가 미흡한 상황임

- 금융보안원은 금융권의 AI 기술 확산을 위해 금융회사 대상의 모의 공격 기반 AI 모델 보안성 검증 수행 계획을 발표

- 육군시험평가단은 '2025 슈어 AI 테크 컨퍼런스'를 통해 AI 신뢰성·안전성을 위한 육군의 시험평가 절차를 소개함

- 국방보안연구소는 2023년 논문을 통해 AI 기반 국방정보시스템 개발의 생명주기 단계와 함께 각 단계별로 고려되어야 할 보안 점검 사항들을 제시하였음*

* “AI 기반 국방정보시스템 개발 생명주기 단계별 보안 활동 수행 방안”, Vol.33 Issue 3, 정보보호학회논문지

- 하지만, 대부분의 공공·민간분야에서의 AI 시스템 보안 인증*은 정규화된 시험방법 및 표준** 기반의 인증제도가 아닌 검증되지 않은 시험기관의 자체적 인증 서비스가 난립하고 있어, 공공 성격의 AI 시스템 보안에 적합한 위험관리 인증 체계가 부재한 상황임

*한국표준협회-AI+인증, TTA-CAT, AIIA-AI-MASTER, (사)한국인공지능협회(KORAIA) 산업지능화 인증,   산업 AI 국제인증포럼

** ISO/IEC 27001, ISO/IEC 31000, ISO/IEC 12207, ISO/IEC 14971,  NIST AI RMF, ISO/IEC 42001, ISO/IEC 23894, EU AI Act, IEEE 1540

- 또한 다양한 국내 AI 관련 인증 서비스의 경우 시험/평가에 필요한 국산 레퍼런스 기술 도구 및 솔루션이 부재한 상황임

- 기존 AI 시스템 보안 인증의 경우 AI 시스템(제품)을 전체 소프트웨어의 관점이 아닌 AI 자체만을 다루는 협소한 AI 시스템 보안 관리 생태계로 구성되어 있어 SW 시스템 측면의 보안 평가가 미흡함

￭(AI 전주기 보호 및 안전성 평가 체계 지원 필요성) 국내 AI 기술 및 제품에 대한 글로벌 신뢰성 향상에 요구되는 평가 관련 기술 및 도구의 확보를 위해 정부 주도의 중장기적 예산과 정책 지원이 요구되고 있음

AI 시스템 전주기 대상 보안 위협 및 관련 글로벌 표준에 대한 대응 기술  개발은 신뢰성 있는 AI 생태계 구축의 핵심 요건으로 간주됨

- AI 시스템이 적용된 산업 분야(금융, 제조, 농업, 교육, 자동차 등)에 AI 위험관리와 전통 소프트웨어 위험관리를 통합적으로 고려한 평가 프레임워크의 개발이 시급히 요구되고 있음

- 국내 AI 시험·평가 인증기관들의 평가 능력 및 신뢰도 향상을 위해   정부 지원을 통한 AI 보안성/안전성/위험관리 적용 가능 기술의 조속한 개발이 요구되고 있음

개발내용

As is	To Be
o AI 보안 위협의 급증과 대응 부재 - AI 모델 학습 과정에서의 데이터 오염(포이즈닝), 프롬프트 인젝션, 모델 이탈 (회피 공격) 등 신종 공격 증가 - AI 시스템 대상 위협에 대한 실증 기반 평가 및 기술 대응 체계 부재 o 국제 표준 및 규제에 대한 수동적 대응 - EU AI Act, BSI AIMS, CoSAI 등 글로벌 환경의 제도화에 비해 국내 표준·가이드라인 미흡 - 국내 기술의 글로벌 시장 진출 시 신뢰성 부족 o AI 평가 서비스 난립에 따른 평가 결과의 공신력 부족 - 평가 기관/서비스별 적용 표준 차이 존재 SW 시스템적 안정성 평가 절차 미흡 o 보안성 검증 및 실증 환경 부족 - 공신력 있는 평가 기관·시험 환경 부족 - 산출물의 실제 활용과 연계 부족	o AI 시스템 전주기 보안성 평가 기반 마련 - AI 공급망·개발·운영 전주기 공격 시나리오 기반 보안 평가를 통한 AI 신뢰성 향상 - AI 대상 공격 위협으로부터 안전한 AI 개발 환경 배포 o 국제 표준/규제와 조화되는 보안평가 표준 및 인증체계 구축 - AI 전주기 보안성 평가에 대한 국내 표준 제정 및 시험/평가/인증 실시 - 국내외 시험·인증기관과 평가 연계 o AI 시스템 보안성/안전성 신뢰 향상 - AI 시스템 및 배포·운용 모든 측면에서의 사용자 신뢰 향상을 통해 AI 활용이 보편화된 사회 진입 o 공공·민간을 위한 AI 실증 환경 제공 및 평가 기술 보편화 - AI 시스템에 대한 보안성/안전성 평가 허들완화를 통한 국내 AI 평가 기술 확산

￭AI 시스템 전주기 보안성 평가 프레임워크 개발

- AI 시스템 개발 산출물 대상 전주기 보안성 평가 요소 기술 개발

· AI 시스템 단계별 공격 시나리오 구축 및 데이터 분석 기반 원인 추적 기술 연구

· AI-BOM 기반 AI 시스템 전주기 변경 이력 실시간 추적·검증 기술 개발

· 데이터 포이즈닝·백도어 공격 검출 기술 연구

· AI 시스템별 공통 AI-BOM 메타데이터 및 필수 평가 요구사항 표준안 도출

· 표준 기반 AI 보안성 평가 도구 개발

- AI 시스템 전주기 보안성 평가 체계 도출

· AI 평가 기관 대상 기술 요구사항 수렴

· AI 시스템 전주기 단계별 보안 위협 및 대응 방안 연구

· AI 시스템 전주기 보안성 평가 항목, 지표, 방법론 및 절차 수립

· AI 공급망 각 단계/응용별 보안성 평가 결과 정량화 기술 개발

- AI 시스템 보안성 평가 실증 환경 구축

· AI 전주기 보안성 평가 플랫폼 및 표준 제정 내용에 기반한 실증 환경 구축

· 분야별 AI 시스템 대상으로 보안성 평가 기술 실증 테스트

- AI 시스템 보안성 평가 기술 실용화

· AI 전주기 보안성 평가 플랫폼 제품 상용화

· 분야별 AI 시스템 보안성 평가 시험·인증 상용화

- ZeroTrust 기반 AI 안전성 평가 연구

· AI 시스템 비정상 추론 대응·방지를 위한 제로트러스트 아키텍처 및  성숙도 모델 연구

· 학습 데이터, 프롬프트 및 추론 과정의 지속적 감시를 통한 위험도 판단 및 추론 신뢰도 평가 기술 연구

[연구 수행 개념도]

☞ (End Products)

· AI-BOM기반 AI 시스템 전주기 보안성 평가 기술 (SW)

· AI 전주기 보안성 평가 국내 표준 제정 (표준)

· AI 전주기 보안성 평가 솔루션 제품 (SW)

· AI 전주기 보안성 평가 환경 (SW+문서)

· AI 적용 기업을 통한 개발 기술 실증 보고서 (SW+문서)

파급효과

￭산업·민간 분야 보안 신뢰성 격상

- AI 서비스 제공 기업 보안 컴플라이언스 측면 경쟁력 강화

￭글로벌 표준 및 규제 선도

- 국내 기술 기반 글로벌 ISO/BSI 등 표준 제정 참여 가능

￭경제적 효과

- 수출 AI 솔루션(자동차, 의료, 금융)의 가격 프리미엄 확보

- 공급망 분야 시장 진입, 연 500억 이상 신규 시장 창출

￭사회적 수혜

- 개인정보, 프라이버시 유출 방지 → 국민 불안감 완화

- 전자정부·공공 AI 안전 기반 마련

￭기술 확장성

- 관련 평가 기술/절차는 비 AI SW에도 적용 가능

- DevSecOps 연계 시 기업 전체 개발 문화 고도화 유도

개인정보 수집 및

이용에 대한 동의

o 개인정보 수집ㆍ이용 목적

- 사업ㆍ과제기획(수요조사 내용 활용) 및 각 중앙행정기관의 장이나 유관기관에 제공, 수요조사 안내 등

o 수집하는 개인정보 항목

- 제안자 성명, 소속 기관명, 부서명, 직급명, 전화번호, 휴대전화번호, 전자우편주소, 학력, 경력 등

o 개인정보 보유ㆍ이용 기간 : 동의서가 작성된 시점부터 상기 개인정보

수집·이용 목적이 종료되는 시점까지

o 개인정보 수집․이용에 관한 동의 여부

o 제안 기술수요에 대해서는 제안자가 권리 등을 주장할 수 없음

동의함 ☑  동의하지 않음 ☐