한국정보통신기술협회(TTA)가 국내 인공지능(AI) 모델의 보안성을 검증할 수 있는 ‘AI 보안 시험 서비스’를 제공한다고 2일 밝혔다.
AI 보안 시험 서비스는 AI 모델의 설계부터 데이터 수집 및 처리, 모델 개발, 시스템 구현, 배포와 운영에 이르는 모든 단계에서의 보안 요구사항을 시험하고 그 결과를 공신력 있는 성적서와 결과서로 발급하는 서비스다.
데이터 수집 및 전처리 단계에서의 개인정보 및 민감정보 비식별화, 데이터 오염 방지, 학습 단계에서의 적대적 공격 방어, 모델 위·변조 방지, 배포 및 운영 단계에서의 API 보안, 모델 접근 제어, 무결성 검증 등을 시험한다.
TTA는 이를 통해 기존 보안 솔루션으로는 AI 모델의 특수성을 반영한 보안 위협에 효과적으로 대응하기 어렵다는 점을 보완했다. 향후 시험 영역 확대, AI 보안 영향도 수준에 따른 등급 설계를 통해 서비스를 고도화해나갈 계획이다.
손승현 TTA 회장은 “AI 기술의 안전한 확산을 위해서는 기술 발전과 더불어 보안에 대한 신뢰 확보가 필수적”이라며 “AI 보안 시험 서비스를 통해 국내 AI 산업 전반의 보안 수준을 한 단계 끌어올리고 궁극적으로는 AI 3대 강국 실현 및 신뢰할 수 있는 AI 혁신 생태계 조성에 기여하겠다”고 말했다.
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
sookim@sedaily.com
