국세청이 구축한 AI(인공지능) 기반 납세서비스가 안전성 관련 국제표준 인증(ISO/IEC 42001)을 획득했다고 22일 밝혔다.
이는 국세청이 활용하는 AI가 오류 없이 작동하도록 시스템 설계에서부터 개발·활용·폐기까지 모든 단계를 철저하게 관리하고 있음을 국제적으로 인정받은 것이라고 국세청은 전했다.
국세청이 받은 인증(ISO/IEC 42001)은 국제표준화기구(ISO)와 국제전기기술위원회(IEC)가 만든 인공지능 국제표준으로, 공공기관 및 민간기업이 AI를 활용할 때 개인·집단 권익 등을 침해하지 않고 안전하게 관리하는지 여부에 대한 인증이다.
AI 안전성에 관한 국제적 인증인 만큼 그 요구사항이 까다로워, 국내에서도 정보보안 절차가 엄격하게 마련된 삼성전자, SKT 등 소수의 기업들만 인증을 받았다. 예컨대 AI가 학습 및 분석할 때 사용하는 자료가 적절한지, AI의 오작동으로 인한 개인정보 유출 등의 위험은 없는지 등 시스템 관리 관련 27개 요구사항을 모두 충족해야 부여된다.
기존 AI를 활용한 납세 서비스가 편리하고 정확한 서비스를 제공했다면, 여기서 나아가 AI 작동과정 전반의 안전성까지 강화하는 데 의미가 있다.
국세청은 최근 딥시크(DeepSeek) 사태 등 대규모 개인정보 수집과 민감정보 유출 사례, 각종 AI 오남용 사례 등을 계기로 기존 개인정보보호 조치만으로는 AI 기술 확산에 따른 새로운 위험요소를 충분히 대응하기 어렵다고 인식, AI 기반 납세서비스의 설계, 개발, 운영, 폐기의 전 단계에서 필요한 통제 절차를 마련했다는 설명이다.
예를 들어, 국세청 모두채움 서비스와 관련해 △설계단계에서는 소득자료 외 불필요한 자료를 수집하지 않는지 △개발단계에서는 납세자별로 동일한 기준으로 알고리즘이 적용되는지 △운영단계에서는 모두채움 자료를 다른 목적으로 사용하고 있는지 △폐기단계에서는 서비스 완료 후 데이터를 삭제하고 추가 개선활동을 하는지 등을 철저히 통제하는 것이다.
국세청은 "AI 시스템의 안전성이 국제표준에 부합하는 것으로 확인된 만큼, 앞으로 안심지능 세정을 AI가 세무조사 대상을 선정하는 'AI 탈세적발 시스템' 등 국세행정 전반으로 확대해 나갈 계획"이라고 덧붙였다.