앤트로픽. 연합뉴스정부가 미국 인공지능(AI) 기업 앤트로픽과의 면담을 앞두고 국내 산업·학계·연구 분야 AI 전문가들과의 간담회를 진행하는 등 이른바 '미토스 쇼크' 관련 본격적인 대응에 나섰다.
미토스 쇼크로 AI 기술이 사이버 보안을 뚫는 공격 수단으로 악용될 수 있다는 우려가 커진 가운데 정부 대응이 AI 보안 주권을 확보하는 성과로 이어질지 주목된다.
과기부, AI 보안 특화 모델 개발… AI 사이버보안 대응 방향도 공개
9일 업계 등에 따르면 과학기술정보통신부는 지난 8일 서울에서 글로벌 AI 기업 사이버보안 프로젝트 관련 대응방안을 논의하기 위해 산학연 전문가 간담회를 개최했다.
보안 취약점 탐지·분석 능력을 갖춘 앤트로픽의 미토스 등 AI 기업들이 고성능 AI 모델을 제한적으로 공개하는 상황에서 공유 대상에 포함되지 못한 한국 정부와 국내 보안업계의 우려는 커지고 있다. 서둘러 관련 기술을 파악해 대책 마련에 나서지 않으면 AI 보안 주권 확보에 실패할 수 있다는 염려가 확산되고 있는 것.
미토스는 사이버 보안 취약점 탐지와 침투경로 설계가 가능한 에이전틱 AI로, 미토스 등장이 불러일으킨 파장을 '미토스 쇼크'라고 칭한다.
이날 간담회에는 SK텔레콤, 업스테이지 등 국내 AI 모델 개발 기업과 정보보호 학계·산업계 관계자, 주요 기업의 최고정보보호책임자(CISO) 등이 참석했다. 간담회 참석자들은 미토스 쇼크를 넘어서기 위한 민관 공동 대응이 필요하다는 데 뜻을 모았으며 글로벌 기업과의 정보 비대칭을 해소 등을 통해 AI 보안 주권을 확보하기 위해 적극 노력해야 한다는 데도 공감했다.
과기정통부는 지난달 전국 약 3만여 개사의 CISO에게 보안 대비태세 점검을 요청하고 AI 기반 사이버공격 대비 기업 대응 요령과 CEO 행동 수칙을 배포하는 등 관련 대책을 이어오고 있다.
간담회에서 정부는 AI 보안 특화 모델 개발에 나서겠다는 뜻을 나타냈다. 배경훈 부총리 겸 과기부 장관은 "이번 이슈를 계기로 우리 사회 정보보호 패러다임 역시 AI 기반 보안 체계로의 전환을 더 이상 늦추기 어려운 상황"이라며 "국내 AI 보안 특화 모델 개발을 추진하는 한편 사회 전반에 제로 트러스트 철학을 확산하고, 양자 보안 등 원천적 방어체계 확립 등 대응 방안을 조속히 마련하겠다"고 말했다.
과기부는 이르면 이달 말 AI 사이버보안 대응 방향을 공개할 계획으로 대응 방안에는 AI 기반 보안 역량 강화, 취약점 신속 대응 체계 등이 포함될 것으로 보인다. AI 보안에 대한 중요성이 커지면서 오는 11일로 예정된 마이클 셀리토 앤트로픽 글로벌 정책 총괄과의 면담에 배경훈 부총리가 직접 나설 수 있다는 관측도 나온다. 정부가 앤트로픽과 국내 보안업계와의 만남 주선에도 적극 나서야 한다는 목소리도 나온다.
백악관 미토스 접근 제한 검토·IMF도 경고…오픈AI, 앤트로픽과 경쟁
AI로 인한 사이버보안 공격이 이뤄질 수 있다는 우려는 국외 상황도 크게 다르지 않다. 백악관은 앤트로픽 미토스에 대한 접근 제한을 검토 중이다. JD 밴스 미국 부통령은 지난달 주요 AI 기업 최고경영자(CEO)들과의 통화에서 미토스 같은 최신 모델이 소도시 은행과 병원, 수도 시설 등을 겨냥한 사이버 공격에 악용될 수 있다는 우려를 나타낸 바 있다. 국제통화기금(IMF)도 AI이 글로벌 금융 시스템을 향한 사이버 공격의 파괴력을 무서운 속도로 키우고 있다고 경고하기도 했다.
이 같은 상황에서 주도권을 놓치고 싶지 않은 AI 기업의 발걸음은 빨라지고 있다. 오픈AI는 사이버 보안 전문가들에게 '스퍼드(Spud)'라 불리는 GPT 5.5의 허용 가능한 버전을 배포하면서 앤트로픽의 미토스와 경쟁 구도를 만들기 위해 노력 중이다. 오픈AI는 엄격한 안전장치가 적용된 고급 모델을 공개함과 동시에 접근 권한을 신청한 기업에는 안전장치가 완화된 버전을 제공하고 있다.
오픈AI도 앤트로픽의 보안협력체 '프로젝트 글래스윙'과 같은 성격의 '트러스트 액세스 포 사이버'를 꾸린 상태다. 오픈AI의 경우 승인 절차를 거치면 국내 기관과 기업들도 취약점 분석과 패치 검증 등 보안 업무에 특화된 AI 도구를 활용할 수 있게 할 것으로 예상돼 앤트로픽에 비해선 상대적으로 문턱이 낮을 수 있다는 예측도 나온다.
대비 필요하지만 지나친 우려 '금물'…앤트로픽·오픈AI, IPO 준비 중
업계 일각에선 이들 AI 기업들의 기술력이 과대 평가되거나 지나친 우려가 반영돼 있는 만큼 이를 경계해야 한다는 목소리도 나온다. AI를 이용한 보안 공격에 대한 전망과 그에 대한 대비가 이미 수년째 이뤄지고 있는 상황에서 특정 몇몇 AI 업체와의 정보 교류나 협력에 지나치게 골몰할 필요는 없다는 지적이다.
업계 관계자는 "미토스 쇼크를 통해 AI를 이용한 보안 공격이 현실화될 수 있다는 우려가 커진 것은 맞지만 전혀 상상하지 못했던 일이 벌어진 것은 아니"라며 "임시방편이 아닌 현재 AI 기술력에 대해 정확히 확인하고 실질적인 대책을 마련하는 계기로 삼는 것이 중요하다"고 말했다. AI 기반 사이버 위협은 이미 예견된 문제였던 만큼 중장기 대응 전략이나 산업으로 육성하는 방안 등이 고려돼야 한다는 것이다.
여기에 앤트로픽과 오픈AI 모두 기업공개(IPO)를 준비하고 있는 상황도 고려돼야 한다는 분석도 나온다. IPO를 앞둔 기업 입장에선 기업의 가치를 높일 수 있는 최선의 전략이 필요했고 최근 화두가 된 사이버보안에 대한 관심이 집중되는 게 유리하다고 판단했을 수 있다는 평가다.
그럼에도 AI가 촉발할 수 있는 위험성에 대한 종합 대책을 논의하고 대응할 수 있는 시스템을 구축하는 계기로 삼아야 한다는 목소리도 나온다. 또 다른 업계 관계자는 "AI가 사실상 모든 영역에 관여하고 영향을 미칠 수 있는 상황에서 사례별로 대응하는 것은 이제 불가능해졌다"며 "이제는 AI가 초래할 수 있는 모든 위험에 대해 논의하고 대응하기 위한 체계를 마련해야 한다"고 밝혔다.