앤트로픽 '미토스'의 해킹 능력에 각국 긴급회의
엔비디아 '이징', 양자컴퓨터 앞당길 AI 기술 공개
기술은 앞서가고 규제는 뒤처진다…통제 공백 심화
2020년이 지나고 나서는 거의 매일 깜짝깜짝 놀란다. 세계 곳곳에서 툭툭 튀어나오는 과학기술 혁신 뉴스 때문이다. 과학 전문기자인 나도 '우와'하고 놀라지만, 시장(市場)이 '와우'하면서 더 크게 경기를 일으킨다. 폭등 아니면 폭락이다. 그만큼 경제 혹은 경기가 첨단기술의 광속(光速) 발전에 좌우된다는 뜻이다. 진정한 21세기는 5, 6년 전부터 시작된 듯하다. 2000년대 초반만 해도 20세기의 연장전 느낌이 강했다. 변화의 속도도 이렇게 빠르진 않았다. 인공지능(AI)이 가속화의 가장 큰 원인이라고 생각한다.
케인즈와 더불어 20세기 경제학 이론을 주도한 경제학자 슘페터는 기업가 정신(entrepreneurship)에 기초한 '기술혁신(innovation)'이 자본주의의 동인(動因)이라고 설파했다. 이 말이 지금처럼 잘 맞아떨어지는 시기는 없는 것 같다. 빅테크라 불리는 미국 중심의 글로벌 기술 기업들이 정부와 시장에서부터 보통 사람의 일상생활까지 매우 빠른 속도로 바꾸어 나가고 있다. 새로운 개념과 용어가 하루가 멀다 하고 쏟아져 나와 현기증이 날 정도다. 신기술을 흡수한 신제도가 미처 정착하기도 전에 또다시 새로운 기술이 등장한다. 마이크로소프트, 애플, 구글은 벌써 옛 영웅이고 이제 엔비디아, 팔란티어, 앤트로픽 같은 신기업 이름을 초등학생이나 머리 희끗한 농부도 알고 있다. 사방에서 떠들어대니 모를 수가 없다. 그만큼 21세기 기술은 인간 바로 옆까지 다가와 있다.
 |
| ▲ 재미나이 생성 이미지 |
지난주에도 과학기술업계로부터 날아온 두 가지 뉴스가 지구촌을 강타했다. 하나는 대규모언어모델(LLM) '클로드'의 제조사 앤트로픽이 4월 7일 선보인 '클로드 미토스(Mythos) 시험판'(이하 미토스)이다. 또 다른 하나는 전 세계 1위 반도체기업 엔비디아가 내놓은 양자 AI 모델 '이징(Ising)'이다.
미토스는 나온 지 며칠 만에 미국 백악관은 물론, 우리나라 과학기술정보통신부까지 긴급회의를 소집할 만큼 각국 정부를 깜짝 놀라게 했다. 컴퓨터 보안 체계를 뚫는 초강력 해킹 능력 때문이다. 앤트로픽은 내부 테스트에서 예상보다 성능이 너무 강력하자 상업 출시를 미루고 시험판만 공개했다. 그리고 즉시 백악관에 보고해 정부와 민간기업의 대비를 강화하도록 요청한 것으로 전해졌다.
미토스는 단순히 개발자 대신 자동코딩을 해주는 지원 수준에서 한참 벗어나, 스스로 시스템의 취약점을 찾고 필요한 침투 프로그램도 만드는 등 능동적으로 움직였다. 그 결과, 가장 강력한 운영체제(OS)에서 수십 년간 아무도 찾지 못했던 보안 구멍을 찾아내는가 하면, 사람 개입 없이 복수의 해킹 행동에 돌입해 목적을 달성한 후 침투 흔적까지 지워버렸다. 이에 국가 보안책임자들은 핵과 생물학·화학 무기에 이어 첨단 해킹 AI도 국제 군수통제의 범주에 포함된 전략기술로 분류해야한다고 주장하기 시작했다.
미토스가 무서운 점은 최신 생성형 AI답게 단순한 텍스트 생성 단계를 넘어, 복잡한 시스템 이해와 자동화된 문제 해결 능력으로 점프하고 있기 때문이다. 특히 다음 능력에서 기존 수준을 뛰어넘고 있다. 첫째, 공격 시나리오 자동 생성 능력이다. 미토스 AI는 단순 코드 작성이 아니라 시스템 구조 분석-취약점 탐색-공격 경로 설계까지 통합적으로 수행한다. 과거 보안 전문가가 수동으로 진행하던 '침투 테스트(penetration testing)'를, 이제 AI가 자동으로 설계·실행하는 수준에 접근하고 있다.
둘째, 취약점 탐지 속도의 비약적 향상이다. AI는 수천 줄 이상의 코드와 네트워크 구조를 동시에 분석하며 제로데이(zeroday·초기 미공개) 취약점 탐지, 보안설정 오류 식별을 인간보다 훨씬 빠르게 수행한다. 문제는 이 능력이 방어뿐 아니라 공격에도 동일하게 적용된다는 점이다.
셋째, 자동화된 해킹 체인 구성이다. 가장 우려되는 부분은 '체인형 공격 능력'이다. AI는 일련의 과정을 스스로 연결한다. 즉, 초기 접근(phishing)-권한 상승-내부 이동 및 데이터 탈취의 전 과정이 하나의 자동화된 워크플로로 구현된다. 그러면 해킹은 '전문가 집단의 공동 작업'에서 '개인의 도구 기반 자동화'로 바뀌게 된다. 해킹의 민주화라고나 할까.
두 번째 깜짝 뉴스는 4월 14일 엔비디아가 공개한 '이징(Ising)'이다. 유용한 양자 컴퓨터 개발을 앞당기기 위한 오픈 AI 모델군으로, 양자 프로세서 보정(calibration)과 양자 오류 정정 디코딩(error-correction decoding)에서 기존 방식보다 최대 2.5배 빠르고 3배 더 정확하다고 주장했다. 이날 아이온큐, 퀀텀컴퓨팅 등 미국 증시에 상장된 양자컴퓨팅 기업의 주가는 폭등했다.
엔비디아의 '이징' 기술은 양자컴퓨터의 약점을 보완하는 반창고다. 현재 양자컴퓨팅 산업이 부딪힌 가장 현실적인 난관은 큐비트(qubit)가 너무 쉽게 흔들리고 너무 자주 틀린다는 점이다. 고전 컴퓨터의 비트(bit)는 0과 1 중 하나의 값으로 고정돼 있지만, 양자컴퓨터의 큐비트는 0과 1의 중첩 값으로 불안정하다. 그래서 당면과제는 더 많은 큐비트를 만드는 것이 아니라, 생성된 큐비트들이 충분히 안정적으로 계산을 지속하도록 유지하는 일이다. 엔비디아는 기술 블로그에서 오늘날 최상급 양자 프로세서조차 대략 수천 번의 연산 중 한 번꼴로 오류를 낸다면서 실용화하려면 오류율을 훨씬 더 낮춰야 한다고 밝혔다. 결국 양자컴퓨터의 상용화는 '더 큰 하드웨어'만으로는 안 되고, 보정·제어·오류 정정에 특화된 고성능 소프트웨어와 AI가 함께 가야 한다는 뜻이다.
'이징'의 한축인 캘리버레이션은 양자 프로세서에서 나오는 실험 데이터를 바탕으로 어떤 보정 조치를 취해야 하는지 추론하도록 설계했다. 쉽게 말해, 사람이 복잡한 실험 결과를 일일이 읽고 장비를 다시 맞추던 작업을 AI가 상당 부분 대신하는 셈이다. 엔비디아는 이징 모델이 6개 벤치마크 시험에서 다른 접근법보다 우수했다면서, AI 에이전트와 결합하면 보정 작업의 상당한 자동화도 가능하다고 설명했다.
또 다른 축인 이징 디코딩은 양자 오류 정정의 현실적인 병목을 겨냥한다. 양자 오류 정정은 이름만 들으면 추상적이지만 실제로는 대단히 무거운 계산이다. 양자 프로세서가 내보내는 방대한 측정 데이터를 초당 수천 번씩 고전 컴퓨터가 받아 계산하고, 그것도 오류가 더 쌓이기 전에 낮은 지연으로 끝내야 한다. 엔비디아는 이를 위해 3차원 CNN(합성곱 신경망) 기반의 AI 모델 2종을 내놓았고, 기존 방법 대비 속도와 정확도를 함께 개선했다고 내세웠다.
미토스와 이징은 신기술의 '특이점(singularity)'이 어디일까를 다시 고민하게 만든다. 특이점은 우주에서 블랙홀의 시공간적 경계를 긋는 개념에서 출발했지만, AI가 인간의 지능을 넘어서는 지점도 가리킨다. 기술은 늘 인간의 능력을 확장해왔지만, 지금 우리가 마주한 AI는 단순한 확장이 아니라 권한의 위임에 가깝다. 문제는 그 권한이 생산뿐 아니라 침투와 파괴까지 포함하게 되었다는 점이다. 때문에 '해킹의 민주화' 혹은 '범죄의 산업화'로 이어질 우려가 있다.
AI가 해킹을 자동화하는 순간 사이버 공격의 진입 장벽은 급격히 낮아진다. 과거에는 고급 기술을 보유한 전문가 집단의 조직적 협력이 필요했던 공격이 이제는 중학생의 자연어 명령 버튼 클릭 하나로 가능해진다. 더 심각한 문제는 국가 권력보다 빠른 기술의 속도다. AI는 매일 진화하지만 규제는 수년이 걸린다. 이 간극 속에서 기술은 이미 현실이 되고, 정책은 항상 사후 대응에 머문다. 결국 질문은 '누가 먼저 통제력을 확보하는가'의 AI 거버넌스로 모인다. 정부인가, 기업인가, 아니면 완전히 새로운 제3의 주체인가.
AI 기반 공격이 확산되면 사회는 근본적인 신뢰 위기를 맞게 된다. 금융, 통신, 의료 등 모든 시스템에 침투가 가능하다는 인식이 확산될 경우 현대 사회의 기반 자체가 흔들릴 수 있다. 엔비디아의 이징 발표도 표면적으로는 양자 오류 정정과 보정 자동화에 관한 기술 뉴스다. 그러나 그 안을 들여다보면, 이는 단순한 연구 성과가 아니라 21세기 계산 질서의 주도권 싸움을 알리는 신호에 가깝다. AI가 그림을 그리는 단계를 지나, 이제는 양자컴퓨터라는 차세대 계산 장치의 운영체제(OS)로 자리 잡기 시작했다는 뜻이기 때문이다. 양자컴퓨터를 먼저 확보하는 기업과 국가가 압도적인 경제와 정치적 지배력을 가지게 될 것이라는 것은 명약관화한 전망이다.
기술의 특이점에 대처하는 현실적 해결책은 '공진화(共進化)' 전략이다. 공격 AI 발전에 맞추어 방어 AI도 동시에 강화하는 것이다. 즉, 기술과 제도가 함께 진화하는 길이다. 이를 위한 국제 협력 규범도 구축해야 한다. AI는 이제 도구가 아니라 행위자에 가까워지고 있다. 그리고 그 순간, 문제는 기술이 아니라 그 기술을 둘러싼 인간의 선택이 된다. 21세기의 질서는 코드 한 줄이 아니라 그 코드를 누가 어디까지 허용할 것인가에 의해 결정될 것이다. 정책 당국자들의 과학기술 문해력이 하루바삐 올라가길 바란다.
 |
| ▲ 노성열 논설위원 |
● 노성열은
30여 년 경력의 경제부 기자로 산업계와 인공지능(AI)을 주로 취재했다. 기획재정부, 산업통상자원부, 과학기술정보통신부 등 정부 부처 및 경제 단체를 출입하면서 삼성, 현대, SK 등 대기업과 중소벤처업계 현장에서 발생하는 뉴스를 다루어왔다. 일본, 법제도, AI를 포함한 첨단 과학기술 등이 주 관심분야다. 언론계뿐 아니라 학계에도 진출해 지식재산권(IP) 인식 제고와 공학교육 개혁에 매진하고 있다.
△KAIST 공학석사, 한양대 국제학대학원 일본지역학 석사, 고대 법대 및 한국외국어대 일본어학과 학사 △1991년 문화일보 입사 △북리뷰팀, 법조팀, 산업팀장, 전국(지방자치)부 부장 △한국지식재산기자협회(KIPJA) 회장(2024~) △대구경북과학기술원(DGIST) 외부협력 총장 보좌역(2024.6~) △영국 옥스퍼드대 VOX(Voice From Oxford) 한국지부 대표(2024~) △한국과학기술단체총연합회 '과학과 기술' 편집위원(2023~) △국가녹색기술연구소 정간물 편집위원(2024~) △식품의약품안전처 정책자문위원(2020~2022) △한국과학기술정보연구원(KISTI) 데이터미래전략위원회 미래정책분과 자문위원(2021~2023) △한국지능정보사회진흥원(NIA) '인공지능 활성화 방안 연구' 총괄위원(2023) △주요 저서: 뇌 우주 탐험(이음, 2022), 인공지능 시대 내 일의 내일(동아시아, 2020)
[저작권자ⓒ KPI뉴스. 무단전재-재배포 금지]
