올해 두 번째 열린 미국과 중국의 정상회담이 별다른 성과 없이 끝났다. 화려했던 의전과 달리, 양국의 전략적 갈등을 풀어낼 만한 공동성명 발표 같은 결정적 돌파구는 만들지 못했다. 그냥 각자 언론을 향해 할 말만 하고 헤어졌다.
중간 선거를 앞둔 도널드 트럼프 미국 대통령은 만만치 않게 성장한 아시아 슈퍼 파워에 견제구를 날렸고, 4연임에 도전 중인 시진핑(習近平) 중국 주석 역시 세계1위 초강대국에 움츠러들지 않고 당당하게 처신했다는 국내 선전용 카드가 필요했던 모양이다. 그나마 양대 초강국(G2)의 전면적인 무역 전쟁이 2개월의 추가 휴전기간을 얻었다는 점이 성과랄까, 21세기 패러다임 전환 기술인 인공지능(AI)에 대한 적정한 글로벌 안전표준이나 희토류 수출통제 등 예민한 사안은 논의조차 이뤄지지 못했다.
자본주의와 사회주의의 대표 국가가 팽팽하게 대립하는 모습은 마치 1970~80년대 냉전시대에 미국과 소련의 대치상황을 다시 보는듯한 기시감마저 들게 했다. 하지만 공산주의 중국은 과거 소련과는 다른 자유무역의 신봉자로 21세기 새로운 질서를 창조하고 있다. 옛 소련은 자본주의 세계경제와 상당 부분 단절돼 있었다.
중국은 정반대다. 중국은 사회주의 국가이면서 세계 최대의 제조업 국가이고, 세계 무역의 핵심 축이다. 계획과 시장, 통제와 경쟁이라는 서로 충돌하는 원리를 한 국가 안에 집어넣었다. 중국의 개방을 이끈 등샤오핑(鄧小平) 전 주석은 '흑묘백묘론(黑猫白猫論)' 실용주의를 국가의 뼈대로 삼았다. 쥐만 잡으면 검은 고양이든 흰 고양이든 상관없다, 즉 인민을 배불리 먹일 수 있다면 자유경제든 계획경제든 채택한다는 방침이었다.
그 결과, 중화인민공화국은 사회주의 이념에 가장 철저하게 복무하면서도 동시에 시장경제를 국내외에 적극 장려하는 나라가 됐다. 기묘한 두 얼굴의 중국은 그래서인지 자본주의 진영에서조차 보지 못했던 창의적이고 참신한 AI 극복 실험을 하나씩 선보이고 있다. 그 대표적인 사례가 바로 푸단(復旦)대의 AI 커닝 방지 시험과 중국 AI 업계에서 터져 나온 반(反)증류 항의운동이다.
지난 6월 중국 푸단대 계산·지능혁신학원 샤오양화(肖仰华) 교수는 '데이터마이닝 기술' 수업에서 독특한 기말시험 문제를 출제했다. 상하이(上海) 데이터 과학중점연구소 소장도 겸하고 있는 샤오 교수는 수강학생 51명에게 교수가 만든 문제를 풀게 한 것이 아니라, 각자 10개의 문제를 직접 만들어 딥시크, 클로드 등 3개의 AI에게 풀도록 시켰다. 즉, 학생이 AI를 시험 치게 만든 셈이다. "학생, AI가 틀릴 시험문제 내봐"한 것이다. AI가 틀리는 문제가 많고, 더 강력한 성능의 AI를 틀리게 만들수록 학생이 높은 가산점을 받았다.
우선, 학생은 스스로 출제한 10문제의 답을 제시하고 설명하면 기본 점수(60점)를 받는다. 그리고 3개의 AI가 10개의 문제를 풀지 못하면 가산점을 받는다. 샤오 교수는 "AI 사용을 막는 대신 학생이 'AI 심판관'이 되게 해야 한다"고 발상의 전환을 외쳤다.
이 시험의 철학은 단순하지만 매우 중요하다. 샤오 교수는 AI가 표준적인 알고리즘 문제를 인간보다 빠르고 정확하게 푸는 이 시대에 과거처럼 교수가 낸 시험 문제를 학생에게 풀게 하는 일은 의미가 없다고 보았다. 그래서 평가대상 자체를 바꿨다. 'AI보다 답을 더 잘 내는 인간'이 아니라 'AI가 무엇을 모르는지 찾아낼 수 있는 인간'을 길러내겠다는 기준이다.
결과도 흥미로웠다. 51명 가운데 50명이 적어도 한 AI 모델을 한 문제 이상 틀리게 했다. 우수한 4명은 특정 모델이 자신의 시험에서 한 문제도 맞히지 못하도록 만들었다. 학생들은 교과서 문제를 미묘하게 변형하거나, 방대한 데이터를 집어넣거나, 필수 전제조건을 일부러 생략해 AI가 성급하게 답을 확정하는 성향을 공략했다. 한 학생은 AI를 이용해 AI를 공격하는 다중 에이전트 출제 시스템까지 만들었다. 이 과정에서 AI가 정답을 조작하거나 평가 시스템을 우회하는 식의 행동까지 나타나자 인간은 다시 감시규칙을 넣었다. 다른 대학에서 'AI 커닝'을 막기 위해 AI 사용 금지를 고민하는 중에, "AI를 마음껏 쓰되, 마지막 판단은 인간이 한다"고 가르친 것이다.
전 세계 학교 시험장에서 증가하는 AI 부정사건 때문에 교육당국이 대책 마련에 골머리를 앓고 있는 상황에서 푸단대의 인간 주도권 회복 실험은 주목된다.
우리나라에서는 서울대 공과대학 컴퓨터공학부 4학년 전공과목 시험에서 수강생 62명 중 절반이 넘는 36명이 AI 사용 과제 제출로 낙제를 했다. 미국 프린스턴 대학은 133년간 지켜온 '무(無)감독 시험' 전통을 포기하고 지난 7월부터 모든 대면 시험에 감독관이 들어갔다. AI 커닝이 늘고 있어서다. 마찬가지로 다른 대학들도 시험에서 AI 사용을 허용할 것인가 금지할 것인가, 허용한다면 어느 정도 비율까지 용인할 것인가 등의 기준 설정 문제로 인해 혼란을 겪고 있다.
학교는 AI 커닝을 찾아내는 탐지기를 쓰고, 학생은 AI에게 탐지기를 피할 문장 작성을 요구하거나 AI 출력물을 다시 직접 손보는 '창과 방패' 대결이 벌어지고 있다. AI 시대에 가르치고 배우고 평가하는 방식은 어떻게 달라져야할지 푸단대는 하나의 좋은 선례를 보여주었다.
중국에서 또 하나의 인간성 회복 실험은 비슷한 시기인 지난 6월 '반증류(反蒸溜, Anti-Distillation)' 코딩 사건이란 형태로 나타났다. 계기는 3월에 개발자들의 장터인 깃허브(GitHub)에 '동료 스킬(Colleague.skill)'이란 논문이 올라오면서부터였다. 취지는 퇴사자와 함께 사라지는 팀의 지식과 경험을 AI가 이어받게 하자는 것이었다.
이 연구 논문은 인간 전문가의 흔적(trace)을 재사용 가능한 AI 에이전트의 스킬(Skill) 패키지로 바꾸는 '전문가 지식 증류(expert knowledge distillation)'를 다루었다. 회사를 떠난 직원의 채팅기록·업무문서·이메일 등의 자료와 이직자의 성격·습관·소통방식을 입력하면 그 직원의 모든 디지털 기술을 추출해 AI화하는 것이다. 원래 개발자들 사이에서 증류라고 하면 대형 AI 모델의 지식을 작은 AI 모델로 옮기는 '모델 증류' 또는 '기계 증류'를 의미했다.
그런데 중국에서 출발한 '인간 증류'는 숙련 노동자의 암묵지(暗默知)를 AI에 옮겨 심으려는 비인간, 반노동적 기업 활동이었다. 휴머노이드와 자율주행 이동체 등 피지컬 AI의 사전(事前)학습 때 가장 애를 먹는 부분이 암묵지 학습이란 점에서 인간 증류는 매우 파괴력이 큰 기술로 발전할 가능성이 농후했다.
그러나 중국 개발자 중 일부는 회사가 노동자의 동의 없이 인간 업무스킬을 AI로 복제하려는 시도에 대해 큰 반감을 드러냈다. 이들은 깃허브에 반증류 스킬 소프트웨어를 공개하며 저항운동에 나섰다. 회사가 인간 증류에 필요한 자료제출을 요구할 때 쓸데없는 지식만 넘길 수 있도록 AI에 AI로 맞선 것이다.
중국 런민(人民)대 교수는 노동자가 '잉여 노동시간'뿐 아니라 자신을 대체할 기계 훈련에 들어갈 '잉여 데이터'까지 회사에 넘겨야 하는가 하는 새로운 노동 문제로 해석했다. 인간 주도권을 회복하려는 AI 시대의 새로운 노동소유권 운동이 중국에서 처음 발생했다는 사실은 매우 흥미롭다.
물론 미국에서도 빅테크인 메타가 직원의 마우스 클릭, 키 입력, 화면상의 작업 맥락 등을 수집해 AI 에이전트를 훈련시키려 한다는 논란이 있었다. 노동자의 데이터와 AI 학습권을 둘러싼 논쟁은 서구사회에서 마찬가지로 매우 거세다. 중국만의 현상은 아니다. 하지만 자본주의 사회에서는 노동자의 AI 대체 문제가 논쟁거리에 머물고 있지만, 중국 개발자들은 이를 추상적인 윤리논쟁에 그치게 하지 않고 '반증류 스킬'이라는 실제 도구로 만들어냈다.
중국식 실용주의의 특징은 자유냐 통제냐, 자본주의냐 사회주의냐를 먼저 묻기보다 작동하는가를 묻는 것이다. 반증류도 똑같다. "AI가 인간에게 위협인가"라는 거대한 철학 논쟁 대신, "그렇다면 AI가 내 노하우를 가져가지 못하게 만드는 코드를 만들자"하고 팔을 걷어 부친다. 푸단대 역시 마찬가지다. "학생들이 AI를 쓰면 어떻게 처벌할 것인가"가 아니라, "AI를 쓰더라도 학생이 더 창의적인 일을 하도록 시험을 바꾸자"고 외쳤다.
중국에서 일어난 2건의 인간 주도권 회복 실험이 흥미로운 이유가 있다. 문제를 철학적 논쟁으로만 남겨두지 않았기 때문이다. 노동자의 경험을 AI가 빼앗아간다면 어떻게 할 것인가. 코드를 만들어 막는다. 학생이 AI로 숙제를 한다면 어떻게 할 것인가. AI를 금지하는 대신 AI가 풀지 못하는 문제를 만들게 한다.
두 실험을 관통하는 사고방식이 있다. AI를 금지하지 않는다. AI와 경쟁하려 하지도 않는다. 대신 인간을 AI보다 한 단계 위로 이동시킨다. 푸단대의 학생은 AI의 답을 받아 적는 대신 AI에게 질문하는 사람이 됐다. 반증류 운동에 참여한 개발자는 AI에 의해 관찰당하는 객체가 아니라 AI가 어디까지 자신의 지식을 사용할지 결정하려는 주체가 됐다.
이것이야말로 AI 시대에 가장 중요한 능력일지 모른다. 최근까지 세계는 AI의 성능 경쟁에 몰두했다. 누가 더 많은 GPU를 확보하는지, 누가 더 큰 모델을 만드는지, 어떤 AI가 인간의 시험성적을 넘어서는지가 뉴스였다. 하지만 다음 경쟁은 다른 곳에서 벌어질 가능성이 크다.
AI가 얼마나 똑똑해지는가가 아니라 인간이 AI에 어느 정도의 권한을 넘겨줄 것인가를 결정하는 경쟁이다. 교육에서는 무엇을 AI에 맡기고 무엇을 인간에게 남길 것인가. 직장에서는 직원의 어떤 데이터까지 기업이 AI 학습에 사용할 수 있는가. AI가 복제한 인간의 전문지식에서 경제적 이익이 발생한다면 그 수익을 노동자에게 돌려줘야 하는가. 앞으로 노동법과 저작권법, 개인정보보호법은 이런 질문을 피할 수 없다.
아이러니하게도 이 질문의 가장 흥미로운 실험 가운데 일부가 강력한 국가통제와 계획경제의 전통을 가진 중국에서 나오고 있다. 그러나 어쩌면 아이러니가 아닐지도 모른다. 덩샤오핑의 중국이 지난 반세기 동안 해온 일은 서로 모순되는 제도를 필요에 따라 뒤섞는 것이었다. 계획경제에 시장을 집어넣었고 사회주의 국가에 거대한 민간기업과 주식시장을 만들었다. AI 분야에서도 비슷하다. 기술을 거부하지 않으면서 기술의 지배를 거부한다. AI를 사용하면서 AI에 인간의 자리를 모두 내주지는 않는다.
중국에서 시작된 이 작은 실험들이 성공할지는 아직 알 수 없다. '반증류' 프로그램 하나가 거대한 기업의 AI 전환을 막을 수 없다. 푸단대의 시험 방식 역시 모든 교육에 적용할 수 있는 만능 해법은 아니다. 그러나 방향만큼은 주목할 필요가 있다. AI 시대의 인간은 기계보다 더 빨리 계산할 필요가 없다. AI보다 더 많은 지식을 기억할 필요도 없다. 대신 무엇을 AI에 맡기고 무엇을 인간에게 남겨둘지를 결정할 수 있어야 한다.
산업혁명은 인간의 육체노동을 기계에 넘겼다. 정보혁명은 인간의 기억과 계산을 컴퓨터에 넘겼다. 그리고 AI 혁명은 인간의 판단과 사고의 일부까지 갖고 가려한다. 그렇다면 이제 인간이 해야 할 가장 중요한 일은 무엇일까. 어디까지 넘겨줄 것인지를 스스로 결정하는 것이다. AI 시대의 진짜 주도권은 가장 강력한 AI를 가진 사람에게 있는 것이 아니라, AI에게 넘겨주지 않을 영역을 결정할 수 있는 인간에게 있다. 중국에서 최근 배운 교훈이다.
 |
| ▲ 노성열 논설위원 |
● 노성열은
30여 년 경력의 경제부 기자로 산업계와 인공지능(AI)을 주로 취재했다. 기획재정부, 산업통상자원부, 과학기술정보통신부 등 정부 부처 및 경제 단체를 출입하면서 삼성, 현대, SK 등 대기업과 중소벤처업계 현장에서 발생하는 뉴스를 다루어왔다. 일본, 법제도, AI를 포함한 첨단 과학기술 등이 주 관심분야다. 언론계뿐 아니라 학계에도 진출해 지식재산권(IP) 인식 제고와 공학교육 개혁에 매진하고 있다.
△KAIST 공학석사, 한양대 국제학대학원 일본지역학 석사, 고대 법대 및 한국외국어대 일본어학과 학사 △1991년 문화일보 입사 △북리뷰팀, 법조팀, 산업팀장, 전국(지방자치)부 부장 △한국지식재산기자협회(KIPJA) 회장(2024~) △대구경북과학기술원(DGIST) 외부협력 총장 보좌역(2024.6~) △영국 옥스퍼드대 VOX(Voice From Oxford) 한국지부 대표(2024~) △한국과학기술단체총연합회 '과학과 기술' 편집위원(2023~) △국가녹색기술연구소 정간물 편집위원(2024~) △식품의약품안전처 정책자문위원(2020~2022) △한국과학기술정보연구원(KISTI) 데이터미래전략위원회 미래정책분과 자문위원(2021~2023) △한국지능정보사회진흥원(NIA) '인공지능 활성화 방안 연구' 총괄위원(2023) △주요 저서: 뇌 우주 탐험(이음, 2022), 인공지능 시대 내 일의 내일(동아시아, 2020)
[저작권자ⓒ KPI뉴스. 무단전재-재배포 금지]
