인공지능(AI)이 사람처럼 사회생활 단계로 접어들기 시작했다. 인간이 태초에 동물처럼 나홀로 살다가 가족을 이루고, 더 큰 사냥감을 잡기 위해 부족사회를 이룬 것처럼 말이다. AI도 자기들끼리 계층이 나뉘고 조직화하면서 서서히 AI 사회를 형성하고 있다. '인공지능 비서'로 불리는 AI 에이전트(agent)의 등장과 함께 나타난 이 현상은 3세대 AI 혁명으로 불릴 만하다.
1세대 혁명은 알파고 같은 추론 AI, 2세대는 챗GPT 등 생성 AI, 3세대는 오픈클로를 비롯한 자율(agentic) AI로 구분할 수 있다. 클로드, 제미나이, 키미 등이 선보인 자율 AI는 개별 임무에 특화된 소형 AI 비서를 여러 개 거느리고 비서실장처럼 이들에게 과업을 나누어 지시, 검증하며 전체 프로젝트를 인간 대신 관리한다. AI 사회의 등장은 인간 사회에 새로운 임무를 부여했다. 기존에 완성된 인간 사회 질서에 딱 들어맞는 AI 사회의 규율을 설계하는 일이다. 이처럼 인간 사회에 신기술을 무난히 접목시키는 능력을 에릭 브린욜프슨 스탠포드대 교수와 제자 양신규 교수는 '조직 자본(organizational capital)'이라고 명명했다.
조직 자본은 공장도 특허도 아니다. 사람들이 함께 일하는 방법을 말한다. 누가 의사결정을 하는지, 정보는 어떻게 흐르는지, 실패를 어떻게 공유하는지, 지식이 어떻게 축적되는지 하는 무형의 조직 자산을 말한다. 이들은 회계장부에 숫자로 남지 않지만, 기업의 생산성은 대부분 여기서 결정된다. 이제 사람끼리가 아니라 사람과 AI가 어울려 일하는 문법을 새로 짜야한다. 즉, AI 시대의 최우선 가치는 AI 없이 살던 인간 사회에 얼마나 자연스럽게 AI를 조직화해서 잘 집어넣느냐에 달려있다. 앞으로 기업과 기업, 국가와 국가 간 격차는 AI 조직 자본의 유무에 따라 벌어질 것이다. 인간 사회에 AI를 정확하게 연결하는 역량이 조직 효율과 생산성, 경쟁력을 결정할 전망이다.
미국 스탠포드 대학이 운영 중인 최신 코딩강좌 '현대 소프트웨어 개발자' 담당 미하일 에릭 교수는 말한다. "컴퓨터 프로그래밍(코딩)을 하는 개발자(SW 엔지니어)의 역할이 달라졌다. 여러 코딩 AI를 돌리며 이들 사이에 중복이나 충돌이 일어나지 않도록 관리하는 역량이 필요하다. 이에 앞서 프로그래밍을 통해 자동화하려는 목표를 기획, 설계하고 이에 필요한 AI 도구를 적절하게 배치하는 일은 더 중요하다. 기존의 파이썬, C 등 코딩 언어를 능숙하게 다루는 기초 코딩 능력과 더불어, 이 같은 새로운 능력까지 겸비해야 현대 개발자라고 할 수 있다." 미하일 교수는 새로운 현대 개발자를 'AI 네이티브 엔지니어'라고 명명했다.
사실 여러 개의 AI 두뇌를 합쳐 더 높은 업무 효율을 낸다는 아이디어가 아주 새로운 것은 아니다. 수년 전에 AI 모델 설계 방법론 중 '전문가 협업(MoE, Mixture of Experts)'이 나왔었다. 예컨대, 대규모 언어모델(LLM)이 인간에게 대답할 때, 질문의 종류에 따라 그 분야에 특화된 소규모 학습 AI 신경망이 먼저 답변을 내고 이를 바탕으로 최종 대답을 내놓는 식이다. 하지만 이는 AI 뇌의 내부 신경망 구성 방식에 불과하다. 쉽게 말하자면 단일 AI 뇌 안에 수학 등 추론 영역, 외국어 등 언어 영역처럼 질문에 적합한 전문 영역 네트워크만 활성화되도록 해 자원을 절약하는 알뜰살림 전략이다.
이에 비해 자율 AI 체계는 회사 조직도와 유사하다. 앤트로픽의 '멀티 에이전트 시스템', 오픈AI의 'Agents SDK', 구글의 'A2A(Agent to Agent) 프로토콜'은 맨 앞에 설명한대로 AI 비서실장이 복수의 비서 팀을 꾸려 인간 CEO 지시를 완수하는 구조에 가깝다. 여러 개의 AI가 계층별·기능별로 유기적으로 협력하며 전체 과업을 수행하는 것이다. 이렇게 AI 조직을 설계하는 일을 에이젠틱 엔지니어링(Agentic Engineering), AI 워크플로우 디자인, AI 오케스트레이션, AI 하네스(Harness) 설계 등으로 부른다. 결국 인간이 하는 일은 단원을 조율하는 지휘자나 마차를 모는 마부처럼, 서로 다른 개성의 AI들을 잘 파악하고 조련해 제대로 된 화음과 매끄러운 주행을 달성하는 최종 리더로 귀결된다.
이런 현상이 프로그램 개발(코딩)뿐 아니라, 기업의 인사·재무·생산 및 판매 등 비즈니스 전반으로 확산되고 있다. 인간 사회에서 부문별 인재를 육성·배치하고 서로 잘 소통하게 만드는 조직 전문가들이 필요하듯, 기능별 AI를 적재적소에 채택해 효율적으로 협업토록 돕는 자율 AI가 점점 기본 값이 되고 있다. 그리고 더 위에는 이들 자율 AI를 지휘하는 최상위 인간 관리자가 필요하다. 이 사람은 AI 코딩 전문지식은 기본이고, 자신이 해결하려는 회사의 경영 목표와 업무 흐름에 대한 이해까지 갖추고 있어야 한다. 거의 CEO급 경영지식을 요구한다는 이야기다. 당장은 존재하지 않는 융합인재이다. 쉽진 않지만 미래는 이 방향으로 갈 것이 확실하다.
물론 AI 에이전트 사회가 아직 완벽한 것은 아니다. 지금 단계는 '완전한 AI 비서실'이라기보다 인간이 설계한 워크플로·권한·평가체계 안에서 여러 에이전트가 제한적으로 협업하는 초기 상용화 단계로 보는 게 맞다. 에이전트는 아직 사람처럼 안정적 판단력을 가진 참모진이라기보다, 검색·코딩·고객응대·문서처리·분석 같은 특정업무를 맡는 자동화 단위에 가깝다. 매킨지 2025년 보고서에서도 "AI 에이전트 확산은 뚜렷하지만, 대다수 조직은 아직 파일럿에서 규모 있는 성과로 넘어가는 데 어려움을 겪고 있다"고 진단했다.
현재 AI 에이전트는 3단계 중 2단계 초입에서 3단계로 넘어가려는 상태로 보는 게 정확하다. 1단계는 챗봇이었다. 사람이 질문하면 답을 내놓았다. 2단계는 도구 사용형 에이전트이다. 검색, 파일 읽기, 코드 실행, 일정 처리, 이메일 작성 같은 외부 도구를 자율적으로 갖다 썼다. 3단계는 멀티에이전트 조직이다. 기획자 에이전트, 조사 에이전트, 코딩 에이전트, 검증 에이전트, 보고서 작성 에이전트가 나뉘어 움직인다. 지금 상용시장은 2단계가 빠르게 보급되고, 3단계는 천천히 실험 도입되는 국면이라 할 수 있다. 여전히 멀티에이전트의 효율성과 안전성이 검증되지 않았기 때문이다. 한계가 분명하다. 랭체인의 2025년 보고 요약에 따르면 실제 운영에 들어간 조직이 늘고 있지만 가장 큰 장벽은 품질 문제, 즉 환각·일관성 부족·정책 준수 실패로 나타났다.
정책 당국은 AI 에이전트의 사회적 영향을 선제적으로 분석하고 대응전략을 구사해야할 것이다. 가장 큰 변화는 조직의 규모와 권력 구조이다. 소수 인력이 여러 AI 에이전트를 부리면 과거 대기업 부서가 하던 조사·마케팅·개발·고객응대를 작은 팀도 수행할 수 있다. 이는 창업과 생산성을 높일 수 있지만, 동시에 중간 숙련직과 입문직의 통로를 좁힐 수 있다.
책임 소재도 흐려진다. 에이전트가 문서를 보내고, 결제를 실행하고, 코드를 배포하고, 고객에게 답하면 사고 발생 시 책임이 모델 개발사, 도입 기업, 업무 담당자, 관리자 중 누구에게 있는지 불분명하다. 보안 위험 역시 커진다. 주요 선진국 정보기관 협의체인 '파이브 아이즈(Five Eyes)'는 AI 에이전트가 과도한 권한, 예측 불가능한 행동, 공격 면(面) 확대, 책임 추적 어려움을 야기할 수 있다고 경고했다. 감시와 노동통제 문제가 커질 것이다. 에이전트가 업무를 기록·평가하고 지시하는 체계로 변하면 생산성은 높아지겠지만, 노동자는 알고리즘 관리자 아래 종속될 수 있다.
정책의 출발점은 AI 금지가 아니라 권한·감사·책임·복구 가능성의 제도화이다. 첫째, 고위험 에이전트에는 권한 제한이 필요하다. 이메일 발송, 결제, 계약, 인사평가, 의료·금융 판단, 코드 배포처럼 현실 피해가 큰 행동은 인간 승인, 로그 기록, 되돌리기 장치가 있어야 한다. 둘째, 에이전트 감사 로그를 의무화해야 한다. 누가 명령했고, 어떤 데이터에 접근했고, 어떤 도구를 호출했고, 어떤 판단으로 행동했는지 추적 가능해야 한다. 셋째, 공공부문과 핵심 인프라에는 별도 기준이 필요하다. 넷째, 표준 경쟁에 적극 참여해야 한다. 구글의 A2A, 결제용 AP2 같은 프로토콜은 향후 에이전트 경제의 기본 인프라가 될 가능성이 크다. 한국도 단순 이용국이 아니라 표준·보안·인증 체계에 초기부터 참여해야 한다. 다섯째, 교육정책은 코딩 교육만으로 부족하다. 앞으로 필요한 능력은 AI 활용 문해력, 업무 분해 및 데이터 검증 능력, 윤리 판단, 협업 설계 등이다.
AI 에이전트는 아직 '자율 직원'이라기보다 통제된 권한 안에서 움직이는 디지털 실무자에 가깝다. 그러나 방향은 분명하다. 인간 사회는 AI를 한 명의 조수가 아니라 여러 명의 하청 실무자처럼 부리는 시대로 들어가고 있다. 이때 진짜 경쟁력은 더 많은 AI를 부리는 것이 아니라, 어떤 일은 맡기고 어떤 일은 인간이 붙잡을지 결정하는 거버넌스 능력이다. 인간 사회와 AI 에이전트 사회가 공존하는 데 최종적으로 인간의 통치가 요구된다는 말이다. AI 사회가 완성되기 전에 인간의 헌법을 새기는 지혜가 필요하다.
 |
| ▲ 노성열 논설위원 |
● 노성열은
30여 년 경력의 경제부 기자로 산업계와 인공지능(AI)을 주로 취재했다. 기획재정부, 산업통상자원부, 과학기술정보통신부 등 정부 부처 및 경제 단체를 출입하면서 삼성, 현대, SK 등 대기업과 중소벤처업계 현장에서 발생하는 뉴스를 다루어왔다. 일본, 법제도, AI를 포함한 첨단 과학기술 등이 주 관심분야다. 언론계뿐 아니라 학계에도 진출해 지식재산권(IP) 인식 제고와 공학교육 개혁에 매진하고 있다.
△KAIST 공학석사, 한양대 국제학대학원 일본지역학 석사, 고대 법대 및 한국외국어대 일본어학과 학사 △1991년 문화일보 입사 △북리뷰팀, 법조팀, 산업팀장, 전국(지방자치)부 부장 △한국지식재산기자협회(KIPJA) 회장(2024~) △대구경북과학기술원(DGIST) 외부협력 총장 보좌역(2024.6~) △영국 옥스퍼드대 미디어센터 VOX(Voice From Oxford) 컨설턴트(2024~) △국가녹색기술연구소 'Greenovation I&I' 편집위원(2024~) △한국과학기술단체총연합회 '과학과 기술' 편집위원(2023~2026.3) △식품의약품안전처 정책자문위원(2020~2022) △한국과학기술정보연구원(KISTI) 데이터미래전략위원회 미래정책분과 자문위원(2021~2023) △한국지능정보사회진흥원(NIA) '인공지능 활성화 방안 연구' 총괄위원(2023) △주요 저서: 뇌 우주 탐험(이음, 2022), 인공지능 시대 내 일의 내일(동아시아, 2020)
[저작권자ⓒ KPI뉴스. 무단전재-재배포 금지]
