이재명 대통령이 인공지능(AI) 3대 강국을 외치면서 요즘 부쩍 AI 기술 자체보다 AI 거버넌스가 더 중요하다고 주장하는 이들이 늘고 있다. 그런데 흔히 '지배구조'나 '권력체계'로 번역되는 거버넌스(governance)의 정확한 의미에 대해 아는 사람은 많지 않다.
서구 민주주의 정치용어에서 비롯된 거버넌스는 1명의 제왕에게 권력이 집중된 군주제냐, 소수의 귀족이 지배하는 과두제냐, 민중이 나라의 주인인 공화제냐를 따지는 정체(政體, regime)로도 번역된다. 이를 AI에 적용하면 인공지능의 국가안보 장악력과 산업표준 설정기준을 소수의 독점기관에게 맡기느냐, 시장의 집단지성이나 사회 구성원 합의에 따르느냐의 선택으로 나뉠 것이다.
 |
| ▲ AI 거버넌스 관련 이미지 [챗GPT 생성] |
선명하게 하나를 선택하기보다 국방·외교와 같은 국가 생존이 걸린 고도의 정치행위는 소수 전문가에게 위임하는 중앙집중식, 경제·문화 등 다수의 공감대가 중요한 사회적 생태계는 민주주의로 혼합해 하이브리드 거버넌스로 가는 게 좋을 것이다.
이를 더 구체적으로 설명하면 이렇다. 전쟁무기나 스파이 전쟁에 들어갈 AI는 비공개로 의회의 비밀감시를 받는 공공기관의 독자적 개발과 통제를 허용한다. 예컨대, 국가정보원은 비밀공작 AI를 민간업체와 협력해 자체 제작해 은밀하게 사용한다. 반대로 글로벌 시장을 겨냥해 더 많은 개인과 기업이 이용해주길 기대하는 AI 제품과 서비스는 국내 및 해외 표준 제정기관의 가이드라인에 따라 안전하게 생산하되, 더 독창적이고 편리한 상용화의 대량보급으로 갈 수 있도록 규제를 개방적으로 열어두어야 한다. 경제와 문화 부문 AI는 윤리적 한계와 허용범위가 민간 생태계 내부에서 자율적으로 정해지는 게 제일 좋다.
거버넌스를 경제용어로 번역하면 사업 주체인 기업의 지배구조를 뜻한다. 외부 자본시장에 개방하지 않고 내부 사원끼리 운영하는 유한회사나 합자회사, 반대로 주식을 상장한 주식회사로 나뉜다. 대표적인 AI 지배구조는 AI 모델의 데이터 수집과 학습, 훈련 및 검증 과정을 모두 공개하는 오픈소스 진영 대 외부에 밝히지 않고 기업비밀로 유지하는 폐쇄소스 진영이 있다. 메타(오픈) 대 구글·오픈AI(폐쇄)의 대결이 대표적인 예이다. 아직 유아나 어린이 수준인 AI를 성장시켜나갈 때 사회 전체의 컨센서스를 중시하느냐, 엘리트의 도덕심에 맡기느냐의 차이를 보여준다.
이 역시 하나의 정답이 있는 건 아니다. 오픈소스의 경우, 테러범 등 사악한 의도를 가진 반사회 세력에게 악용당할 우려가 있다는 지적이 있다. 폐쇄소스는 부익부빈익빈으로 사회계층 양극화를 초래해 민주주의 기반을 허문다는 비판을 받는다. 양쪽의 지혜를 모을 필요가 있다.
AI 거버넌스와 혼동하기 쉬운 개념이 AI 정렬이다. AI 정렬은 인공지능의 가치 판단이 인류의 보편적 상식과 부합하도록 나란히 조정하는 작업이다. 인간 중심 AI, 설명 가능 AI는 모두 정렬의 결과로 나온다. 거버넌스는 AI를 통제하는 시스템의 설계를 어떻게 할지의 고민이다. 누가, 어떤 방식으로, 어디까지 개입할 것인가를 정해야 한다. 정권교체 후 정부 조직개편과 유사하다. 에너지부를 신설할지, 여성가족부를 청으로 축소할지 인수위의 몇몇 실력자가 권력의지를 발휘해 짤 수도 있다. 혹은 여론조사를 통해 국민의 희망을 반영해도 된다.
이제 결론을 내려보자. AI 거버넌스는 국내적, 국제적 범주가 있다. 주권이 미치는 국내의 통제 시스템 설계는 민간과 공공으로 나누어 구별한다. 민간영역은 시장에 맡기는 편이 낫다. 다양한 주체가 자유 경쟁시장에서 자연선택으로 걸러지게 두는 방법이다. 공공영역은 국가의 헌법과 조직체계에 따라 합리적으로 설계하면 된다.
반면, 국제적 통제는 국제정치나 외교처럼 자연 상태의 약육강식과 최소한의 합의 내지 룰로 이루어진다. 힘센 국가나 지역, 이념집단의 시스템이 우위에 서는 건 당연하다. 하지만 킬러로봇, 핵, 가짜정보 같은 인류 공통과제는 국제협력 차원에서 중지(衆智)를 모으는 방식으로 서서히 풀어가야 한다. 유엔처럼 국제기구 형태일지, 국제항공협약(ICAO)같은 계약 형태일지는 아직 모른다.
결국, AI 거버넌스는 국내 질서를 남들보다 빨리 형성하는 국가가 국제적 논의도 주도하게 돼있다. 마치 세계대전 후 전후 질서를 논의한 베르사유 조약, 얄타회담, 포츠담 선언이나 글로벌 경제 시스템을 재설계한 플라자 합의와 같다. AI 거버넌스는 AI 주권과 자립을 지킨 국가들의 세계 질서 판짜기로 흘러갈 것이다. 그리고 이 판에 끼지 못한 국가는 21세기의 AI 후진국이 되리라. 한국이 뒤처지면 근대화 시기의 조선처럼 열강의 먹잇감으로 전락하고 후손들은 또다시 고통 속에 눈물을 흘리게 될 것이다. 그래서야 되겠는가.
 |
| ▲ 노성열 논설위원 |
● 노성열은
30여 년 경력의 경제부 기자로 산업계와 인공지능(AI) 주로 취재했다. 기획재정부, 산업통상자원부, 과학기술정보통신부 등 정부 부처 및 경제 5단체를 출입하면서 삼성, 현대, SK 등 대기업과 중소벤처업계 현장에서 발생하는 뉴스를 다루어왔다. 일본, 법제도, AI를 포함한 첨단 과학기술 등이 주 관심분야다. 언론계뿐 아니라 학계에도 진출해 지식재산권(IP) 인식 제고와 공학교육 개혁에 매진하고 있다.
△KAIST 공학석사, 한양대 국제학대학원 일본지역학 석사, 고대 법대 및 한국외국어대 일본어학과 학사 △1991년 문화일보 입사 △북리뷰팀, 법조팀, 산업팀장, 전국(지방자치)부 부장 △한국지식재산기자협회(KIPJA) 회장(2024~) △대구경북과학기술원(DGIST) 외부협력 총장 보좌역(2024.6~) △영국 옥스퍼드대 VOX(Voice From Oxford) 한국지부 대표(2024~) △한국과학기술단체총연합회 '과학과 기술' 편집위원(2023~) △국가녹색기술연구소 정간물 편집위원(2024~) △식품의약품안전처 정책자문위원(2020~2022) △한국과학기술정보연구원(KISTI) 데이터미래전략위원회 미래정책분과 자문위원(2021~2023) △한국지능정보사회진흥원(NIA) '인공지능 활성화 방안 연구' 총괄위원(2023) △주요 저서: 뇌 우주 탐험(이음, 2022), 인공지능 시대 내 일의 내일(동아시아, 2020)
[저작권자ⓒ KPI뉴스. 무단전재-재배포 금지]
