글로벌 수준 AI 안전성 확보 및 신뢰 강화
카카오가 인공지능안전연구소와 손잡고 안전하고 신뢰할 수 있는 인공지능(AI) 생태계 조성에 나선다.
카카오는 전날 한국전자통신연구원(ETRI) 부설 연구소인 인공지능안전연구소와 AI 안전성 공동 평가 및 평가 체계 구축을 위한 업무협약(MOU)을 체결했다고 29일 밝혔다.
 |
| ▲ 전날 진행된 카카오와 인공지능안전연구소의 업무협약식에서 (왼쪽) 김세웅 카카오 AI 시너지 성과리더와 김명주 인공지능안전연구소 소장이 기념촬영을 하고있다. [카카오 제공] |
양사는 AI 모델과 에이전트를 대상으로 객관적이고 체계적인 안전성 평가 기반을 구축해 나갈 계획이다.
카카오는 AI 안전성 평가 대상이 되는 자사 AI 모델과 AI 에이전트를 제공하고, 평가 수행 및 평가 도구 개발에 필요한 인프라를 지원한다.
인공지능안전연구소는 평가 수행과 방법론 고도화를 담당한다.
양사는 평가 결과를 공동 검토하고 공개 범위를 협의하며 AI 안전성 평가도구 개발에도 협력할 예정이다.
인공지능안전연구소(AISI)는 지난 2024년 11월 경기 판교에서 개소한 정부출연 조직이다. 한국전자통신연구원(ETRI) 부설로 신설됐다. 오픈AI도 지난 6월 AISI와 고위험 분야 AI 안전 협력을 위한 업무협약을 맺은 바 있다.
김세웅 카카오 AI 시너지 성과리더는 "앞으로도 기술 혁신과 함께 안전성과 신뢰를 최우선으로 하는 AI 모델과 서비스를 제공하기 위해 지속적으로 노력하겠다"고 말했다.
KPI뉴스 / 배지수 기자 didyou@kpinews.kr
[저작권자ⓒ KPI뉴스. 무단전재-재배포 금지]
