개인정보와 기밀 데이터를 외부로 반출하기 어려운 상황에서도 여러 기관이 함께 AI를 학습할 수 있을까. 도메인 특화 AI 에이전트 전문기업 와이즈넛(Wisenut, 대표 강용성)이 추진 중인 분산형 데이터 연합컴퓨팅 기술(deFAI) 과제는 올해 모델 경량화와 통신 효율 개선에서 수치로 확인된 성과를 냈고, 암호화 데이터 분석의 활용 가능성도 점검했다. 과학기술정보통신부와 정보통신기획평가원(IITP)이 지원하는 이 과제는 현재 3차년도 연구가 진행 중이다.
과제는 SW컴퓨팅산업원천기술개발사업에 속하며 연구기간은 2024년 7월~2028년 12월이다. 주관기관은 한국과학기술연구원(KIST)이고, 와이즈넛은 피씨엔(PCN), 세종대학교 산학협력단과 함께 공동연구개발기관으로 참여한다.
개인정보·기밀 데이터를 반출하지 않는 AI 학습
deFAI는 decentralized federated AI의 약자로, 분산형 데이터 연합컴퓨팅 기술을 가리키는 과제명이자 기술명이다. 개인정보나 기밀 데이터를 외부로 반출하지 않고도 기관 간 공동 분석과 AI 학습을 가능하게 하려는 목적에서 추진한다. 연합학습(Federated Learning)은 원본 데이터를 각 기관에 보관한 채 AI 모델을 공동 학습하는 기술이다.
원본 데이터를 각 기관이 직접 보유하면서 공동 분석과 AI 학습에 참여하는 환경을 만드는 것이 이 기술의 목표다. 이를 통해 데이터 외부 반출에 따른 위험을 줄이면서 기관 간 협력 분석에 필요한 기술적 기반을 확보한다는 구상이다.
기업 내부 문서와 업무 시스템, 전문 데이터를 AI 에이전트가 활용하는 사례가 증가하고 있다. 그만큼 데이터 보안과 활용을 함께 만족시키는 기술이 차지하는 중요성도 커지는 중이다.
모델 크기 72% 축소, 전송량 8.06배 감소
와이즈넛은 올해 연구에서 8비트 양자화 기법을 적용해 AI 모델 크기를 기존 대비 72% 축소했다. 회사는 기존 성능은 유지됐다고 설명했다. 스마트폰·웨어러블처럼 연산 자원이 제한된 환경에서도 AI를 활용할 수 있도록 모델 크기를 줄이는 것이 이 기술 개발의 목적이다.
통신 쪽에서는 중앙 서버와 지역 서버 사이에 지역 캐시 기술을 적용했다. 그 결과 두 서버 간 데이터 전송량이 기존 대비 8.06배 줄었다. 중앙 서버와 지역 단말 간 데이터 전송 부담을 낮추는 것 역시 같은 개발 목적에 포함된다.
전역 계층형 학습 기술도 3차년도 연구의 주요 대상이다. 중앙의 대형 모델과 단말의 소형 모델을 비교하고 연계하는 방식이다.
암호화 상태에서도 데이터 유용성 0.85 이상
프라이버시 보장 연합 분석 기술은 데이터를 암호화한 상태로 기관 간 분석을 수행한다. 이 분석에서 데이터 유용성 지표는 0.85 이상을 기록해 과제 목표를 달성했다. 이 지표는 원본 데이터 분석 결과와 암호화 처리 데이터 분석 결과가 얼마나 일치하는지를 나타낸다.
와이즈넛은 이들 성과가 해당 연구의 실험·평가 조건에서 확인된 것이라고 밝혔다. 경량화, 통신량, 데이터 유용성 수치 모두 이 조건에 해당한다.
강용성 대표가 말한 연합컴퓨팅과 AI 에이전트
강용성 와이즈넛 대표는 “민감한 데이터를 안전하게 지키면서 학습·분석할 수 있는 연합컴퓨팅 기술은 앞으로 AI 에이전트가 보안이 중요한 현장으로 확산되는 데 핵심적인 역할을 할 것”이라고 말했다. 와이즈넛은 연합컴퓨팅 기술을 자사 AI 기술 역량과 연계해 보안 요구 수준이 높은 산업 현장으로 적용 범위를 넓힌다는 방침이다.
공공·제약·금융 분야 현장 실증은 예정돼 있다. 실증기관은 공공 분야 서울연구원, 제약 분야 대웅제약, 금융 분야 한국은행이다. 실제 데이터를 기반으로 한 응용 서비스를 구축하고, 연합학습 결과를 관리하는 체계도 마련할 계획이다. 강 대표는 “와이즈넛이 축적해 온 AI 기술 역량과 연계해 안심하고 데이터를 다룰 수 있는 AI 환경을 마련하는 데 기여해 나가겠다”는 입장을 밝혔다.
3차년도 연구가 진행 중인 가운데, 과제의 연구기간은 2028년 12월까지다.