KAIST, 서버 호출 55% 줄인 온디바이스 AI 기술 공개
KAIST 이재길 교수팀이 기기 속 작은 AI가 서버의 큰 AI에게서 받은 답을 기기에 쌓아 두고 다시 쓰는 기술 CURE를 공개했다. 모델을 다시 학습시키지 않고 붙이는 방식으로, 서버 호출을 평균 55.61% 줄이면서 정확도는 전부 서버로 보냈을 때에 근접했다. 9월 유럽컴퓨터비전학회에서 발표했다.
KAIST가 9월 21일 기기의 작은 AI와 서버의 큰 AI를 잇는 기술 CURE를 공개했다. 전산학부 이재길 교수 연구팀이 만들었고, 이름은 누적 지식 재사용(Cumulative Knowledge Reuse)에서 왔다.
기존 기기-서버 협업은 작은 모델이 풀기 어려운 입력만 서버로 보냈다. 문제는 서버가 준 답을 그때 쓰고 버린다는 점이었다. 비슷한 입력이 다시 들어오면 같은 질문을 서버에 또 보내야 했다. CURE는 그 답을 기기에 남긴다. 작은 AI가 먼저 판단하고, 어려우면 기기에 쌓인 서버 지식을 찾아보고, 그것으로도 안 될 때만 서버를 부른다.
저장 방식이 핵심이다. 서버가 처리한 사진을 통째로 담지 않고, 여러 사진이 공유하는 특징과 다른 점을 요약해 보관한다. 자동차를 예로 들면 사진 전체가 아니라 차체 모양이나 전조등처럼 차종을 가르는 특징만 남긴다. 그래서 전에 본 사진뿐 아니라 처음 보는 비슷한 사진에도 쓸 수 있다.
검증에는 이미지와 글을 함께 다루는 비전-언어 모델(vision-language model)을 썼다. 기기용으로 MobileCLIP2를, 서버용으로 매개변수 180억 개짜리 EVA-CLIP을 붙였다. 여러 이미지 분류 데이터셋 실험에서 정확도는 모든 입력을 서버로 보내는 방식에 근접했고, 서버 호출 횟수는 지식을 쌓지 않는 기존 협업 방식보다 평균 55.61% 줄었다. 처리 속도는 기존 협업 방식보다 최대 2.80배, 전부 서버로 보내는 방식보다 최대 3.67배 빨랐다.
모델을 다시 학습시키지 않아도 된다는 점도 연구팀이 내세운 부분이다. 기존 모델은 그대로 두고 서버 지식을 담을 저장소만 붙이는 구조다. 다만 실제 효과는 기기 성능과 저장 공간, 통신 환경, 입력 데이터 특성에 따라 달라질 수 있어 추가 검증이 필요하다고 연구팀은 밝혔다.
작은 모델을 더 크게 만드는 대신, 한 번 받은 답을 기기에 남기는 쪽을 택한 접근이다. 모델을 다시 학습시키지 않고 저장소만 붙이면 되니 이미 쓰고 있는 기기와 모델에 그대로 얹어 볼 수 있다는 점이 실무에서는 더 크게 다가온다.
논문은 9월 8일부터 12일까지 스웨덴 말뫼에서 열린 유럽컴퓨터비전학회(ECCV 2026, European Conference on Computer Vision)에서 10일 발표됐다. KAIST 정보전자연구소 이영준 박사후연구원이 제1저자, 이재길 교수가 교신저자다. 아마존 김도영 연구원과 LG AI연구원 강준혁 연구원, KAIST 산업및시스템공학과 송환준 교수가 공동저자로 참여했다.
