마이크로소프트, PC 실행용 MAI‑Code‑1.1‑Flash 공개
마이크로소프트가 10월 7일 코딩 모델 MAI-Code-1.1-Flash의 PC용 로컬판을 공개했다. 크기를 53GB로 줄였고, SWE-Bench Verified 70.8%로 클라우드판(72.6%)에 근접했다. 256K 컨텍스트에서 최대 75.5GB 메모리를 쓰며, 서피스 랩톱 울트라는 10월 16일 출시된다.
마이크로소프트가 PC 안에서 직접 실행하는 코딩 모델을 내놨다. 이미 클라우드로 내놓은 MAI-Code-1.1-Flash를 노트북에서 쓸 수 있게 줄인 버전이다.
마이크로소프트는 10월 7일 Windows 블로그와 개발자 블로그에서 이 로컬판을 공개했다. 모델은 전체 1,370억·활성 68억 파라미터의 mixture-of-experts() 구조다.
줄인 폭이 크다. 3비트 수준의 (양자화)과 (추측 디코딩)을 적용해 크기를 53GB로 줄였다. 이는 클라우드용 원본보다 약 80% 작다.
성능은 크게 떨어지지 않았다. 로컬판은 Verified에서 70.8%로 클라우드판(72.6%)에 근접했고, Terminal-Bench 2.1에서는 66.29%로 클라우드판(62.9%)보다 높았다. 비교용으로 넣은 Unsloth의 판 GPT OSS 120B는 각각 32.0%와 23.6%였다.
메모리가 만만치 않다. 서피스 랩톱 울트라에서 256K 컨텍스트로 쓰면 최대 75.5GB를 쓴다고 마이크로소프트는 밝혔다. 이 노트북은 엔비디아 RTX Spark를 쓰고 통합 메모리가 최대 128GB이며, 10월 16일부터 구매할 수 있다.
GitHub Copilot은 이달 말까지 작업마다 로컬과 클라우드 추론을 자동으로 고르는 기능을 낸다. 개발자는 Windows ML 제공자로 이 모델을 직접 고르거나 OpenAI 호환 로컬 엔드포인트를 연결할 수도 있다.
의 명령은 마이크로소프트 실행 컨테이너(Microsoft Execution Containers, MXC)가 접근 범위를 제한한 채 실행한다. 이 컨테이너는 Windows 11에서 정식 출시됐고, 마이크로소프트는 로컬 추론을 쓴다고 세션이 오프라인이 되는 것은 아니라고 설명했다.
256K 컨텍스트에서 75.5GB가 필요해 메모리가 큰 기기가 대상이라는 점이 클라우드판과의 차이다.
