구글 EmbeddingGemma 2로 할 수 있는 일과 쓰는 법 (blog.google)
구글의 오픈 임베딩 모델 EmbeddingGemma 2는 글·코드·사진·영상·소리를 하나의 벡터 공간에 넣어, 사진 설명·받아쓰기·텍스트 임베딩 모델을 이어 쓰던 검색을 모델 하나로 대신한다. 구글 데모 앱의 사진·영상 검색, 개발자 가이드의 사용법, 사내 코드 검색과 실시간 분류 같은 기업 활용 예를 정리했다.
#Gemma 4
EmbeddingGemma 2, 글·사진·음성·영상을 한 모델로 검색 (blog.google)
구글 딥마인드가 10월 6일 오픈 임베딩 모델 EmbeddingGemma 2를 공개했다. 글·코드·사진·오디오·영상을 하나의 벡터 공간에 넣어, 음성 메모로 영상 장면을 찾는 검색을 휴대폰 안에서 할 수 있다. 7억4천만 파라미터에 Apache 2.0이고, Pixel 11 Pro에서 약 567MB 메모리로 작동한다.
업스테이지 Solar Mini 4, AA 평가 24점…비용은 5배 (x.com)
Artificial Analysis가 10월 1일 업스테이지의 Solar Mini 4를 평가해 지능 지수 24점을 부여했습니다. 토큰 단가는 GPT-6 Luna(max)와 비슷하지만 과제 한 건에 출력 토큰을 8.8만 개 써서 드는 비용은 약 5배입니다. 업스테이지는 9월 22일 이 모델을 출시했습니다.
Jev는 답을 쓰지 않고 고른다, 강화학습으로 본 사용법 (typesafe.ai)
TypeSafe AI의 Jev는 문장을 쓰지 않고 미리 정한 보기마다 확률을 부여합니다. 같은 방식을 공개 모델 세 개로 직접 실험했습니다. 형식은 큰 모델이면 이미 지켰지만, 확률은 한 모델이 모든 답에 100%를 붙였고 다른 모델은 보기 순서에 따라 답이 바뀌었습니다. Jev가 내세우는 '보정'의 의미와 활용법을 분석했습니다.
Qwen3.8-Flash-Next, 팀 배포는 아직 개인용은 쓸 만 (huggingface.co)
GB10 한 대에 4비트 후보판 Qwen3.8-Flash-Next를 6일간 운영했습니다. 품질과 안정성은 합격인데, 체감 속도가 기본 모드에서도 같은 기계의 기본 모델(Gemma-4-26B)보다 1.4배 느렸습니다(41.7 대 29.1초). 사고를 최대로 켜면 한 답에 최대 33.7분까지 걸렸습니다. 모델이 아니라 GB10 한 대 구성의 병목입니다.
GB10 Qwen3.8‑27B 3주, 3.4배 느려도 남긴 이유 (recipes.vllm.ai)
GB10 한 대에 Qwen3.8-27B를 사내 챗봇의 선택 모델로 3주째 운영하고 있습니다. 공개 지능 지표는 같은 기계의 기본 모델 Gemma-4-26B의 두 배(52 대 26)인데, 한국어 산문은 14~15 tok/s로 그 기본 모델(51.5)보다 3.4배 느렸습니다. 속도를 올리려 한 시도는 MTP 깊이 하나만 빼고 전부 실패했습니다.
GB10 한 대에 Gemma‑4‑26B 넉 달, 이 조합은 잘 맞았다 (huggingface.co)
GB10 한 대에 Gemma-4-26B-A4B를 vLLM으로 올려 사내 챗봇으로 넉 달째 쓰고 있습니다. 공식 NVFP4 4비트 판으로 바꾸자 디코드가 22.5에서 41.1 tok/s로 뛰었고, 한국어 산문 답변은 51.5 tok/s가 나옵니다. 다만 긴 문서 한 건이 팀 전체를 83초 멈추는 문제는 파라미터로 고치지 못했습니다.