Strands Decider 2B, 맥북에서 실행되는 결정 모델 (github.com)
Strands Agents의 실험 조직 Strands Labs가 질문마다 선택지 하나를 확률과 함께 고르는 결정 모델 Strands Decider 2B를 오픈소스로 공개했습니다. 파라미터는 19억 개이고 RTX 3090에서 질문 하나에 중앙값 115밀리초가 걸리며, 공개 벤치마크 JevBench 정확도는 72.3%입니다.
#TypeSafe
리퀴드 AI, 결정 모델 d1 공개…
리퀴드 AI가 9월 29일(현지시간) 글을 쓰지 않고 미리 정한 선택지에 확률을 부여하는 결정 모델 d1을 공개했습니다. 리퀴드 API로만 쓸 수 있고 무료 등급 d1:free가 있으며, 회사는 자체 재현한 Decision Index 0.2.1에서 58.9점으로 Jev 1.13(57.9점)을 1점 앞섰다고 밝혔습니다.
선택지 고르는 AI 모델, 세 가지 방식이 나왔다 (docs.typesafe.ai)
결정 모델은 글을 쓰지 않고 미리 정한 선택지 중 하나를 골라 확률과 함께 내놓는 AI 모델입니다. 9월 15일 TypeSafe AI의 Jev 이후 2주 안에 오픈 모델과 OpenAI의 Decisions API가 나왔지만, 신뢰도가 실제 정답률과 맞는지 제3자가 측정한 자료는 아직 없습니다.
OpenAI, 선택지 고르는 Decisions API 공개…
OpenAI가 9월 29일(현지시간) 개발자 행사에서 Decisions API를 제한 프리뷰로 공개했습니다. 개발자가 질문과 가능한 답을 정해 주면 GPT-6 Luna가 그중 하나를 골라 내놓는 API로, OpenAI는 응답에 150밀리초가 걸려 일반 호출(1.6초)의 약 10배 빠르다고 밝혔습니다.
Jev는 답을 쓰지 않고 고른다, 강화학습으로 본 사용법 (typesafe.ai)
TypeSafe AI의 Jev는 문장을 쓰지 않고 미리 정한 보기마다 확률을 부여합니다. 같은 방식을 공개 모델 세 개로 직접 실험했습니다. 형식은 큰 모델이면 이미 지켰지만, 확률은 한 모델이 모든 답에 100%를 붙였고 다른 모델은 보기 순서에 따라 답이 바뀌었습니다. Jev가 내세우는 '보정'의 의미와 활용법을 분석했습니다.
TypeSafe AI의 Jev, 열흘 만에 몸값 50배 뛰었다 (financialpost.com)
챗봇 기능이 없는 AI 모델 Jev(제브)를 내놓은 TypeSafe AI가 출시 열흘 만에 100억 달러 넘는 몸값을 제안받고 있다. 출시 전 시드 투자 기준으로 2억 달러였다.
TypeSafe AI, 글 대신 확률을 내놓는 모델 Jev 공개 (typesafe.ai)
Jev는 문장을 쓰지 않는다. 미리 정해 둔 항목마다 확률값을 한 번에 내놓고, 소프트웨어는 그 값을 그대로 가져다 쓴다. TypeSafe AI가 9월 15일 공개했고, 입력 100만 토큰당 0.042달러에 출력 토큰은 받지 않는다.