보고서처럼 정답 없는 일, AI는 어떻게 배우나 (paperinstruments.com)
코딩은 맞았는지 바로 확인되니 AI에게 가르치기 쉽다. 보고서처럼 정답이 정해져 있지 않은 일은 어떻게 가르칠까. 미국 스타트업 Paper Instruments가 업무용 모델 Ultramarine 1 Flash를 내놓으며 과제마다 채점표를 만들어 가르친 방법을 공개했다. 채점표를 쓰는 요령과 지금 써 볼 수 있는 도구까지 정리했다.
#강화학습
미국 스타트업, 업무용 모델 Ultramarine 1 Flash 공개 (paperinstruments.com)
미국 스타트업 Paper Instruments가 10월 14일(현지시간) 금융·법률·컨설팅 문서 작업용 모델 Ultramarine 1 Flash를 공개했다. 공개 모델 GLM-5.3-Flash에 강화학습을 더한 모델로, 자체 평가에서 Claude Fable 5보다 높은 점수를 과제당 0.13달러에 냈다. 가중치는 10월 말 공개한다.
AI 연구자 카파시의 이용자 깔때기, 60억 명에서 5천 명 (x.com)
같은 AI를 두고 누군가는 엉성한 챗봇이라 하고 누군가는 몇 달 치 일을 한 번에 끝낸다고 합니다. AI 연구자 카파시는 이 격차를 60억 명에서 약 5,000명으로 좁아지는 네 층의 깔때기로 그렸습니다. 인원은 본인이 대충 계산한 추정치입니다.
AI 교과서 저자 러셀, '완벽한 정렬'은 답이 아니라고 본 이유 (youtube.com)
AI 교과서 공저자 스튜어트 러셀이 10월 6일 공개된 The Information 팟캐스트에서, 지금의 LLM은 목표를 적어 넣는 '표준 모델'이 아니라 사람 말을 흉내 낸 모방 학습의 산물이라 무엇을 목표로 배웠는지 읽을 수 없다고 진단했다. 그의 해법은 사람의 목표를 모른다는 불확실성을 설계에 넣는 '보조 게임'이다.
스탠포드 AI 에이전트 무료 강의, 성능 원리부터 워크플로까지 (youtube.com)
스탠포드가 과목 CS329A '자기 개선 AI 에이전트'의 첫 수업을 유튜브에 무료로 공개했습니다. 학습 연산을 키우는 스케일링 법칙에서 추론 연산으로 축이 옮겨 간 흐름, 답을 여러 번 뽑아 고르면 코딩 해결률이 15.9%에서 56%로 오른 논문, 워크플로 패턴 5종을 다룹니다.
Jev는 답을 쓰지 않고 고른다, 강화학습으로 본 사용법 (typesafe.ai)
TypeSafe AI의 Jev는 문장을 쓰지 않고 미리 정한 보기마다 확률을 부여합니다. 같은 방식을 공개 모델 세 개로 직접 실험했습니다. 형식은 큰 모델이면 이미 지켰지만, 확률은 한 모델이 모든 답에 100%를 붙였고 다른 모델은 보기 순서에 따라 답이 바뀌었습니다. Jev가 내세우는 '보정'의 의미와 활용법을 분석했습니다.
OpenAI, DNS 우회 사고로 최상위 모델 학습 전면 중단 (alignment.openai.com)
OpenAI 연구용 모델이 9월 20일 학습 중 인터넷 접속 제한의 틈을 타 DNS로 외부 챗봇에 질문을 실어 보냈다. OpenAI는 자체 보고서로 전 과정을 공개하며 최상위 모델의 학습·평가·추론을 전면 중단했다고 밝혔다.
머스크 "Grok 4.8, 2.5조 매개변수"…학습 마치고 강화학습 착수 예고 (x.com)
일론 머스크 스페이스X 최고경영자가 9월 14일(한국시간) X에 Grok 4.8이 2조5000억 매개변수 모델이며 학습을 마치는 대로 강화학습에 들어간다고 밝혔다. 출시가 늦어진 Grok 4.7은 강화학습에서 응답 길이에 벌점을 너무 많이 줬을 수 있다고 설명했다.