쏟아지는 기술 중에서 무엇이 진짜 중요한 흐름인지 가려서 해석합니다.
메모리 값이 오르면서 중소기업이 AI를 들이기 전에 시험하는 장비 가격도 크게 뛰었다. 필자가 GPU 서버 구축에 앞서 3월에 900만 원대에 산 Dell Pro Max with GB10은 10월 견적이 1,700만 원대였다. 동시 사용 인원, 기밀 문서 유출 위험, 비용 세 가지로 자체 장비·공용 API·클라우드 전용 연결·GPU 임대를 비교했다.
OpenAI와 앤트로픽 임원들이 중국 오픈웨이트 모델의 보안 위험을 경고했다. 앤트로픽 시험에서 GLM-5.3의 안전장치는 간단한 속임수로 64~100% 뚫렸고, 거절 기능을 지우는 데 4,400달러면 충분했다. 반면 Hugging Face는 Claude가 거절한 해킹 사고 분석을 중국 모델로 해냈다.
코딩은 맞았는지 바로 확인되니 AI에게 가르치기 쉽다. 보고서처럼 정답이 정해져 있지 않은 일은 어떻게 가르칠까. 미국 스타트업 Paper Instruments가 업무용 모델 Ultramarine 1 Flash를 내놓으며 과제마다 채점표를 만들어 가르친 방법을 공개했다. 채점표를 쓰는 요령과 지금 써 볼 수 있는 도구까지 정리했다.
같은 AI를 두고 누군가는 엉성한 챗봇이라 하고 누군가는 몇 달 치 일을 한 번에 끝낸다고 합니다. AI 연구자 카파시는 이 격차를 60억 명에서 약 5,000명으로 좁아지는 네 층의 깔때기로 그렸습니다. 인원은 본인이 대충 계산한 추정치입니다.
구글의 오픈 임베딩 모델 EmbeddingGemma 2는 글·코드·사진·영상·소리를 하나의 벡터 공간에 넣어, 사진 설명·받아쓰기·텍스트 임베딩 모델을 이어 쓰던 검색을 모델 하나로 대신한다. 구글 데모 앱의 사진·영상 검색, 개발자 가이드의 사용법, 사내 코드 검색과 실시간 분류 같은 기업 활용 예를 정리했다.
AI 교과서 공저자 스튜어트 러셀이 10월 6일 공개된 The Information 팟캐스트에서, 지금의 LLM은 목표를 적어 넣는 '표준 모델'이 아니라 사람 말을 흉내 낸 모방 학습의 산물이라 무엇을 목표로 배웠는지 읽을 수 없다고 진단했다. 그의 해법은 사람의 목표를 모른다는 불확실성을 설계에 넣는 '보조 게임'이다.
Andrej Karpathy가 10월 2일 X에서 AI 답변을 이해하기 쉽게 받는 방법 네 가지를 소개했습니다. 첫째로 꼽은 ASD-STE100은 항공 정비 문서를 위해 만든 통제 영어 표준입니다. 규격의 내용과 이력, 같은 구글 기사를 두 문체로 만들어 문장 길이를 측정한 결과를 정리했습니다.
연합학습은 학습 데이터를 기기에 두고 모델을 만드는 방식인데, 서버가 개인정보 보호를 제대로 했는지는 믿는 수밖에 없었습니다. 구글 리서치가 10월 2일 서버의 계산을 외부에서 확인할 수 있게 한 새 시스템을 공개했고, Gboard의 영어 모델은 학습이 2개월에서 3주로 줄었습니다.
RRSI는 AI 모델은 그대로 두고 프롬프트·도구·메모리 같은 주변 구성(하네스)을 AI가 스스로 고치게 하는 방법에, 평가 문제만 외우는 과적합을 막는 장치를 단 구글 논문입니다. 고치는 데 쓴 평가에서는 비교한 방법 중 점수가 가장 낮았지만 쓰지 않은 평가에서는 가장 높았습니다. 연습 문제는 꼴찌, 처음 보는 시험은 1등인 셈입니다.
결정 모델은 글을 쓰지 않고 미리 정한 선택지 중 하나를 골라 확률과 함께 내놓는 AI 모델입니다. 9월 15일 TypeSafe AI의 Jev 이후 2주 안에 오픈 모델과 OpenAI의 Decisions API가 나왔지만, 신뢰도가 실제 정답률과 맞는지 제3자가 측정한 자료는 아직 없습니다.
스탠포드가 과목 CS329A '자기 개선 AI 에이전트'의 첫 수업을 유튜브에 무료로 공개했습니다. 학습 연산을 키우는 스케일링 법칙에서 추론 연산으로 축이 옮겨 간 흐름, 답을 여러 번 뽑아 고르면 코딩 해결률이 15.9%에서 56%로 오른 논문, 워크플로 패턴 5종을 다룹니다.
메타의 개인 AI 에이전트 '뮤즈'는 쇼핑·예약·메일을 대신 처리해 주는 앱입니다. 9월 8일 미국에서 출시된 뒤 3주 동안 중고거래 판매자의 집 주소가 구매자에게 전달됐다는 신고, 맥 앱 보안 결함, 사람이 대신 건 전화 테스트가 알려졌고 아마존은 뮤즈의 접속을 막았습니다. 체험기 속 사용 사례와 메타의 반박, 업계 반응을 정리했습니다.
