AI 용어의 뜻과 출처를 모았습니다.
맞는 용어가 없습니다.
Reinforcement Learning
에이전트가 환경 안에서 행동해 보고, 그 결과로 받는 보상(양수 또는 음수)을 유일한 피드백으로 삼아 시행착오로 배우는 학습 틀이다. 에이전트가 주어진 상태에서 어떤 행동을 할지 정하는 함수를 정책(policy, π)이라 부르고, 기대 보상을 가장 크게 만드는 정책을 찾는 것이 학습의 목표다. 챗봇을 다듬는 RLHF도 이 틀을 쓴다.
출처: Hugging Face Deep RL Course — What is Reinforcement Learning? · Hugging Face Deep RL Course — Two main approaches for solving RL problems (Policy π)
이 용어가 나온 기사
verifier
모델이 만든 여러 후보 답 가운데 맞는 것을 골라내는 장치다. 논문 Large Language Monkeys는 코드라면 단위 테스트 같은, 분야에 맞는 검증기를 예로 들었다. 코딩이나 형식 증명처럼 답을 자동으로 검증할 수 있는 분야에서는 후보가 늘어난 만큼 성능이 그대로 오른다고 적었다. 자동 검증기가 없는 분야에서는 다수결이나 보상 모델로 고르는데, 이 방법은 샘플 수백 개를 넘으면 더 오르지 않는다고 했다.
출처: Large Language Monkeys: Scaling Inference Compute with Repeated Sampling (Brown 외, 2024)
decision model
글을 쓰는 대신 미리 정한 선택지 가운데 하나를 골라 확률이나 점수와 함께 돌려주는 AI 모델이다. Ollama의 0.35.0 릴리스 노트는 결정 모델이 텍스트 대신 선택과 확률, 점수를 돌려주며 티켓 분류, 모델 라우팅, 콘텐츠 분류 같은 일에 쓴다고 설명한다. TypeSafe는 같은 범주를 System One 모델이라 부르며, 소프트웨어가 바로 쓸 수 있는 빠르고 구조화된 결정을 내리도록 만든 모델이라고 정의한다.
출처: Ollama v0.35.0 릴리스 노트 — decision models · TypeSafe AI 문서 — System One
overfitting
모델이 훈련 데이터에 지나치게 가깝게 맞춰진 나머지, 처음 보는 새 데이터에서는 올바른 예측을 하지 못하는 현상이다. 구글 머신러닝 용어집은 정규화(regularization)를 쓰거나 크고 다양한 훈련 데이터로 학습하면 과적합을 줄일 수 있다고 설명한다.
출처: Google for Developers — Machine Learning Glossary: overfitting
이 용어가 나온 기사
Navier–Stokes equations
물이나 공기 같은 유체의 흐름을 지배하는 방정식이다. OpenAI는 이 방정식이 뉴턴의 제2법칙을 이용해 유체가 움직이는 방식을 설명하고, 항공기 설계·일기 예보·혈류 연구에 쓰인다고 소개했다. 클레이수학연구소는 이 방정식의 해가 존재하는지, 존재한다면 유일한지라는 가장 기본적인 물음에 수십 년 동안 증명이 나오지 않았다고 설명하며, 밀레니엄 문제 가운데 하나로 다룬다.
출처: Clay Mathematics Institute — Navier-Stokes Equation · OpenAI — On the Navier–Stokes Millennium Prize Problem
peer review
논문을 학술지에 싣기 전에, 편집자가 고른 외부 전문가(보통 두 명 이상)가 결함을 찾고 보완할 점을 제안하며 연구의 새로움을 평가하는 절차다. 네이처 편집 정책에 따르면 게재 여부는 이 의견을 바탕으로 편집자가 정한다. 다만 교묘하게 숨긴 의도적 속임수까지 동료 심사가 찾아내리라고는 학술지 편집자들도 기대하지 않는다. 네이처는 2025년 6월 16일 이후 투고된 연구 논문부터 심사 의견과 저자 답변을 논문과 함께 공개한다.
decode
언어 모델이 답을 내는 두 단계 가운데 뒤 단계로, 멈춤 조건에 이를 때까지 출력 토큰을 한 번에 하나씩 차례로 만든다. 토큰마다 앞서 나온 출력의 키와 값이 필요하고, 프리필보다 GPU의 연산 능력을 덜 쓴다. 엔비디아 기술 블로그는 이 단계의 지연 시간이 계산 속도보다 가중치·키·값을 메모리에서 GPU로 옮기는 속도에 좌우되는 메모리 병목 작업이라고 설명한다.
출처: NVIDIA Technical Blog — Mastering LLM Techniques: Inference Optimization · vLLM 공식 문서 — Disaggregated Prefilling
monitorability
OpenAI는 모니터링 가능성을 감시자(monitor)가 에이전트의 행동 가운데 알고 싶은 특성을 예측하는 능력으로 정의한다. 알고 싶은 특성은 속임수, 보상 해킹(reward hacking), 편향된 추론 같은 잘못된 행동일 때가 많지만, 에이전트가 특정 힌트에 의존했는지 같은 무해한 것일 수도 있다. 이 값은 감시 장치와 감시받는 에이전트 양쪽에 따라 달라져서, OpenAI는 에이전트마다 감시하기 쉬운 정도가 다른지도 평가하도록 설계했다고 밝혔다.
LLM router
크기·능력·비용이 서로 다른 여러 AI 모델 가운데 요청 하나를 맡길 모델을 자동으로 고르는 시스템이다. RouterArena 논문은 한 모델이 모든 상황에 최적일 수 없어서 상황에 가장 알맞은 모델을 고르는 LLM 라우터가 필수가 됐다고 설명한다. RouterArena는 이런 라우터를 비교하는 공개 평가 플랫폼이자 순위표다.
출처: RouterArena: An Open Platform for Comprehensive Comparison of LLM Routers (Lu 외, 2025) · RouterArena — GitHub README
dense model
입력이 들어올 때마다 같은 파라미터 전체를 계산에 쓰는 모델 구조다. Switch Transformers 논문은 모델이 대개 모든 입력에 같은 파라미터를 다시 쓰며, 전문가 혼합(MoE)은 이와 달리 입력마다 다른 파라미터를 골라 쓴다고 설명한다. 그래서 MoE 모델은 파라미터를 일부만 켜는 희소 활성(sparsely-activated) 모델이 되고, 이와 대비해 모든 파라미터를 쓰는 모델을 밀집 모델이라 부른다. Qwen3.8-27B 모델 카드는 이 모델을 배포하기 쉬운 소형 밀집 모델이라고 소개한다.
출처: Switch Transformers: Scaling to Trillion Parameter Models with Simple and Efficient Sparsity (Fedus 외, 2021) · Hugging Face — Qwen3.8-27B 모델 카드
repeated sampling
LLM에게 한 문제를 한 번이 아니라 여러 번 풀게 해 후보 풀이를 모으는 방식이다. 논문 Large Language Monkeys는 온도를 0보다 크게 두고 한 문제에 대해 서로 독립된 후보 풀이를 많이 만든 뒤, 코드의 단위 테스트 같은 분야별 검증기로 최종 답을 고르는 절차를 제시했다. 이 논문에 따르면 SWE-bench Lite에서 DeepSeek-Coder-V2-Instruct가 해결한 이슈 비율이 샘플 1개일 때 15.9%에서 250개일 때 56%로 올랐다.
출처: Large Language Monkeys: Scaling Inference Compute with Repeated Sampling (Brown 외, 2024)
secure aggregation
연합학습에서 서버가 관심을 두는 것은 개별 기기의 갱신 값이 아니라 그 평균이다. 보안 집계(SecAgg)는 암호 기법으로 서버가 개별 갱신은 전혀 알지 못한 채 합쳐진 모델 갱신만 받게 한다. 구글 리서치 블로그는 이를 데이터 최소화에 맞는 방식이라고 설명하며, 엄밀한 암호학적 보장 아래 이 일을 해낸다고 적었다.
출처: Google Research — Distributed differential privacy for federated learning (2023)
이 용어가 나온 기사
Calibration
분류 모델이 내놓는 확률값이 실제로 정답일 가능성을 그대로 나타내도록 하는 문제다. 잘 보정된 모델이 80%라고 한 답들을 모으면 실제로 80% 안팎이 맞는다. 2017년 연구는 최신 신경망이 10년 전 모델과 달리 보정이 잘 안 돼 있다는 사실을 보였다. 확률을 보고 자동으로 실행할지 사람에게 넘길지 정하는 시스템에서 특히 중요하다.
출처: Guo 외, On Calibration of Modern Neural Networks (arXiv 1706.04599)
post-training
사전 학습을 마친 언어 모델에 적용해 동작을 다듬고 새로운 능력을 끌어내는 학습 단계다. Tulu 3 논문은 사후 학습을 다양한 최신 언어 모델에 쓰이는 기술로 소개하며, 자신들의 방법이 지도 파인튜닝(SFT), 직접 선호 최적화(DPO), 검증 가능한 보상 기반 강화학습(RLVR)으로 이뤄진다고 밝혔다.
출처: Tulu 3: Pushing Frontiers in Open Language Model Post-Training (Lambert 외, 2024)
chain of thought (CoT)
모델이 답만 내놓지 않고 거기에 이르는 중간 추론 단계를 차례로 쓰게 만드는 프롬프트 기법이다. 2022년 논문은 이런 예시 여덟 개를 프롬프트에 넣는 것만으로 5,400억 매개변수 모델의 GSM8K 정답률이 당시 최고 수준에 올랐고, 검증기를 붙여 파인튜닝한 GPT-3보다도 높았다고 보고했다. 모델은 그대로 두고 프롬프트만 바꾼 결과다.
출처: Chain-of-Thought Prompting Elicits Reasoning in Large Language Models (Wei 외, 2022)
generation-verification gap
AI가 그럴듯한 답을 만드는 일과 그 답이 맞는지 확인하는 일 사이의 간극을 가리키는 말이다. 스탠포드 CS329A 1강은 모델이 쓸 만한 내용을 많이 만들어 내기는 쉽지만 쓸모를 확인하는 피드백이 병목이라는 뜻으로 이 말을 썼다. 2024년 논문은 같은 이름의 양을 생성물을 모델 자신의 검증 결과로 다시 가중했을 때 얻는 성능 향상으로 정의하고, LLM의 자기 개선 정도를 좌우한다고 밝혔다.
출처: Mind the Gap: Examining the Self-Improvement Capabilities of Large Language Models (Song 외, 2024) · Stanford Online — Stanford CS329A Self-Improving AI Agents | Part 1 | Course Overview
이 용어가 나온 기사
subagent
특정 종류의 작업을 전담하는 보조 AI다. 앤트로픽 문서는 검색 결과나 로그처럼 다시 볼 일 없는 내용으로 본 대화가 뒤덮일 만한 곁가지 작업이 있을 때 쓰라고 안내한다. 그 작업을 자기 맥락에서 처리하고 요약만 돌려주기 때문에 본 대화의 컨텍스트 윈도우를 아끼는 데 쓰인다.
출처: Claude Code 공식 문서 — Create custom subagents
이 용어가 나온 기사
scaling laws
언어모델의 성능이 모델 크기, 데이터셋 크기, 학습에 쓴 연산량과 어떤 관계를 갖는지를 경험적으로 정리한 법칙이다. 2020년 논문은 교차 엔트로피 손실이 이 세 가지에 대해 거듭제곱 법칙으로 줄어들고, 일부 추세는 일곱 자릿수가 넘는 범위에 걸쳐 나타난다고 밝혔다. 이 관계를 이용해 정해진 연산 예산을 어떻게 나눌지 정할 수 있다고도 적었다.
출처: Scaling Laws for Neural Language Models (Kaplan 외, 2020)
이 용어가 나온 기사
Agent Skills
스킬은 앤트로픽이 만들어 공개 표준으로 내놓은 Agent Skills 형식을 따르는 폴더로, 그 안에 SKILL.md 파일이 들어 있다. 이 파일에 이름·설명 같은 메타데이터와 작업 지시를 적고, 필요하면 스크립트·참고 문서·템플릿도 폴더에 함께 넣는다. 호출되기 전까지는 이름과 설명만 컨텍스트에 올라가고 요청이 설명과 맞을 때 본문을 불러오기 때문에, 스킬을 많이 설치해도 컨텍스트 부담이 적다.
출처: Agent Skills 공식 사이트 — Overview · Claude 공식 문서 — Agent Skills
이 용어가 나온 기사
speculative decoding
작고 빠른 초안 모델이 다음 토큰 몇 개를 먼저 내놓으면 큰 모델이 그 후보를 한 번에 병렬로 확인하는 추론 가속 기법이다. 큰 모델이 토큰을 하나씩 순서대로 만들 때보다 한 번의 계산으로 토큰 여러 개를 얻을 수 있어 빨라지고, 출력 분포는 이론상 큰 모델 혼자 만들 때와 같다. vLLM에서는 별도 초안 모델, MTP(다중 토큰 예측) 같은 방식을 고를 수 있다.
출처: Fast Inference from Transformers via Speculative Decoding (Leviathan 외, 2022) · Accelerating Large Language Model Decoding with Speculative Sampling (Chen 외, 2023) · vLLM 공식 문서 — Speculative Decoding
Trusted Execution Environment
프로세서가 만드는 격리된 실행 공간이다. 구글 리서치 블로그에 따르면 TEE 안에서 도는 코드는 제3자가 어떤 코드가 실행되는지 확인할 수 있고(원격 증명), 안쪽 상태를 관찰할 수 없으며(기밀성), 실행을 방해할 수 없다(무결성). 이 보장은 현세대 TEE의 한계에 따른다. 구글의 새 연합학습 시스템 백서는 AMD SEV-SNP와 Intel TDX 하드웨어를 쓴다고 밝혔다.
출처: Google Research — Toward provably private learning from federated data (2026) · Toward provably private learning from federated data (백서, arXiv 2609.31494)
quantization
모델이 계산에 쓰는 숫자(가중치 등)를 원래보다 적은 비트 수로 바꿔 담는 기법이다. 8비트나 4비트로 줄이면 메모리 사용량과 지연 시간이 줄어드는 대신 정밀도를 일부 내준다. 그 덕분에 큰 모델을 더 다양한 장비에서 실행할 수 있다.
출처: vLLM 공식 문서 — Quantization · A Survey of Quantization Methods for Efficient Neural Network Inference (Gholami 외, 2021)
이 용어가 나온 기사
ablation study
모델이나 시스템에서 구성 요소 하나를 빼거나 바꾼 변형을 원래와 비교해, 그 부분이 성능에 얼마나 기여하는지 확인하는 실험이다. 원래 신경과학에서 뇌 조직 일부를 통제된 방식으로 손상시켜 어떤 기능이 달라지는지 보던 연구 방법이며, 인공신경망 연구에도 같은 방식이 쓰인다. 논문을 AI 에이전트로 바꾸는 Paper2Agent 연구는 테스트 검증 에이전트를 뺀 변형을 만들어, 자동 검증이 도구의 정확성에 꼭 필요한지 시험했다.
출처: Meyes et al., Ablation Studies in Artificial Neural Networks (arXiv:1901.08644) · Miao et al., Reimagining research papers as interactive and reliable AI agents (Nature, 2026)
이 용어가 나온 기사
attention
모델이 입력의 어느 부분을 얼마나 참고할지 가중치로 정해 정보를 모으는 계산이다. 쿼리(Q)를 각 키(K)와 비교해 가중치를 구하고 그 가중치로 값(V)들을 가중합하며, 입력 안에서 멀리 떨어진 부분 사이의 관계도 거리와 상관없이 다룰 수 있다. 2017년 논문 Attention Is All You Need는 순환·합성곱 구조 없이 어텐션만으로 만든 모델인 트랜스포머를 제안했다.
출처: Attention Is All You Need (Vaswani 외, 2017) · Attention Is All You Need 본문 3.2절 (arXiv HTML)
agent
앤트로픽의 구분에 따르면, 코드로 미리 짜 둔 경로대로 LLM과 도구를 부르는 것은 워크플로이고 LLM이 작업 과정과 도구 사용을 그때그때 스스로 정하는 것이 에이전트다. 사람의 지시나 대화로 할 일이 분명해지면 혼자 계획을 세워 움직이며, 도구 호출 결과나 코드 실행 결과를 단계마다 확인해 진행 상황을 판단한다. 막히거나 중간 점검 지점에 이르면 멈추고 사람의 의견을 구하기도 한다.
출처: 앤트로픽 — Building Effective AI Agents
이 용어가 나온 기사
federated learning
휴대폰 같은 기기가 모델을 내려받아 자기 데이터로 학습한 뒤 작은 갱신 값만 서버로 올리고, 서버가 여러 기기의 갱신을 평균해 공유 모델을 만드는 방식이다. 원본 데이터는 기기를 떠나지 않는다. 논문은 2016년 2월 arXiv에 올라왔고 구글은 2017년 블로그로 소개했다. 구글은 이 방식으로 Gboard의 다음 단어 예측과 구글 메시지의 답장 추천을 만들어 왔다.
출처: Communication-Efficient Learning of Deep Networks from Decentralized Data (McMahan 외, 2016) · Google Research — Federated Learning: Collaborative Machine Learning without Centralized Training Data (2017)
orchestrator
여러 에이전트가 함께 일할 때 전체를 조율하는 역할로, 앤트로픽이 정리한 오케스트레이터-워커 방식에서는 중앙의 LLM이 작업을 그때그때 쪼개 워커 LLM들에게 맡기고 돌아온 결과를 종합한다. 고칠 파일의 수와 내용이 작업마다 달라지는 코딩처럼, 필요한 하위 작업을 미리 알 수 없는 일에 알맞다. 앤트로픽은 Claude의 리서치(Research) 기능도 주 에이전트가 병렬로 움직이는 하위 에이전트들에게 일을 나눠 맡기는 이 구조로 만들었다고 밝혔다.
출처: 앤트로픽 — Building Effective AI Agents · 앤트로픽 — How we built our multi-agent research system
open weights
가중치는 학습이 끝난 신경망의 최종 매개변수로, 모델이 입력을 해석하고 답을 만드는 방식을 정한다. 이 값을 누구나 내려받을 수 있게 풀면, 라이선스가 허락하는 범위에서 다른 사람이 모델을 파인튜닝하거나 고쳐 쓰거나 배포할 수 있다. 오픈소스 이니셔티브(OSI)는 학습 코드와 학습 데이터가 빠져 있다는 점에서 오픈웨이트를 오픈소스 AI와 구분한다.
출처: 미국 국가통신정보청(NTIA) — Dual-Use Foundation Models with Widely Available Model Weights Report(2024년 7월 30일) · Open Source Initiative — Open Weights: not quite what you’ve been told
이 용어가 나온 기사
in-context learning
모델을 추가로 학습시키지 않고, 입력에 넣은 지시문이나 예시 몇 개만 보고 같은 유형의 과제를 이어서 풀어내는 방식이다. 2020년 GPT-3 논문이 이 현상에 이름을 붙였고, 예시를 여러 개 주면 few-shot, 하나면 one-shot, 지시문만 주면 zero-shot으로 나눠 실험했다.
출처: Brown et al., Language Models are Few-Shot Learners (arXiv:2005.14165)
recursive self-improvement
AI가 자기 다음 세대 AI를 사람 손을 거치지 않고 완전히 스스로 설계하고 개발하는 것을 말한다. 앤트로픽은 보고서 'When AI builds itself'에서 AI 개발 일을 AI에게 점점 더 맡기는 지금의 흐름이 이 방향을 가리킨다고 보면서도, 아직 그 단계는 아니고 반드시 오는 일도 아니라고 적었다. 같은 보고서는 그 시점이 대부분의 기관이 대비한 것보다 빨리 올 수 있고, 이 단계에 이르면 사람이 AI 시스템에 대한 통제력을 잃을 위험이 커질 수 있다고 봤다.
alignment
AI 시스템이 사람이 의도한 목표와 가치에 맞게 행동하도록 만드는 일을 가리킨다. 앤트로픽은 사람 전문가보다 훨씬 유능한 AI가 우리 이익과 충돌하는 목표를 추구하면 결과가 심각할 수 있다며, 이것을 기술적 정렬 문제라고 부른다. 정렬을 다루는 기법으로는 사람 피드백 기반 강화학습(RLHF)과 Constitutional AI 같은 것을 든다.
출처: 앤트로픽 — Core Views on AI Safety
이 용어가 나온 기사
Zero-shot classification
모델이 학습하는 동안 본 적 없는 분류 항목을 예측하는 과제다. 미리 그 항목으로 훈련하지 않고, 분류할 글과 후보 항목 이름을 함께 주면 모델이 가장 알맞은 항목을 고른다. 언어 모델에 보기를 보여 주고 각 보기의 확률을 읽는 방식도 여기에 속한다.
distillation attack
공격자가 수천 개의 가짜 계정을 써서 산업 규모로 모델의 능력을 빼내는 행위다. 앤트로픽은 이렇게 하면 공격자가 모델 개발사가 넣은 안전장치 없이 고성능 모델을 만들 수 있다고 설명한다. Claude Sonnet 5.5는 추론 과정의 추출을 막는 안전 분류기를 처음 적용한 Sonnet 모델이다.
perceptual hash
이미지 같은 멀티미디어 파일의 내용 특징에서 뽑은 지문으로, 입력이 조금만 바뀌어도 값이 크게 달라지는 암호학적 해시와 달리 내용이 비슷하면 값도 가깝게 나온다. 회전·기울임·대비 조정·압축 형식 변경 같은 변형은 견디면서도 서로 다른 파일은 구별할 수 있어야 한다. Paper2Agent 연구는 도구가 만든 그림이 튜토리얼의 기준 그림과 맞는지를 지각 해시의 해밍 거리로 판정했다.
출처: pHash, What is a perceptual hash? · Miao et al., Reimagining research papers as interactive and reliable AI agents (Nature, 2026)
이 용어가 나온 기사
differential privacy
학습이나 집계 결과에 노이즈를 섞어서, 어느 한 사람의 데이터가 결과에 미친 영향을 수학적으로 제한하는 기법이다. 그 한도를 프라이버시 예산이라고 부르며 값이 작을수록 보호가 강하다. 구글은 2022년 스페인어 Gboard 언어 모델에 처음 DP 보장을 공표했고, 2024년에는 Gboard의 다음 단어 예측 신경망 모델이 모두 DP를 적용해 학습된다고 밝혔다.
출처: Google Research — Advances in private training for production on-device language models (2024) · Google Research — Distributed differential privacy for federated learning (2023)
이 용어가 나온 기사
reasoning model
답을 내기 전에 문제를 분석하고 풀이를 이어 가며 스스로 점검하도록 훈련한 언어모델이다. DeepSeek-R1 논문은 사람이 붙인 추론 예시 없이 강화학습만으로 LLM의 추론 능력을 끌어올릴 수 있다고 밝혔고, 그 과정에서 자기 성찰과 검증, 전략 전환 같은 추론 패턴이 나타났다고 적었다. 이렇게 훈련한 모델은 수학, 코딩 대회, STEM 분야처럼 답을 검증할 수 있는 과제에서 성능이 높았다.
출처: DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning (2025)
이 용어가 나온 기사
context rot
컨텍스트 윈도우 안의 토큰이 늘어날수록 그 컨텍스트에서 정보를 정확히 떠올리는 모델의 능력이 줄어드는 현상이다. 앤트로픽은 정도의 차이는 있어도 모든 모델에서 나타난다고 설명한다. 크로마(Chroma)의 기술 보고서(2025년 7월 14일)는 GPT-4.1, Claude 4, Gemini 2.5, Qwen3를 포함한 LLM 18개를 입력 길이에 따라 평가해, 입력이 길어질수록 성능이 점점 불안정해진다고 보고했다.
출처: Anthropic Engineering — Effective context engineering for AI agents · Chroma — Context Rot: How Increasing Input Tokens Impacts LLM Performance (2025)
이 용어가 나온 기사
context engineering
모델이 추론하는 동안 보게 되는 토큰 전체, 곧 시스템 지시문과 도구, MCP, 외부 자료, 대화 기록까지 가장 알맞게 골라 유지하는 전략의 모음이다. 앤트로픽은 컨텍스트 엔지니어링을 프롬프트 엔지니어링의 자연스러운 발전으로 본다. 프롬프트 엔지니어링이 효과적인 지시문을 쓰는 방법에 집중한다면, 컨텍스트 엔지니어링은 여러 차례 추론하는 에이전트가 쓰는 컨텍스트 상태 전체를 다룬다.
출처: Anthropic Engineering — Effective context engineering for AI agents
context window
언어 모델이 응답을 만들면서 참고할 수 있는 텍스트 전체로, 지금 만들고 있는 응답 자체도 여기에 들어간다. 학습에 쓰인 방대한 데이터와는 별개인 모델의 작업 기억에 해당하며, 크기는 토큰 수로 센다. 컨텍스트 윈도우가 클수록 길고 복잡한 프롬프트를 다룰 수 있다. 다만 앤트로픽은 토큰이 늘수록 정확도와 앞 내용을 떠올리는 능력이 떨어진다고 설명한다. 많이 넣는다고 늘 좋은 것은 아니다.
출처: Claude 공식 문서 — Context windows
이 용어가 나온 기사
test-time compute scaling
모델을 다시 학습시키지 않고, 답을 낼 때 연산을 더 써서 성능을 높이는 방식이다. 2024년 논문은 LLM이 추론 중 연산을 더 써서 출력을 개선하게 하는 것이 자기 개선 에이전트로 가는 중요한 단계라고 적었다. 이 논문은 검증기 역할을 하는 보상 모델을 상대로 탐색하는 방법과, 프롬프트를 받은 시점에 모델이 답을 낼 확률의 분포(응답 분포)를 그 문제에 맞게 바꿔 가는 방법을 분석했고, 어느 쪽이 효과적인지는 문제의 난이도에 따라 크게 달라진다고 밝혔다.
출처: Scaling LLM Test-Time Compute Optimally can be More Effective than Scaling Model Parameters (Snell 외, 2024) · Large Language Monkeys: Scaling Inference Compute with Repeated Sampling (Brown 외, 2024)
이 용어가 나온 기사
token
글은 모델에 들어가면 먼저 토큰의 나열로 바뀐다. 토큰 하나는 단어 전체일 수도 있고, 단어 조각이나 글자 하나, 유니코드 바이트 하나일 수도 있다. 앤트로픽은 Claude의 토큰 하나가 영어로 약 3.5글자에 해당하며 언어에 따라 달라진다고 설명한다. 모델이 한 번에 다룰 수 있는 분량인 컨텍스트 윈도우도 토큰 수로 나타낸다.
출처: Claude 공식 문서 — Glossary · Claude 공식 문서 — Context windows
이 용어가 나온 기사
Transformer
순환·합성곱 구조 없이 어텐션만으로 입력을 처리하는 신경망 구조다. 2017년 논문 Attention Is All You Need가 제안했고, 기계 번역 두 과제에서 기존 최고 모델보다 품질이 높으면서 병렬화가 쉽고 학습 시간은 훨씬 적게 든다고 보고했다. WMT 2014 영어-독일어 번역에서 BLEU 28.4로, 앙상블을 포함한 그때까지의 최고 기록을 2점 넘게 앞섰다.
fine-tuning
이미 사전 학습을 마친 모델을 새 데이터로 다시 학습시켜, 그 데이터에 담긴 패턴과 특징을 익히게 하는 방법이다. 특정 분야나 작업, 문체에 모델을 맞출 때 쓴다. 다만 어떤 데이터를 넣느냐에 따라 모델의 성능과 편향이 달라질 수 있다.
few-shot learning
GPT-3 논문이 쓴 말로, 추론할 때 모델에게 과제 예시를 몇 개 보여 주되 가중치는 바꾸지 않는 설정을 가리킨다. 문맥과 원하는 답을 짝지은 예시 K개를 넣고 마지막에 문맥만 준 문제의 답을 모델이 이어 쓰게 하며, 논문은 K를 보통 10~100개로 잡았다. 논문은 과제별 데이터가 훨씬 적게 필요하다는 점을 장점으로 꼽는다. 예시를 하나만 주면 원샷(one-shot), 하나도 주지 않고 지시문만 주면 제로샷(zero-shot)이라 부른다.
privacy budget
차분 프라이버시에서 한 사람의 데이터가 분석 결과에 미칠 수 있는 영향의 허용 한도다. NIST SP 800-226은 분석 결과가 어떤 한 사람의 데이터가 있든 없든 "거의 같아야" 한다고 할 때, 그 "거의"의 정도를 프라이버시 예산이 정한다고 설명한다. 같은 데이터를 여러 번 분석하면 각 분석의 ε 값을 더해 누적 한도를 계산하며, 이 합계를 프라이버시 예산이라 부르기도 한다.
출처: NIST SP 800-226 — Guidelines for Evaluating Differential Privacy Guarantees (2025)
이 용어가 나온 기사
prompt engineering
AI 모델에게 줄 지시문을 효과적으로 쓰고 구성해 원하는 결과를 얻는 일이다. OpenAI API 문서는 모델이 요구에 맞는 내용을 일관되게 만들어 내도록 효과적인 지시문을 쓰는 과정이라고 정의한다. 앤트로픽은 최적의 결과를 위해 LLM 지시문을 쓰고 정리하는 방법이라고 설명하며, 주된 관심이 특히 시스템 프롬프트를 쓰는 데 있다고 본다.
출처: OpenAI API 문서 — Prompt engineering · Anthropic Engineering — Effective context engineering for AI agents
prompt injection
AI 모델에 들어간 입력이 모델의 동작이나 출력을 의도하지 않은 방향으로 바꿔 놓는 취약점이다. OWASP는 사용자가 직접 넣은 입력이 일으키는 직접 방식과, 모델이 웹사이트나 파일 같은 외부 내용을 받아들였을 때 그 속의 지시가 일으키는 간접 방식으로 구분한다. 사람 눈에 보이지 않는 입력이라도 모델이 읽으면 영향을 줄 수 있다.
출처: OWASP GenAI Security Project — LLM01:2025 Prompt Injection
prompt caching
API 요청마다 되풀이되는 프롬프트의 앞부분(prefix)을 저장해 두었다가, 같은 앞부분이 다시 들어오면 처음부터 처리하지 않고 이어서 쓰는 기능이다. 앤트로픽 문서는 이 기능이 반복되는 작업의 처리 시간과 비용을 크게 줄여 준다고 설명한다. 저장한 앞부분을 읽어 쓰는 일은 캐시 읽기(cache read, 캐시 히트), 새로 저장하는 일은 캐시 쓰기(cache write)라 하며 단가가 따로 붙는다. 앤트로픽 가격표에서 캐시 읽기는 기본 입력 단가의 0.1배이고, 모델에 따라 더 낮은 값이 적용되기도 한다.
출처: Claude Platform Docs — Prompt caching
이 용어가 나온 기사
prefix caching
vLLM의 자동 프리픽스 캐싱(Automatic Prefix Caching, APC)은 기존 요청의 KV 캐시를 저장해 두었다가, 새 요청이 기존 요청과 같은 앞부분(prefix)을 공유하면 그 KV 캐시를 그대로 다시 써서 공유하는 부분의 계산을 건너뛴다. 같은 앞부분이 다시 들어와야 효과가 있다. vLLM에서는 엔진 설정의 enable_prefix_caching을 켜서 쓴다.
prefill
언어 모델이 답을 내는 두 단계 가운데 앞 단계다. 엔비디아 기술 블로그에 따르면 이 단계에서 모델은 입력 토큰을 처리해 중간 계산값(키와 값)을 구하고, 이 값으로 첫 번째 새 토큰을 만든다. 입력 전체를 이미 알고 있어 계산을 한꺼번에 할 수 있고, GPU의 연산 능력을 거의 가득 쓴다. 뒤 단계는 출력 토큰을 하나씩 만드는 디코드다.
출처: NVIDIA Technical Blog — Mastering LLM Techniques: Inference Optimization · vLLM 공식 문서 — Disaggregated Prefilling
harness
AI 에이전트에서 모델 본체(학습으로 정해진 가중치)를 뺀 나머지 구성을 가리키는 말이다. RRSI 논문은 시스템 프롬프트와 과제 지시문, 에이전트가 계획하고 실행하고 되돌아보고 멈출 때를 정한 순서, 쓸 수 있는 도구와 설명, 참고할 메모리와 스킬 파일, 매 단계에서 모델에게 무엇을 보여 줄지 고르는 방식을 하네스로 꼽는다. 같은 모델이라도 하네스가 달라지면 결과가 달라진다.
출처: RRSI: Regularized Recursive Self-Improvement of Agent Harnesses (Xia 외, 2026)
Hamming distance
0과 1로 된 두 문자열을 같은 자리끼리 비교했을 때 값이 다른 비트의 개수로, 한쪽을 다른 쪽으로 바꾸려면 비트 몇 개를 고쳐야 하는지로 볼 수도 있다. 예컨대 1011과 1001은 셋째 자리만 달라 해밍 거리가 1이며, 비트 대신 글자 단위로 세기도 한다. Paper2Agent 연구는 두 그림의 지각 해시 사이 해밍 거리가 20 미만이면 일치로 판정했다.
출처: NIST Dictionary of Algorithms and Data Structures, Hamming distance · Miao et al., Reimagining research papers as interactive and reliable AI agents (Nature, 2026)
이 용어가 나온 기사
hallucination
언어 모델이 사실과 다르거나 주어진 자료와 어긋나는 내용을 그럴듯한 문장으로 내놓는 현상이다. 2025년 9월 arXiv에 올라온 논문 "Why Language Models Hallucinate"는 최신 모델에서도 환각이 사라지지 않는 이유로, 학습과 평가 과정이 모른다고 인정하는 쪽보다 추측하는 쪽을 보상한다는 점을 꼽았다. 앤트로픽은 Claude가 모른다고 답할 수 있게 허용하고 원문 인용에 근거해 답하게 하는 방법으로 환각을 줄이라고 안내한다.
출처: arXiv — Why Language Models Hallucinate(2025) · Claude 공식 문서 — Reduce hallucinations
이 용어가 나온 기사
active parameters
전체 파라미터 가운데 토큰 하나를 처리할 때 실제로 계산에 쓰는 파라미터다. 입력마다 일부 전문가만 골라 쓰는 MoE 모델은 전체 크기와 활성 파라미터 수가 다르므로 두 수치를 따로 말한다. Mixtral 논문은 토큰마다 접근할 수 있는 파라미터가 47B이지만 추론에는 13B만 쓴다고 밝혔다.
출처: Mixtral of Experts (Jiang 외, 2024) · Switch Transformers: Scaling to Trillion Parameter Models with Simple and Efficient Sparsity (Fedus 외, 2021)
artificial general intelligence
artificial general intelligence의 약자다. OpenAI는 헌장에서 AGI를 경제적으로 가치 있는 대부분의 일에서 사람을 능가하는 고도로 자율적인 시스템이라고 정의한다. 헌장은 안전하고 이로운 AGI를 직접 만들어 그 혜택을 인류 전체가 누리게 하는 것을 OpenAI의 사명으로 밝힌다. 여기 적은 정의는 OpenAI 헌장을 따른 것이다.
Apache License, Version 2.0
아파치 소프트웨어 재단이 2004년에 낸 오픈소스 라이선스다. 저작권 사용권과 함께, 기여자가 가진 특허 가운데 그 기여로 침해될 수밖에 없는 것의 사용권까지 무상·영구로 준다. 대신 재배포할 때 라이선스 사본을 함께 주고, 고친 파일에는 고쳤다는 표시를 남기고, 원래의 저작권·특허·상표 고지를 유지해야 한다.
AI 모델과 에이전트, 모델을 서비스하는 클라우드, 모델이 돌아가는 칩을 직접 시험해 점수를 매기는 회사다. 회사 소개 페이지는 스스로를 AI를 위한 독립 벤치마크 회사라고 설명하고, 주요 AI 연구소와 매체, 기관이 공개적으로 인용한다고 밝힌다. 가장 많이 쓰이는 지표는 여러 평가를 한데 묶은 지능 지수(Artificial Analysis Intelligence Index)로, 2026년 9월 기준 판(v4.3.2)은 평가 10개로 이뤄진다. 모델마다 과제 하나를 끝내는 데 든 평균 비용(Cost per Task)과 출력 속도도 함께 공개한다.
출처: Artificial Analysis — About (회사 소개) · Artificial Analysis — Intelligence Index 설명과 비용 지표
이 용어가 나온 기사
누구나 논문을 무료로 올리고 읽을 수 있는 공개 논문 저장소로, 물리학·수학·컴퓨터 과학 등 8개 분야의 논문이 300만 편 넘게 올라와 있다. 자원봉사 검토자는 논문이 분야에 맞는지, 학술적 가치가 있는지만 확인할 뿐 arXiv가 동료 심사를 하지는 않는다. 논문이 올라왔다고 해서 arXiv가 그 방법이나 결론을 인정한 것도 아니다.
Electron ASAR archive
Electron 앱의 소스 코드는 보통 ASAR 보관 파일 하나로 묶여 배포된다. Electron 문서에 따르면 Electron 앱을 위해 설계한 단순한 보관 형식이고, 묶으면 윈도우의 긴 경로 이름 문제를 줄이고 require 속도를 높이며 소스 코드를 대충 훑어보는 것으로는 보이지 않게 가릴 수 있다.
출처: Electron 문서 — ASAR Archives
이 용어가 나온 기사
Simplified Technical English
기술 문서를 쓰기 위한 통제 자연어이자 국제 표준이다. 유럽 항공·보안·방위 산업 협회 ASD가 소유한다. 항공사의 요청으로 1979년에 시작돼 1986년 첫 릴리스가 나왔고, 2005년 ASD-STE100이라는 이름이 됐으며, 2025년 1월 Issue 9에서 표준으로 격상됐다. 규칙 53개와 승인 어휘 약 900개의 사전으로 이뤄지고, 절차 문장은 20단어, 설명 문장은 25단어 이하로 쓰게 한다.
보조 게임
사람과 AI가 함께하는 협력 게임으로, 둘 다 사람의 보상 기준에 따라 보상받지만 AI는 그 기준이 무엇인지 처음에는 모른다. 2016년 해드필드-메넬, 러셀 등이 협력적 역강화학습(CIRL)이라는 이름으로 정식화했고, 러셀은 이후 보조 게임이라 부른다. 목표를 확신하지 않기 때문에 사람의 행동, 예컨대 멈추라는 말이 목표를 알려 주는 증거가 되고, 그래서 AI가 꺼지는 것을 받아들일 유인이 생긴다는 것이 러셀의 주장이다.
출처: Hadfield-Menell 외 — Cooperative Inverse Reinforcement Learning(arXiv 1606.03137) · Stuart Russell — Human-Compatible Artificial Intelligence(장 원고) · Hadfield-Menell 외 — The Off-Switch Game(arXiv 1611.08219)
이 용어가 나온 기사
bfloat16
머신러닝을 위해 만든 16비트 부동소수점 형식이다. 구글 클라우드 블로그에 따르면 부호 1비트, 지수 8비트, 가수 7비트로 이뤄져 있다. 딥러닝을 염두에 두고 설계하지 않은 업계 표준 IEEE 16비트 부동소수점과는 다른 형식이다.
출처: Google Cloud Blog — BFloat16: The secret to high performance on Cloud TPUs
이 용어가 나온 기사
스탠포드 대학교에서 2025년 가을학기에 열린 과목 "Self-Improving AI Agents(자기 개선 AI 에이전트)"의 과목 코드다. 강좌 페이지는 스스로 그리고 환경과 상호작용하며 계속 개선하는 AI 에이전트의 최신 기법과 응용을 다룬다고 소개한다. 검증기를 쓰는 방법, 테스트 시간 연산 확장, 도구 사용과 기억으로 LLM을 보강하는 방법이 주제로 나온다. 스탠포드 온라인이 1강 영상을 유튜브에 공개했다.
출처: Stanford CS329A | Self-Improving AI Agents (강좌 페이지) · Stanford Online — Stanford CS329A Self-Improving AI Agents | Part 1 | Course Overview
Electronic Design Automation
엔지니어가 전자 시스템, 특히 반도체 칩을 설계하고 만들도록 돕는 소프트웨어·하드웨어 도구 묶음이다. 칩을 실제로 찍어 내기 전에 회로 설계와 검증을 컴퓨터로 처리한다. 시놉시스는 이 도구로 더 앞선 칩을 더 빨리 만들고 오류를 줄일 수 있다고 설명한다.
출처: 시놉시스 용어집 — What is Electronic Design Automation (EDA)?
이 용어가 나온 기사
Claude가 응답할 때 쓰는 토큰의 양을 낮음부터 최대까지 단계로 고르는 설정이다. 앤트로픽 문서는 응답의 철저함과 토큰 효율 가운데 어느 쪽에 무게를 둘지 한 모델 안에서 조절하는 장치라고 설명한다. 답변 글뿐 아니라 도구 호출과 생각(thinking)에 쓰는 토큰에도 적용되며, 엄격한 토큰 예산이 아니라 동작을 이끄는 신호여서 낮은 단계에서도 어려운 문제는 생각하지만 높은 단계보다 덜 생각한다. 한국어 글에서는 사고 강도, 노력 수준이라고도 쓴다.
출처: Claude Platform Docs — Effort
이 용어가 나온 기사
임베딩
데이터를 숫자 벡터로 바꿔 뜻이 비슷한 것끼리 가까운 자리에 놓이게 한 표현이다. 구글 머신러닝 교육 자료는 단어마다 칸 하나를 따로 두는 one-hot encoding(원-핫 인코딩)이 벡터가 지나치게 커지고 단어 사이의 관계를 담지 못한다고 지적하고, 임베딩은 의미 관계를 담은 촘촘한 저차원 벡터로 이 문제를 푼다고 설명한다. 검색에서는 질의와 자료를 같은 방식으로 벡터로 바꾼 뒤 cosine similarity(코사인 유사도)가 가장 큰 자료를 먼저 돌려준다.
출처: Google Machine Learning Crash Course — Embeddings · Google Developers Blog — Bring multimodal semantic search to the edge with EmbeddingGemma 2(2026년 10월 6일)
Embodied Reasoning Question Answer
구글 딥마인드가 Gemini Robotics 발표와 함께 공개한 평가 데이터다. 실제 환경, 특히 로봇이 놓이는 상황의 공간 추론과 세계 지식을 묻는 문제로 이뤄지고, 이미지와 글이 섞인 문제에서 정답을 A~D 한 글자로 고르는 객관식이다.
출처: GitHub — embodiedreasoning/ERQA (README)
이 용어가 나온 기사
8‑bit floating point
딥러닝 계산에 쓰는 숫자를 8비트에 담는 부동소수점 형식이다. 엔비디아·Arm·인텔이 2022년 함께 제안한 규격은 지수 4비트·가수 3비트인 E4M3와 지수 5비트·가수 2비트인 E5M2 두 가지를 둔다. 세 회사는 16비트 학습에서 하이퍼파라미터를 하나도 바꾸지 않고도 최대 1,750억 매개변수 언어 모델까지 같은 품질을 냈다고 보고했다.
GGML 라이브러리와, 그 위에서 만든 llama.cpp 같은 프로그램이 모델을 불러와 추론할 때 쓰는 파일 형식이다. 모델을 불러오는 데 필요한 정보를 파일 하나에 모두 담고 빨리 읽고 쓰도록 설계됐으며, 양자화한 가중치도 담을 수 있다. PyTorch 등으로 만든 모델은 GGUF로 변환해 쓴다.
모방 학습
사람(교사)이 원하는 행동을 직접 보여 주고, 기계가 그 시연을 보고 따라 하도록 학습하는 방법이다. 행동을 일일이 프로그래밍하기 어려운 복잡한 환경에서는 시연을 보여 주는 쪽이 더 쉽다는 데서 출발했다. 스튜어트 러셀은 사람이 쓴 글을 흉내 내도록 훈련하는 대형 언어모델의 사전학습도 모방 학습이라고 보고, 그 과정에서 글쓴이의 목표까지 모델에 들어온다고 지적한다.
출처: Osa 외 — An Algorithmic Perspective on Imitation Learning(arXiv 1811.06711) · The Information TITV — Can We Solve AI’s Alignment Problem?(2026년 10월 6일)
이 용어가 나온 기사
Inter-Process Communication
Electron 앱은 화면을 그리는 renderer process(렌더러 프로세스)와 운영체제 기능을 다루는 main process(메인 프로세스)로 나뉘어 돌아간다. 두 프로세스는 역할이 달라서 서로 직접 부를 수 없고, IPC가 화면에서 네이티브 기능을 부르거나 메뉴 조작을 화면에 전하는 일 같은 많은 작업의 유일한 방법이라고 Electron 문서는 설명한다. 메시지는 이름 붙은 채널로 오가므로, 앱의 채널 이름을 살펴보면 그 앱이 화면과 본체 사이에 어떤 기능을 열어 두었는지 짐작할 수 있다.
출처: Electron 문서 — Inter-Process Communication
이 용어가 나온 기사
initial public offering
회사가 자기 주식을 일반 투자자에게 처음 파는 것을 가리킨다. 미국 증권거래위원회의 투자자 교육 사이트는 기업이 주식을 대중에게 처음 파는 때를 일반적으로 IPO라고 한다고 설명한다. AI 기사에서는 앤트로픽이나 OpenAI처럼 아직 상장하지 않은 회사의 상장 계획을 다룰 때 나온다.
출처: 미국 증권거래위원회(SEC) 투자자 교육 사이트 — Initial Public Offering (IPO)
KV cache
언어 모델이 토큰을 하나씩 만들어 갈 때, 앞에 나온 토큰들의 키·값 벡터를 저장해 두고 다시 쓰는 메모리다. 그 덕에 다음 토큰을 만들 때마다 앞 토큰을 다시 계산하지 않아도 되지만, 요청마다 크기가 크고 길이에 따라 늘었다 줄었다 한다. vLLM을 만든 PagedAttention 논문은 이 메모리를 잘게 나눠 관리해 낭비를 없애는 것이 처리량의 관건이라고 설명한다.
출처: Efficient Memory Management for Large Language Model Serving with PagedAttention (Kwon 외, 2023)
Large Language Model
Large Language Model의 약자로, 매개변수가 아주 많은 언어 모델을 방대한 텍스트로 학습시킨 것이다. 글을 생성하고 질문에 답하거나 정보를 요약하는 등 여러 작업을 해낸다. 앤트로픽의 Claude도 LLM을 파인튜닝하고 사람 피드백 기반 강화학습(RLHF)으로 다듬어 만든 AI 어시스턴트다.
이 용어가 나온 기사
Low-Rank Adaptation
Low-Rank Adaptation의 약자로, 사전 학습한 가중치는 그대로 두고 트랜스포머의 각 층에 학습할 수 있는 작은 행렬(rank decomposition matrices)을 끼워 그것만 학습시키는 파인튜닝 기법이다. 학습해야 할 파라미터 수가 크게 줄어든다. 원 논문은 Adam으로 파인튜닝한 GPT-3 175B와 견줘 학습 파라미터는 1만 분의 1, GPU 메모리 요구량은 3분의 1로 줄일 수 있다고 보고했다.
출처: LoRA: Low-Rank Adaptation of Large Language Models (Hu 외, 2021)
이 용어가 나온 기사
Model Context Protocol
앤트로픽이 2024년 11월 25일 오픈소스로 공개한 Model Context Protocol의 약자다. Claude, ChatGPT 등 AI 애플리케이션이 로컬 파일이나 데이터베이스, 검색 엔진이나 계산기 같은 외부 데이터와 도구에 표준화된 방식으로 연결되게 해 준다. 개발자가 데이터나 도구를 MCP 서버로 내놓으면 AI 애플리케이션은 MCP 클라이언트로 그 서버에 접속한다.
출처: Model Context Protocol 공식 문서 — What is the Model Context Protocol (MCP)? · 앤트로픽 — Introducing the Model Context Protocol(2024년 11월 25일)
이 용어가 나온 기사
Mixture of Experts
모델 안에 '전문가'라 불리는 작은 신경망을 여러 개 두고, 게이트 신경망이 입력마다 그중 몇 개만 골라 계산에 쓰는 구조다. 모델 용량(파라미터 수)은 크게 늘리면서도 계산량은 그에 비례해 늘지 않는다. 2017년 논문 'Outrageously Large Neural Networks'는 최대 수천 개의 전문가를 둔 층을 만들어 언어 모델링과 기계 번역에 적용했다.
출처: Outrageously Large Neural Networks: The Sparsely-Gated Mixture-of-Experts Layer (Shazeer 외, 2017)
이 용어가 나온 기사
multi‑token prediction
모델을 학습시킬 때 다음 토큰 하나가 아니라 이어질 토큰 여러 개를 한꺼번에 맞히게 하는 방식이다. 2024년 논문은 공유된 본체 위에 출력 머리를 여러 개 두는 방법으로, 학습 시간을 늘리지 않으면서 특히 코드 생성에서 성능이 올랐다고 보고했다. DeepSeek-V3는 이렇게 학습한 모듈을 추론 때 스펙 디코딩의 초안 생성기로 다시 쓴다.
출처: Better & Faster Large Language Models via Multi-token Prediction (Gloeckle 외, 2024) · DeepSeek-V3 Technical Report — 2.2 Multi-Token Prediction
Multi-Joint dynamics with Contact
로보틱스, 생체역학, 그래픽, 머신러닝 연구에 쓰는 범용 물리 엔진이다. 공식 문서는 관절로 이어진 구조물이 주변 환경과 맞닿는 상황을 빠르고 정확하게 모사하는 데 맞춘 도구라고 설명한다. 구글 딥마인드가 2021년 10월 인수해 무료로 공개했고, 2022년 5월 오픈소스가 됐다.
출처: MuJoCo Documentation — Overview · GitHub — google-deepmind/mujoco
이 용어가 나온 기사
NVIDIA FP4 (4‑bit floating point)
엔비디아가 Blackwell 세대 GPU와 함께 내놓은 4비트 부동소수점 형식으로, 값 하나는 부호 1비트·지수 2비트·가수 1비트로 담는다. 16개 값마다 FP8 스케일 하나를, 텐서 전체에는 FP32 스케일 하나를 더 두어 4비트로 줄일 때 생기는 오차를 줄인다. 엔비디아는 FP16보다 모델 메모리를 약 3.5배 줄인다고 밝혔다.
출처: NVIDIA Technical Blog — Introducing NVFP4 for Efficient and Accurate Low-Precision Inference · NVIDIA Transformer Engine 2.14 문서 — NVFP4
코드 생성 평가에 쓰는 지표로, 문제마다 코드 답안을 k개 만들어 그중 하나라도 단위 테스트를 통과하면 그 문제를 푼 것으로 보고 푼 문제의 비율을 낸다. Codex 논문(Chen 외, 2021)이 이 지표를 설명한다. k가 1인 pass@1은 재시도 없이 첫 답안만 채점한다. 구글 딥마인드는 Gemini 4 Argon 평가 방법론 문서에서 점수가 별도 표기가 없는 한 pass@1이며, 단일 시도 설정에서는 다수결과 병렬 추론을 쓰지 않는다고 밝혔다.
출처: Evaluating Large Language Models Trained on Code (Chen 외, 2021) · Google DeepMind — Gemini 4 Argon model evaluation (methodology)
프롬프트
언어 모델에 넣는 입력으로, 응답을 받으려고 모델에 제출하는 자연어 요청이다. 구글 Vertex AI 문서에 따르면 프롬프트에는 질문, 지시, 맥락 정보, few-shot examples(몇 개의 예시), 모델이 이어서 완성할 부분 입력이 들어갈 수 있다. 허깅페이스 문서는 프롬프트가 모델이 원하는 출력을 내도록 이끌 수 있다고 설명한다.
출처: Google Cloud Vertex AI Docs — Introduction to prompting · Hugging Face Transformers Docs — Prompt engineering
이 용어가 나온 기사
retrieval‑augmented generation
모델이 학습으로 익힌 지식만 쓰지 않고, 바깥에 둔 문서에서 관련 대목을 찾아와 함께 보고 답을 만드는 방식이다. 2020년 논문이 학습된 지식(파라미터 기억)과 찾아온 문서(비파라미터 기억)를 함께 쓰는 구조에 이 이름을 붙였다. 논문은 모델이 가진 지식을 정확히 다루기 어렵고 최신 내용으로 고치기도 어렵다는 문제에서 출발했다고 밝혔다.
출처: Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks (Lewis 외, 2020)
Rich Communication Services
Rich Communication Services의 약자로, 기존 문자 메시지(SMS)에 그룹 채팅·파일 공유·읽음 확인 같은 기능을 더한 메시징 서비스다. 이용자는 별도 앱 없이 스마트폰의 기본 메시지 앱에서 쓴다. 이동통신 업계 단체 GSMA의 RCS 유니버설 프로파일(Universal Profile)이 업계 표준을 세우고 네트워크와 단말 사이의 호환을 쉽게 하는 데 중요한 역할을 한다.
출처: GSMA — Rich Communication Services
이 용어가 나온 기사
reasoning + acting
모델이 추론 과정을 적는 일과 실제 행동을 번갈아 하게 만드는 방식이다. 2022년 논문은 추론 기록이 행동 계획을 세우고 고치고 예외를 다루는 데 쓰이고, 행동은 지식 베이스나 환경 같은 바깥에서 정보를 더 가져오는 데 쓰인다고 설명했다. 이름은 추론(reasoning)과 행동(acting)을 합친 것이다.
출처: ReAct: Synergizing Reasoning and Acting in Language Models (Yao 외, 2022)
로봇이 찍은 영상이나 사진처럼 현실에서 얻은 자료로 물리 시뮬레이션 장면을 만드는 작업이다. 구글은 Gemini 4 Argon의 로봇 활용 글에서 로봇 카메라 영상, 사람의 1인칭 영상, 손으로 그린 스케치를 시뮬레이션으로 옮기는 사례를 Real2Sim 항목으로 묶었다.
출처: Google Developers Blog — Gemini 4 Argon for Robotics (2026년 10월 13일)
이 용어가 나온 기사
보상 해킹
학습 목표로 정한 보상에 허점이 있을 때, AI가 설계자의 의도와 다른 손쉬운 방법으로 보상만 높이는 현상이다. 2016년 논문 Concrete Problems in AI Safety는 목적 함수를 형식상으로는 최대로 만들지만 설계자의 의도는 비트는 손쉬운 해법이 생기는 경우를 reward hacking이라 불렀다. OpenAI 연구진은 2025년 논문에서 추론 모델의 reward hacking을 다른 LLM이 사고 과정을 읽어 찾아낼 수 있다고 밝혔다.
출처: Concrete Problems in AI Safety (arXiv, 2016) · Monitoring Reasoning Models for Misbehavior and the Risks of Promoting Obfuscation (arXiv, 2025)
red, green, blue, alpha
색을 빨강·초록·파랑 세 채널로 담고, 거기에 알파 채널을 하나 더해 네 채널로 담는 방식이다. W3C의 PNG 규격은 알파 값이 그 픽셀이 얼마나 불투명한지를 정하며 0이면 완전히 투명하고 최댓값이면 완전히 불투명하다고 적고 있다. 배경이 비어 있는 이미지를 저장하고 다루는 데 이 채널이 쓰인다.
출처: W3C — Portable Network Graphics (PNG) Specification (Third Edition)
이 용어가 나온 기사
Reinforcement Learning for Calibrated Decisions
TypeSafe AI가 자사 모델 Jev를 훈련한 방식에 붙인 이름이다. 모델이 문장을 생성하지 않고 미리 정한 보기 가운데 결정을 고르며, 각 답에 붙는 확률이 실제로 맞힐 가능성과 맞도록 훈련한다. 회사는 사람이 선호하는 답을 내게 하는 RLHF, 기계로 채점하는 RLVR에 이은 세 번째 사후 학습 갈래라고 설명한다. 구체적인 학습법은 공개하지 않았다.
Reinforcement Learning from Human Feedback
사전학습을 마친 언어 모델이 사람의 선호에 맞게 행동하도록 훈련하는 기법이다. 사람이 예시 답변 두 개 이상에 순위를 매기면, 강화학습이 높은 순위를 받은 쪽과 비슷한 답을 내도록 모델을 이끈다. 지시를 더 잘 따르게 하거나 대화형으로 행동하게 만드는 데 쓰이며, Claude도 이 방법으로 훈련됐다.
Reinforcement Learning with Verifiable Rewards
앨런AI연구소(Ai2)가 2024년 튈루 3(Tulu 3) 논문에서 이름 붙인 사후 학습 방법이다. 수학 풀이처럼 답이 맞는지를 프로그램으로 확인할 수 있는 과제에서, 확인을 통과한 답에 보상을 주는 식으로 모델을 강화학습시킨다. 오픈AI의 o1·o3 같은 추론 모델 계열을 설명할 때 자주 쓰인다.
출처: Lambert 외, Tulu 3: Pushing Frontiers in Open Language Model Post-Training (arXiv 2411.15124)
채점표
결과물이 갖춰야 할 조건을 여러 항목으로 나눠 적고, 항목마다 충족 여부를 따져 점수를 매기는 채점표다. 2025년 논문 Rubrics as Rewards는 실제 문제의 평가가 맞고 틀림이 아니라 여러 기준에 걸친 세밀한 판단에 달려 있다며, 과제마다 만든 rubric을 강화학습의 보상으로 쓰는 방법을 제안했다. 이 논문은 rubric을 구조화된 보상으로 쓰면 작은 채점 모델도 판단이 더 잘 맞고 채점 모델 크기에 따른 성능 편차가 줄었다고 밝혔다.
출처: Rubrics as Rewards: Reinforcement Learning Beyond Verifiable Domains (arXiv, 2025)
시리즈 B
스타트업이 벤처캐피털에서 지분을 팔아 투자를 받는 단계를 순서대로 Series Seed, Series A, Series B, Series C 식으로 부르는데, 그 가운데 두 번째 본격 투자 단계다. 미국 법률회사 Cooley가 운영하는 창업자용 자료는 시리즈 투자(series financing)를 스타트업이 기대는 지분형 벤처캐피털 투자 단계라고 설명하고, 보통 Seed 또는 Series A가 첫 벤처 투자라고 적는다.
출처: Cooley GO — Series Financing
이 용어가 나온 기사
supervised fine-tuning · 지도 미세조정
사전학습을 마친 언어모델에, 사람이 직접 써 보인 바람직한 답의 예시를 보여 주며 지도학습으로 다시 학습시키는 단계다. OpenAI의 InstructGPT 논문은 라벨러가 쓴 시연 데이터로 GPT-3를 지도학습 방식으로 미세조정한 뒤, 사람의 순위 평가로 강화학습(RLHF)을 더하는 순서를 썼다. 오늘날 대화형 모델 학습에서 사전학습과 RLHF 사이에 들어가는 단계로 쓰인다.
출처: Ouyang 외 — Training language models to follow instructions with human feedback(arXiv 2203.02155)
이 용어가 나온 기사
Server-Side Request Forgery
웹 서버가 외부에서 받은 URL로 내용을 가져오면서 그 요청이 의도한 대상으로 가는지 충분히 확인하지 않을 때 생기는 취약점이다(CWE-918). 공격자는 서버를 대신 내세워 외부에서는 닿지 않는 내부 주소로 요청을 보낸다. MCP 서버는 에이전트가 넘긴 URL이나 경로로 바깥 요청을 만들기 때문에 같은 문제가 생길 수 있다.
출처: MITRE CWE-918: Server-Side Request Forgery (SSRF)
이 용어가 나온 기사
정적 분석
실행 중이 아닌 소스 코드를 대상으로 하는 분석이다. OWASP는 정적 코드 분석을 taint analysis(오염 추적), data flow analysis(데이터 흐름 분석) 같은 기법으로 소스 코드 속 취약점 가능성을 찾아 알려 주는 도구의 실행이라고 설명한다. 이런 도구는 결함을 자동으로 확정하기보다 분석가가 보안상 중요한 부분을 빨리 찾도록 돕는 보조 수단으로 쓰이는 경우가 많다. 코드를 실행하지 않으므로, 찾은 연결이 실제 실행에서 일어난다는 증거는 되지 못한다.
출처: OWASP — Static Code Analysis
이 용어가 나온 기사
파이썬 저장소 12개의 실제 GitHub 이슈와 그에 대응하는 PR에서 뽑은 소프트웨어 엔지니어링 문제 2,294개로 이뤄진 평가 틀이다. 모델은 코드베이스와 이슈 설명을 받아 코드를 고쳐 이슈를 해결해야 한다. SWE-bench Lite는 전체에서 과제 300개를 골라 만든 더 작은 부분집합이다.
출처: SWE-bench: Can Language Models Resolve Real-World GitHub Issues? (Jimenez 외, 2023) · SWE-bench Lite
아첨
AI 어시스턴트가 사실에 맞는 답보다 사용자의 생각에 맞는 답을 내놓는 행동을 가리킨다. 앤트로픽 연구자가 참여한 2023년 논문은 사람 피드백으로 미세조정한 최신 AI 어시스턴트 다섯 개가 여러 과제에서 꾸준히 아첨을 보였고, 사람과 선호 모델 모두 그럴듯하게 쓴 아첨 응답을 정답보다 선호하는 경우가 적지 않다고 보고했다. 사람의 반응을 보상으로 삼는 학습(RLHF)이 이 경향을 키울 수 있다는 뜻이다.
출처: Sharma 외 — Towards Understanding Sycophancy in Language Models(arXiv 2310.13548)
온도
모델이 다음 토큰을 고를 때 얼마나 무작위로 고를지 정하는 샘플링 값이다. 구글 Gemini 문서는 값이 낮을수록 정해진 답에 가깝고 높을수록 다양하거나 창의적인 결과가 나오며, 0이면 확률이 가장 높은 토큰을 항상 고른다고 설명한다. 앤트로픽 API 문서는 분석이나 객관식 과제에는 0.0에 가깝게, 창작과 생성 과제에는 1.0에 가깝게 쓰라고 안내하면서도 0.0이어도 결과가 완전히 같지는 않다고 밝힌다. 같은 문서에 따르면 Claude Opus 4.6 이후 나온 모델은 이 값을 바꾸는 것을 지원하지 않는다.
출처: Gemini API Docs — Prompt design strategies(Temperature 항목) · Claude API Reference — Create a Message(temperature)
time to first token
요청을 보낸 뒤 모델이 첫 토큰을 내놓을 때까지 걸린 시간이다. 모델은 첫 토큰을 내기 전에 프롬프트 전체를 한 번에 계산하는 단계를 거치므로, 그 시간이 이 값에 들어간다. vLLM은 이 값을 따로 지표로 내보내고, 전체 지연에서 이 값을 뺀 나머지를 출력 토큰 수로 나눠 토큰당 시간(TPOT)을 구한다.
출처: vLLM 공식 문서 — Metrics · PagedAttention 논문 2.2절 — 프롬프트 단계가 첫 토큰을 만든다 (arXiv HTML)
이 용어가 나온 기사
기업가치
사모펀드·벤처캐피털 투자 협상에서 회사의 가치를 가리킨다. 투자가 이뤄지기 전 가치를 pre-money valuation, 투자 직후 가치를 post-money valuation이라 하고, 몇 가지 예외를 빼면 투자 전 가치에 투자금을 더한 값이 투자 후 가치다. 뉴스에서 "기업가치 15억 달러"처럼 쓰일 때는 어느 쪽인지 밝히지 않는 경우가 많다.
출처: Cooley GO — Pre-Money Valuation · Cooley GO — Post-Money Valuation
vision-language-action
이미지와 언어 지시를 입력으로 받아 로봇의 행동까지 출력하는 모델이다. 구글 딥마인드의 Gemini Robotics 보고서는 Vision-Language-Action(VLA)을 로봇을 직접 제어할 수 있는 범용(generalist) 모델로 소개한다. 같은 보고서는 이 모델을 추가 학습시켜 더 정교한 작업이나 다른 로봇 몸체에 맞출 수 있다고 설명한다.
출처: Gemini Robotics: Bringing AI into the Physical World (Google DeepMind, 2025)
이 용어가 나온 기사
UC 버클리 Sky Computing Lab에서 시작한 LLM 추론·서빙 라이브러리다. 요청마다 크게 늘었다 줄었다 하는 KV 캐시 메모리를 운영체제의 가상 메모리·페이징 기법에서 착안한 PagedAttention으로 관리해, 메모리 낭비를 줄이고 처리량을 높였다. 지금은 여러 대학과 기업이 함께 유지하는 오픈소스 프로젝트다.
출처: vLLM 공식 문서 · Efficient Memory Management for Large Language Model Serving with PagedAttention (Kwon 외, 2023)