AI 연구자 카파시의 이용자 깔때기, 60억 명에서 5천 명 (x.com)
같은 AI를 두고 누군가는 엉성한 챗봇이라 하고 누군가는 몇 달 치 일을 한 번에 끝낸다고 합니다. AI 연구자 카파시는 이 격차를 60억 명에서 약 5,000명으로 좁아지는 네 층의 깔때기로 그렸습니다. 인원은 본인이 대충 계산한 추정치입니다.
#Karpathy
Karpathy의 AI 답변 이해법 4가지, 첫째는 항공 정비 영어 (x.com)
Andrej Karpathy가 10월 2일 X에서 AI 답변을 이해하기 쉽게 받는 방법 네 가지를 소개했습니다. 첫째로 꼽은 ASD-STE100은 항공 정비 문서를 위해 만든 통제 영어 표준입니다. 규격의 내용과 이력, 같은 구글 기사를 두 문체로 만들어 문장 길이를 측정한 결과를 정리했습니다.
트랜스포머란 무엇인가, 카파시 강연으로 정리 (youtube.com)
안드레이 카파시가 2023년 스탠포드 CS25 강연에서 직접 설명한 트랜스포머 구조를 원본 자막과 논문 원문으로 다시 확인했습니다. 어텐션의 등장 배경과 Q·K·V, 범용 컴퓨터라는 비유를 정리하고, 강연 속 nanoGPT 대신 후속작 nanochat으로 코드에서 직접 열어보는 순서까지 붙였습니다.