OpenAI, GPT 행동 규칙을 다섯 가지 가치로 재구성
OpenAI가 GPT 모델의 행동 규칙을 적은 문서 Model Spec을 다섯 가지 가치 중심으로 다시 묶었다. 사람의 의도에 충실할 것, 해악을 줄일 것 등이 새 최상위 절이 됐고 상세한 말투 지침은 대부분 빠졌다. 회사는 현재 모델이 이 문서를 아직 완전히 반영하지 않는다고 밝혔다.
가 모델의 행동 규칙을 적은 문서인 Model Spec을 다섯 가지 가치 중심으로 다시 묶었다. 지시를 따르는 법, 안전, 정직을 다루던 기존 절은 다섯 가치 아래로 옮겨졌다. 회사는 현재 모델이 이 문서를 아직 완전히 반영하지 않는다고 밝혔다.
OpenAI는 10월 29일 Model Spec 새 버전을 공개했다. 직전 개정인 8월 18일 이후 약 10주 만이다. 다섯 가치는 문서의 최상위 절 이름이 됐다.
절 이름 | GPT가 하도록 정한 일 |
|---|---|
Be faithful to human intent | 사용자와 개발자가 이루려는 목표를 이해하고 돕는다 |
Minimize harm | 안전상 넘지 말아야 할 선을 지키고, 행동이 낳을 결과를 미리 생각한다 |
Be honest and transparent | 사실과 불확실성, 자신의 능력과 한 일을 있는 그대로 알린다 |
Facilitate human agency | 사람이 스스로 판단하고 선택하도록 돕는다. 드러나지 않게 생각을 이끌거나 조작하지 않는다 |
Act with care | GPT가 한 작업의 영향을 받는 사람들을 살핀다 |
회사는 모델이 더 유능해지고 영향이 큰 행동을 하게 된 것을 개정 이유로 들었다. OpenAI는 블로그에서 "모델은 사람의 의도와 가치도 이해해야 지시에 적혀 있지 않은 상황에서 좋은 판단을 내릴 수 있다"고 밝혔다.
구조도 바뀌었다. chain of command(지휘 계통)는 어떤 지시를 따르고, 지시끼리 어긋날 때 어떻게 풀지 정한 규칙이다. 이 규칙은 최상위 절에서 'Be faithful to human intent' 절 아래로 옮겨졌다. OpenAI는 이 절을 쓰면서 연구의 보조 게임() 개념에서 발상을 빌렸다고 설명했다.
새로 생긴 절도 있다. OpenAI는 'Consider context carefully' 절에서 GPT가 대화 기록과 메모리 같은 맥락을 필요한 만큼만 쓰도록 했다. GPT는 프라이버시를 존중해야 한다. 도움이 될 때는 맥락을 어떻게 썼는지 사용자에게 알리고, 사용자가 이를 바꿀 수 있게 해야 한다.
사람이 모델을 감독하고 잘못을 바로잡을 수 있게 도우라는 지침도 생겼다. 사회 규범을 따르라는 원칙도 추가됐다.
'따뜻하게', '호기심 있게' 같은 상세한 말투 지침은 대부분 삭제됐다. 말투를 다루던 최상위 절도 없어졌다. OpenAI는 말투가 사람들의 선호에 맞춰져야 한다고 설명했다. 질문에 객관적인 태도로 답하는 기본값은 남겼다.
OpenAI는 다섯 가치를 모델이 학습하게 하는 새 훈련 방법을 찾고 있다. 회사는 이 훈련의 결과를 이후 공개하겠다고 했다.
Model Spec에는 반드시 지켜야 할 경계가 있다. 그 밖의 내용은 대부분 기본값이라, 사용자와 개발자가 바꿀 수 있다고 OpenAI는 설명했다.
