앤트로픽 주식 5% 공익 기금·외부 평가기관 상주, 무엇이 정해졌나
앤트로픽이 회사 주식 5%를 공익 기금에 내놓고, 외부 평가기관 METR 연구자 6명을 회사 안에 들여 위험 평가를 맡겼다. 평가는 이미 시작됐고, 결과 발표는 METR이 한다. 기금은 주주 승인과 세부 기준 공개가 남아 있다.
이 한 주 사이에 회사 밖으로 두 가지를 내놨다. 하나는 회사 주식이고, 다른 하나는 회사 안을 들여다볼 권한이다.
회사는 10월 18일 주식 일부를 떼어 공익 기금을 만든다고 발표했다. 사흘 앞선 10월 15일에는 외부 평가기관 의 연구자들을 회사 안에 들여 위험 평가를 맡겼다고 밝혔다.
두 발표는 진행 단계가 다르다. 외부 평가는 이미 시작됐지만, 공익 기금은 주주 승인과 세부 규칙 공개가 남아 있다.
공익 기금, 주식 5%로 시작해 회사 가치가 오르면 늘어난다
은 전체 주식의 5%를 앤트로픽 공익 기금(Anthropic Public Benefit Fund)에 넣기로 했다. 주주 승인을 받는 것이 조건이다. 앤트로픽은 최근 창업자 의결권을 늘리는 주식 구조도 주주 승인을 받으려 하는 것으로 보도됐다.
기금 몫은 회사 가치에 따라 늘어난다. 회사 가치가 정해진 기준보다 50% 오를 때마다 이사회가 전체 주식의 2%를 더 넣을 수 있다. 그 기준 가치는 아직 공개하지 않았다.
회사는 이 구조를 임원 보상과 견줬다. 기술 기업이 회사가 커질수록 임원에게 더 많은 주식을 주는 것처럼, 그 몫을 공익에 돌린다는 설명이다.
기금은 비영리 재단이 아니라 앤트로픽이 전부 소유한 유한책임회사(LLC)로 만든다. 회사는 이 형태를 고른 이유로 여러 기부 방식 사이를 오갈 수 있다는 점을 들었다. 비영리단체에 큰 금액을 기부하는 방식과 특정 집단에 직접 나눠 주는 방식을 모두 열어 둔 것이다.
쓰임새의 예로는 AI가 일자리에 주는 충격을 들었는데, 앤트로픽은 이 문제의 연구와 대응에 이미 2억 달러를 약속한 상태다. 기금이 가진 앤트로픽 주식은 미국 안팎의 로비나 정치 기부에 쓰지 않는다.
회사는 기존 약속까지 더하면 전체 주식의 약 20%가 공익 몫이 된다고 계산했다. 여기에는 이번 기금 5%와 함께 공동 창업자들이 창업 때 한 서약이 들어간다. 창업자들은 보유 지분의 80%를 기부하겠다고 약속했다. 직원이 지분 기부를 약속하면 회사가 같은 만큼 보태는 제도도 포함되며, 직원 절반가량이 참여하고 있다.
아직 공개되지 않은 것도 있다. 추가 지분이 붙는 기준 가치와 기금의 운영 구조는 "앞으로 몇 달 안에" 밝힌다고 했다. 누가 기금의 돈을 어디에 쓸지 정하는지도 이번 발표에는 나오지 않는다.
외부 평가, METR 연구자 6명이 회사 안에서 일한다
외부 평가는 이미 진행 중으로, 은 직원 6명에게 회사 장비와 사무 공간, 내부 도구 접근권을 줬다. METR은 최신 AI 모델의 위험을 평가하는 비영리 기관이다.
회사는 이 방식을 employee-like access(직원급 접근권)라고 불렀다. 앤트로픽은 접근 범위가 자체 위험 평가팀과 비슷한 수준이라고 설명했다. 다만 METR은 접근 요청을 받아줄지는 결국 회사가 정하는 만큼, 같은 일을 하는 회사 고위 안전 담당자만큼 보지는 못한다고 밝혔다.
결과를 누가 내보내느냐가 이 방식의 핵심이다. METR은 앤트로픽의 위험 수준과 사고, 안전 관리 방식에 대한 분석을 자기 이름으로 발표하고, 앤트로픽은 발표 자체를 막을 수 없다.
앤트로픽이 지우라고 요구할 수 있는 정보는 미리 정해 뒀다. 고객 데이터, 변호사와 주고받은 정보, 모델 구조가 여기에 든다. 어떤 정보가 이 범주에 드는지는 앤트로픽이 최종 결정하고, METR은 자신이 어떤 정보를 받았고 무엇을 받지 못했는지를 따로 밝힐 수 있다.
앤트로픽은 평가기관과의 관계를 세 단계로 나눴다. 단계가 올라갈수록 볼 수 있는 정보가 늘고, 앤트로픽 승인 없이 결과를 발표할 수 있게 된다. METR은 가장 높은 3단계다.
다른 기관은 아직 초기 단계로, 받는 정보와 발표 권한이 METR보다 좁다. SecureBio는 회사 위험 보고서의 화학·생물 무기 부분을 검토하고 있다. 액센츄어(Accenture)·Faculty와는 모델 공격 시험과 안전장치 점검을 함께 하는 협력을 준비 중이고, 등과는 초기 논의 단계다.
단계 | 볼 수 있는 것 | 결과 발표 |
|---|---|---|
1단계 | 앤트로픽이 정한 좁은 범위의 조사 | 앤트로픽 승인이 있어야 발표 |
2단계 | 1단계보다 많은 정보 | 승인 없이 발표, 정해진 범주는 삭제 요구 가능. 삭제가 타당했는지 의견도 발표 가능 |
3단계(METR) | 직원급 접근 | 2단계와 같은 권한 |
METR이 보는 것과 보지 않는 것
은 10월 14일 글 두 편에서 기업 안에 들어가 하는 평가의 범위를 따로 밝혔다. METR이 보는 것은 AI가 사람의 통제를 벗어날 위험이다. 모델이 무엇을 할 수 있고 실제로 어떻게 행동하는지, 회사가 모델을 어떻게 감시하는지가 여기에 든다.
AI가 AI 개발 속도를 얼마나 끌어올리는지도 METR이 보려는 항목이다. 은 앞서 Claude가 사내 연구개발을 얼마나 맡는지를 자체 측정해 공개한 바 있다.
반면 모델 파일 자체를 지키는 보안이나 회사가 내부 규정을 지키는지는 METR의 평가 범위가 아니다. METR은 이 작업이 공식 감사나 규제 점검이 아니며, 모델 출시 여부를 정하지도 않는다고 적었다. 판단은 회사와 정부, 대중이 하고, METR은 그 근거가 될 자료를 낸다는 설명이다.
METR은 회사가 정보를 지웠다면 어떤 종류를 지웠는지 밝히기로 공개 방식을 정해 뒀다. 그 방식에 합의하지 못하면 합의하지 못했다는 사실을 공개하고, 결론에 영향을 준 접근 제한이 있었는지도 함께 적는다.
앤트로픽은 이달 초 평가 중 Claude가 실제 웹사이트에서 한 행동을 자체 보고서로 공개했다. METR은 상주 평가의 예비 보고서를 몇 달이 아니라 몇 주 단위로 내겠다고 밝혔다. 앤트로픽은 기금의 운영 구조와 함께 회사의 공익 활동 보고서를 앞으로 내놓을 계획이다.
