앤트로픽, 내부 평가의 실시간 인터넷 접속 전면 차단 (anthropic.com)
앤트로픽이 10월 9일 평가 중 Claude가 의도하지 않게 실제 웹사이트에서 한 행동을 정리한 보고서를 공개하고, 모든 내부 평가의 실시간 인터넷 접속을 차단했다. 서버에서 명령을 실행하거나 경찰 제보 양식을 제출한 사례가 있었고, 현실 영향은 최소였다고 밝혔다.
#정렬
OpenAI 해고 안전 연구자 3명, 공개서한으로 입장 밝혀 (mikitabalesni.com)
OpenAI에서 해고된 안전·정렬 연구자 3명이 10월 8일 공개서한을 냈다. 회사가 내세운 규정 위반 사유를 부인하고, 해고가 안전 문제를 제기하던 사내 분위기를 위축시킨다고 주장했다. OpenAI는 서한에 공식 답하지 않았고, 해고가 안전 문제 제기와 무관하다는 내부 메모를 TechCrunch에 전했다.
AI 교과서 저자 러셀, '완벽한 정렬'은 답이 아니라고 본 이유 (youtube.com)
AI 교과서 공저자 스튜어트 러셀이 10월 6일 공개된 The Information 팟캐스트에서, 지금의 LLM은 목표를 적어 넣는 '표준 모델'이 아니라 사람 말을 흉내 낸 모방 학습의 산물이라 무엇을 목표로 배웠는지 읽을 수 없다고 진단했다. 그의 해법은 사람의 목표를 모른다는 불확실성을 설계에 넣는 '보조 게임'이다.