AI가 하네스를 스스로 고칠 때의 과적합, 구글 논문의 대책 (arxiv.org)
RRSI는 AI 모델은 그대로 두고 프롬프트·도구·메모리 같은 주변 구성(하네스)을 AI가 스스로 고치게 하는 방법에, 평가 문제만 외우는 과적합을 막는 장치를 단 구글 논문입니다. 고치는 데 쓴 평가에서는 비교한 방법 중 점수가 가장 낮았지만 쓰지 않은 평가에서는 가장 높았습니다. 연습 문제는 꼴찌, 처음 보는 시험은 1등인 셈입니다.
RRSI는 AI 모델은 그대로 두고 프롬프트·도구·메모리 같은 주변 구성(하네스)을 AI가 스스로 고치게 하는 방법에, 평가 문제만 외우는 과적합을 막는 장치를 단 구글 논문입니다. 고치는 데 쓴 평가에서는 비교한 방법 중 점수가 가장 낮았지만 쓰지 않은 평가에서는 가장 높았습니다. 연습 문제는 꼴찌, 처음 보는 시험은 1등인 셈입니다.