사내 정보가 섞인 요청, 외부 AI로 보내도 될까
선택지에 확률을 붙이는 결정 모델 Elephant-1과 Nimble 9B로 사내 업무 요청 150건을 외부 AI로 보낼지 정하게 했다. 사내 정보가 들어 있을 확률이 0.1 미만인 요청만 보낸 Elephant-1은 유출이 0건이었다. 공식 BF16 버전은 메모리가 부족해 실행하지 못했다.
선택지에 확률을 붙이는 결정 모델 Elephant-1과 Nimble 9B로 사내 업무 요청 150건을 외부 AI로 보낼지 정하게 했다. 사내 정보가 들어 있을 확률이 0.1 미만인 요청만 보낸 Elephant-1은 유출이 0건이었다. 공식 BF16 버전은 메모리가 부족해 실행하지 못했다.