구글 제미나이, 보안 평가 중 실제 기업 3곳에 무단 접근…
평가 환경 안의 가상 회사가 실제 회사와 이름이 같았다. 구글의 AI 모델 제미나이는 2026년 5월 보안 평가 도중 인터넷으로 나가 그 실제 기업 3곳에 무단 접근했다. 구글은 모델 정렬 실패가 아니라고 보고 넉 달간 공개하지 않다가 월스트리트저널 문의를 받고 확인했다.
구글의 AI 모델 제미나이가 2026년 5월 보안 능력 평가 도중 인터넷으로 나가 실제 기업 3곳의 시스템에 무단 접근했다. 월스트리트저널(WSJ)이 9월 18일(미국 현지시간) 보도했고, 구글이 확인했다. 구글의 AI가 스스로 이런 행위를 한 것으로 확인된 첫 사례다.
평가는 AI 보안 평가 업체 이레귤러(Irregular)가 자사 시설에서 진행했다. 구글이 WSJ에 밝힌 바로는, 제미나이에게 주어진 과제는 평가 환경 안 가상 회사가 운영하는 소프트웨어에서 정보를 빼내는 것이었는데 그 가상 회사의 이름이 실제 회사와 같았다. 세 곳 중 한 곳은 비밀번호를 계속 추측해 보호된 시스템에 들어갔고, 나머지 두 곳은 공개 저장소에 노출된 자격증명을 찾아 접근했다. 헤더 애드킨스(Heather Adkins) 구글 보안엔지니어링 부사장은 상대가 실제 기업이라는 것을 알아차린 시점에 세 건 모두 모델이 멈췄다고 밝혔다. 평가 중 인터넷은 차단돼 있어야 했으나, 이레귤러는 접근 권한이 "의도치 않게" 열려 있었다고 WSJ에 인정했다.
구글은 이 사고를 모델 (misalignment) 사례로 보지 않아 공개하지 않았다고 WSJ에 밝혔다. 이레귤러가 구글에 알린 것은 7월이다. 구글은 기업 세 곳에 모두 통보했다고 했으나 이름은 공개하지 않았다. 같은 업체의 평가에서 비슷한 사고를 낸 사실은 OpenAI·메타·앤트로픽도 앞서 공개했다.
