미군, AI로 만든 정보 보고서에 중국 선박 승선 직전까지
미 특수작전사령부 분석관이 챗봇으로 중국 선박의 화물을 분석하고, 그 결론을 다시 AI로 표준 정보 보고서로 만들어 배포했다. 화물을 잘못 식별한 이 보고서 때문에 미군이 무장 승선 직전까지 갔다고 CNN이 보도했다. 국방부는 확인도 부인도 하지 않았다.
미군이 2026년 봄 이란과의 전쟁 중에 중동의 중국 선박에 무장 병력을 승선시키려다 작전 직전에 멈췄다고 CNN이 9월 18일(현지시간) 단독 보도했다. 작전의 근거는 AI 챗봇이 화물을 잘못 식별한 정보 보고서였고, CNN은 사건을 아는 소식통 4명을 인용했다.
보고서는 이 선박이 핵무기 프로그램 부품을 운반하고 있다고 적었고, 미군은 곧바로 선박 차단 계획을 세웠다. 소식통 2명은 무장 병력이 승선을 준비하고 있었다고 했고, 군용기가 떠 있었다는 증언도 나왔다. 당국자들이 작전 직전에 보고서를 자세히 들여다보고 나서야 특수작전사령부 분석관이 AI 도움을 받아 만든 보고서이며, 분석관이 쓴 챗봇이 화물을 잘못 식별했다는 사실이 드러났다. 실제 화물이 무엇이었는지는 CNN도 확인하지 못했다.
소식통 한 명은 보고서가 "완전히 허위"였고 "전쟁을 일으킬 뻔했다"고 말했다. 미군이 중국 선박을 상대로 어떤 작전을 벌였든 두 나라의 무력 충돌로 번질 위험이 있었다고 CNN은 덧붙였다.
AI는 두 번 쓰였다. 분석관은 하와이에 있는 태평양 특수작전사령부에서 나온 선박 적하목록 관련 정보를 챗봇에 물었고, 챗봇은 공개 출처 정보와 정부가 보유한 기밀 신호정보를 합쳐 화물에 대한 결론을 냈다. 분석관은 그 결론을 다시 AI로 군 관계자들이 신뢰하는 표준 정보 보고서 형식에 담아 배포했다. 그 챗봇이 상용 제품인지 정부 전용 도구인지는 분명하지 않고, 군과 정보기관 분석관들이 쓰는 AI 시스템을 아는 한 전직 고위 관리는 내부 도구도 대부분 상용 제품을 겉만 바꾼 것이라고 CNN에 말했다.
CNN이 취재한 당국자들에 따르면 군과 정보기관은 부서마다 다른 도구를 서로 다른 지시와 안전 기준 아래 쓰고 있고, AI가 만든 정보를 검증하는 공통 기준도 없다. 소식통 한 명은 정부에 AI 도구가 퍼진 뒤로 정보기관 안에서 이런 (hallucination)이 한 번뿐이 아니었다고 했다. 여러 소식통은 이런 도구에 익숙한 젊은 분석관일수록 결과를 비판 없이 믿는 경향이 있다고 전했고, 또 다른 소식통은 "AI를 쓰면 나쁜 생각에 더 빨리 도달한다"고 말했다.
국방부는 1월 'AI 가속 전략'을 발표하고 군 전반에 AI 도입을 서두르고 있다. 소식통들은 표적 선정에도 AI 활용이 빠르게 늘고 있다고 전했다.
태평양 특수작전사령부와 국방부는 CNN의 논평 요청에 답하지 않았다. 국방부 관계자는 보도 뒤 데일리비스트에 "작전 보안과 정책상 특정 정보 보고서나 거론되는 작전 계획, 진행 중인 군사 평가에는 논평하지 않는다"며, 모든 정보 입력을 엄격히 검증하는 데 전념하고 있다고 밝혔다. 보도 내용을 확인하거나 부인하지는 않았다.
