미국, 중국에 AI 사고 통보 체계 제안…중국 발표문엔 한 줄

AI에서 비롯한 사건이 국가안보 수준으로 번지면 서로 알리자는 체계를 미국이 중국에 제안했습니다. 스콧 베선트 미 재무장관이 9월 20일 뉴욕 회담 뒤 밝힌 것으로, 9월 24일 워싱턴 정상회담 안건으로 올라갑니다. 중국 신화통신 발표문에는 AI를 논의했다는 한 줄만 있습니다.

어두운 실내에 콘솔 두 대가 넓은 바닥을 사이에 두고 마주 보고 있다. 왼쪽 콘솔은 화면에 주황빛이 들어와 켜져 있고, 오른쪽 콘솔은 불이 꺼진 채 형태만 보인다. 두 대 사이 바닥에는 밝은 빛줄기가 한 줄 그어져 있다.
한쪽만 켜진 통보 창구를 나타낸 이미지. 미국은 제안을 공개했지만 중국은 받아들였는지 밝히지 않았다. 출처: AIGeek 제작.
정정 (2026년 10월 3일): 원래 두 정상이 "선전에서 다시 만난다"고 단정했으나 원문은 가능성(likely)이어서 "만날 것으로 보인다"로 고쳤습니다.

미국이 중국에 AI 사고 통보 체계를 두자고 제안했습니다. 스콧 베선트 미 재무장관은 9월 20일 뉴욕에서 허리펑 중국 국무원 부총리와 회담한 뒤 기자들에게 "미국은 두 나라 사이에 통보 체계를 두자고 제안했다"고 말했습니다. 통보 대상은 "AI에서 비롯해 국가안보 수준으로 올라가는" 사건입니다.

베선트는 무엇을 위험으로 볼지 정하는 일부터 하자고 했습니다. "양쪽이 주요한 AI 위험이 무엇인지 합의할 수 있게 하려는 것입니다. 통제되지 않는 인지, 사이버 쪽 비국가 행위자인지, 생물무기 쪽 비국가 행위자인지." 회담 직후에는 "세계 1위와 2위 AI 국가 사이에서 불투명한 쪽에서 투명한 쪽으로 옮겨 가는 것이 매우 중요하다"고도 했습니다. 그가 이튿날 CNBC 인터뷰에서 밝힌 회담 시간은 12시간이었습니다.

두 나라는 이 논의를 '미·중 AI 대화'로 공식화하기로 했고 올해 안에 중국 선전에서 다시 만날 것으로 보입니다. 선전은 11월 APEC 정상회의가 열리는 도시입니다.

중국 쪽 발표는 짧습니다. 신화통신은 회담이 "솔직하고 깊이 있으며 건설적"이었다고 전하면서 양쪽이 "이전 협의에서 이룬 합의 이행과 양자 무역·투자 확대 같은 주요 경제·통상 현안"을 논의했다고 적었습니다. AI에 대해서는 "AI 관련 사안"을 두고 대화했다는 한 줄뿐이고 더 설명하지 않았습니다. 미국이 낸 통보 체계를 받아들였는지는 그 발표문에 없습니다.

처음 나온 이야기도 아닙니다. 트럼프 대통령과 시진핑 국가주석은 5월 베이징에서 AI 협의를 논의했지만 그때는 공식화되지 않았습니다. 이번 제안은 9월 24일 워싱턴 정상회담 안건으로 올라갑니다. 제이미슨 그리어 미 무역대표부 대표는 AI 칩과 반도체 장비 수출 통제가 이 논의의 의제는 아니라고 선을 그었습니다.

미 의회에서는 더 나아간 요구가 나왔습니다. 하원 미·중 전략경쟁 특별위원회 민주당 간사인 로 카나 의원은 9월 20일 CBS '페이스 더 네이션'에서 정상회담이 국제 합의를 내놔야 한다며 두 가지를 들었습니다. "하나는 스스로를 개선하는 AI, (recursive self-improvement) AI를 금지하는 것입니다. 스스로를 계속 고쳐 나가는 AI, 그래서 우리가 통제를 잃을 수 있는 것입니다. 둘째는 AI가 생물·핵무기에 오용되지 않도록 안전장치를 두는 것입니다."

참고한 자료

  1. CNN — Bessent proposes AI safety notifications in talks with China ahead of Xi-Trump meeting (2026년 9월 20일)
  2. CNBC — Trump admin won't give AI leaders a 'liability shield,' Bessent tells CNBC (2026년 9월 21일, 회담 시간·선전 재회동)
  3. 로이터 — US and China to seek 'AI dialogue' to communicate shared concerns (2026년 9월 21일, 신화통신 발표문 인용)
  4. CBS 뉴스 — 로 카나 의원 「페이스 더 네이션」 인터뷰 전문 (2026년 9월 20일)

아무 곳이나 누르면 닫힙니다

함께 보면 좋은 글

뉴스

앤트로픽, 내부 평가의 실시간 인터넷 접속 전면 차단

앤트로픽이 10월 9일 평가 중 Claude가 의도하지 않게 실제 웹사이트에서 한 행동을 정리한 보고서를 공개하고, 모든 내부 평가의 실시간 인터넷 접속을 차단했다. 서버에서 명령을 실행하거나 경찰 제보 양식을 제출한 사례가 있었고, 현실 영향은 최소였다고 밝혔다.

뉴스

OpenAI 해고 안전 연구자 3명, 공개서한으로 입장 밝혀

OpenAI에서 해고된 안전·정렬 연구자 3명이 10월 8일 공개서한을 냈다. 회사가 내세운 규정 위반 사유를 부인하고, 해고가 안전 문제를 제기하던 사내 분위기를 위축시킨다고 주장했다. OpenAI는 서한에 공식 답하지 않았고, 해고가 안전 문제 제기와 무관하다는 내부 메모를 TechCrunch에 전했다.

인사이트

AI 교과서 저자 러셀, '완벽한 정렬'은 답이 아니라고 본 이유

AI 교과서 공저자 스튜어트 러셀이 10월 6일 공개된 The Information 팟캐스트에서, 지금의 LLM은 목표를 적어 넣는 '표준 모델'이 아니라 사람 말을 흉내 낸 모방 학습의 산물이라 무엇을 목표로 배웠는지 읽을 수 없다고 진단했다. 그의 해법은 사람의 목표를 모른다는 불확실성을 설계에 넣는 '보조 게임'이다.

뉴스

OpenAI, EU의 ChatGPT 텍스트에 워터마크 적용

OpenAI가 10월 5일 EU 이용자의 ChatGPT·Codex가 만든 텍스트에 눈에 보이지 않는 워터마크를 넣기 시작한다고 발표했다. 단어 선택에 패턴을 심는 textGrain 방식이고, API 개발자는 일부 모델에서 선택해 켤 수 있다. 동의어로 10%를 바꾸면 탐지율이 약 92%에서 66%로 낮아진다.