OpenAI, EU의 ChatGPT 텍스트에 워터마크 적용 (cdn.openai.com)
OpenAI가 10월 5일 EU 이용자의 ChatGPT·Codex가 만든 텍스트에 눈에 보이지 않는 워터마크를 넣기 시작한다고 발표했다. 단어 선택에 패턴을 심는 textGrain 방식이고, API 개발자는 일부 모델에서 선택해 켤 수 있다. 동의어로 10%를 바꾸면 탐지율이 약 92%에서 66%로 낮아진다.
#AI규제
미국, 중국에 AI 사고 통보 체계 제안…
AI에서 비롯한 사건이 국가안보 수준으로 번지면 서로 알리자는 체계를 미국이 중국에 제안했습니다. 스콧 베선트 미 재무장관이 9월 20일 뉴욕 회담 뒤 밝힌 것으로, 9월 24일 워싱턴 정상회담 안건으로 올라갑니다. 중국 신화통신 발표문에는 AI를 논의했다는 한 줄만 있습니다.
트럼프, AI 우려는 '사기'…
도널드 트럼프 미국 대통령이 9월 19일 자신의 소셜미디어에 AI 정책을 총괄할 'AI Tsar'를 임명하고 'AI Force'를 만들겠다고 적었다. AI에 대한 반발과 우려는 좌파가 만든 '사기' 가운데 하나라고 했다. 두 자리 모두 권한과 조직 구성은 밝히지 않았다.
캘리포니아, 데이터센터에 전력망·수도 개선 비용 물리는 법 7건 서명 (gov.ca.gov)
개빈 뉴섬 캘리포니아 주지사가 9월 21일 데이터센터 관련 법안 7건에 서명했다. 전력망과 수도 시설을 고치는 비용을 데이터센터가 부담하게 하고, 저소득 가구에 요금이 전가되는 것을 막는다. 들어서려는 데이터센터는 예상 물 사용량과 가뭄 대응 계획을 지방정부와 수도 사업자에 알려야 한다.
미군, AI로 만든 정보 보고서에 중국 선박 승선 직전까지 (cnn.com)
미 특수작전사령부 분석관이 챗봇으로 중국 선박의 화물을 분석하고, 그 결론을 다시 AI로 표준 정보 보고서로 만들어 배포했다. 화물을 잘못 식별한 이 보고서 때문에 미군이 무장 승선 직전까지 갔다고 CNN이 보도했다. 국방부는 확인도 부인도 하지 않았다.
AI 기업들의 '속도 조절' 합의, 안전을 위한 결단인가 전략적 후퇴인가? (darioamodei.com)
앤트로픽과 OpenAI 등 AI 리더들이 개발 속도를 늦추자고 나섰습니다. 표면적 이유는 에이전트 악용과 재귀적 자기개선의 위험이지만, 그 이면에는 죄수의 딜레마와 지정학, 비용 절감, 진입장벽이라는 계산이 함께 얽혀 있습니다.
앤트로픽 CEO "AI 발전 속도 늦춰야"... "단, 중국과의 기술 격차는 유지" (darioamodei.com)
다리오 아모데이 앤트로픽 최고경영자가 9월 12일 에세이에서 AI 모델의 능력 개선 속도를 늦춰야 한다고 밝혔다. 훈련 중단이 아닌 속도 조절이고, 감속 폭은 중국 등에 대한 미국의 AI 우위 안으로 제한한다는 조건을 달았다. 앤트로픽은 1단계를 즉시 시행하고, 샘 알트먼과 일론 머스크는 몇 시간 만에 동의했다.