OpenAI, EU의 ChatGPT 텍스트에 워터마크 적용
OpenAI가 10월 5일 EU 이용자의 ChatGPT·Codex가 만든 텍스트에 눈에 보이지 않는 워터마크를 넣기 시작한다고 발표했다. 단어 선택에 패턴을 심는 textGrain 방식이고, API 개발자는 일부 모델에서 선택해 켤 수 있다. 동의어로 10%를 바꾸면 탐지율이 약 92%에서 66%로 낮아진다.
OpenAI가 10월 5일(현지 시각) EU 지역의 ChatGPT와 Codex가 만드는 텍스트에 눈에 보이지 않는 워터마크(watermark)를 넣는다고 발표했다. TechCrunch는 8월 2일 시행된 EU 인공지능법(AI Act)의 투명성 규정이 AI 생성 콘텐츠를 다른 시스템이 식별할 수 있게 표시하도록 요구한다고 설명했다. 적용은 앞으로 몇 주에 걸쳐 EU 안의 모든 요금제 이용자에게 이뤄진다. 전 세계 API 개발자는 일부 모델에서 이날부터 켤 수 있으나 기본값은 꺼짐이고, OpenAI는 출시 단계에서 텍스트 워터마크를 전 세계 기본값으로 삼지 않는다고 밝혔다고 TechCrunch는 전했다.
방식의 이름은 textGrain이다. OpenAI가 같은 날 공개한 기술 보고서는 펜실베이니아대·예일대 연구진과 OpenAI 연구자 9명이 함께 썼다. 보고서 초록에 따르면 이 방식은 비밀 키(secret key)에서 만든 무작위 값에 따라 모델이 다음 (token)을 고르는 과정을 조정하고, 탐지기는 생성된 글과 키만 있으면 되며 생성 때 쓴 조정 정도를 몰라도 된다. TechCrunch에 따르면 패턴이 단어 선택 안에 있어 글을 복사해 붙여 넣어도 따라가고, OpenAI는 워터마크가 사용자를 식별하지 않으며 켠 상태에서 모델 성능이 의미 있게 달라지지 않았다고 밝혔다.
탐지에는 한계가 있다. TechCrunch가 전한 OpenAI의 시험에서 단어의 10%를 동의어로 바꾸자 탐지율이 약 92%에서 66%로 낮아졌다. 짧은 글, 수학 답, 번역문도 탐지가 더 어렵다. OpenAI는 이 때문에 탐지기를 처음에는 승인된 연구자와 전문 기관에만 제공한다고 밝혔다. 또 워터마크가 없다고 사람이 쓴 글이라는 증거는 아니라고 덧붙였다. 글이 너무 짧거나 많이 고쳐졌거나 다른 회사의 AI가 쓴 것일 수 있다는 이유다.
TechCrunch 기사와 기술 보고서 PDF는 10월 6일 직접 열어 확인했다. OpenAI 블로그 본문은 접속이 거부(403)돼 열지 못했고, 위의 적용 범위·시험 수치·한계는 TechCrunch가 블로그를 인용해 전한 내용이다. 적용 대상이 EU 이용자와 API 개발자의 선택으로 갈리고, 편집하거나 번역한 글에서는 탐지율이 낮아진다는 것이 지금 나온 숫자와 조건이다.
