Pangram이라는 AI 탐지기는 정확도 99.8%를 자랑해요. 근데 이 도구가 소설 원고의 78%를 AI 작성이라고 판정하자, 출판사는 계약을 접었고 작가는 지금도 억울하다고 말하고 있어요.
탐지기가 틀렸다는 얘기가 아니에요. 정확한 도구가 나와도 논쟁이 안 끝난다는 게 진짜 문제예요.
다들 정확도 얘기만 하는데
AI 탐지 논쟁이 나오면 다들 똑같은 말을 해요. "탐지기가 아직 부정확해서 그렇다, 더 정확한 도구가 나오면 해결된다"고요.
근데 Pangram은 University of Chicago Booth School of Business 연구진이 독립적으로 테스트했을 때 대부분의 AI 모델에서 100% 정확도를 기록했고, 어떤 경우에도 99.8% 밑으로 떨어진 적이 없어요. 정확도 문제는 사실상 풀렸다고 볼 수 있는 수준이에요.
그런데도 올해 봄, Hachette Book Group은 공포 소설 《Shy Girl》의 출간을 접었어요. 저자 Mia Ballard는 자신이 직접 AI를 쓰지 않았다며 고용한 편집자가 AI를 사용했다고 주장했지만 소용없었죠. 출판사는 "수 주간의 조사" 끝에 이 결정을 내렸다고 밝혔어요.
탐지기 정확도가 99.8%나 되는데, 왜 논란은 끝나지 않았을까요? 정확도가 애초에 문제의 본질이 아니었기 때문이에요.
근데 진짜 이유는 따로 있어요
a16z 파트너 Alex Danco는 최근 에세이에서 이 지점을 정확히 짚었어요. 그는 "이 글은 0% AI가 썼지만, 10% AI와 협업했다"고 스스로 밝히면서, 왜 사람들이 굳이 이런 비율을 따지고 드는지를 파고들어요.
Danco가 빌려온 개념은 두 프랑스 이론가예요. 롤랑 바르트는 "저자의 죽음"에서 텍스트의 의미는 저자가 아니라 언어 자체에서 나온다고 주장했어요. 반면 미셸 푸코는 "저작권"이 텍스트를 분류하고 사회적으로 규제하는 필수 기능을 한다고 반박했죠.
Danco의 결론은 이래요. AI 판별 열풍은 정확한 검증이 아니라, 희미해지던 '저작권'이라는 사회적 기능을 되살리려는 시도라는 거예요. 누가 썼는지 확인하고 싶은 게 아니라, 책임질 사람이 있다는 걸 확인하고 싶은 거죠.
그래서 워터마크도 완전한 답은 못 돼요. EU AI Act 50조는 이미 유럽 사용자 대상 AI 생성물에 라벨을 의무화했고, 국제표준으로 채택된 C2PA를 OpenAI·Google·Adobe·Meta가 도입했어요. TikTok·YouTube·Meta·LinkedIn 같은 플랫폼도 이 워터마크를 읽어서 "AI 생성" 라벨을 붙이고 있고요. 근데 이 기술이 완성돼도 "그래서 이건 몇 % 내 작품이냐"는 질문 자체는 사라지지 않아요. 워터마크는 흔적을 남길 뿐, 저작권이라는 신뢰의 언어를 대신 말해주진 못하거든요.
| 정확도로 해결된다고 믿을 때 | 신뢰 프로세스로 접근할 때 | |
|---|---|---|
| 탐지 결과가 다르면? | 더 정확한 도구를 찾아 나선다 | 애초에 결과 하나에 기대지 않는다 |
| 논쟁이 끝나는 시점은? | 안 끝난다 (정확도 99.8%에도 논란 지속) | 제작 과정을 문서로 방어할 수 있을 때 |
| 지금 할 일은? | 탐지기 여러 개 돌려서 검증 | 공개 정책 + 워크플로 투명성 확보 |
그래서 브랜드가 지금 불안해진 거예요
이 신뢰 게임은 출판사만의 문제가 아니에요. 올해 5월, 나이키 제품 페이지의 카피 한 줄이 AI 특유의 어색한 문장으로 보인다는 이유로 온라인에서 지적당했어요. "메인 페이지에 GPT 티가 나는 문장을 그냥 뒀다고?"라는 게시물이 퍼지면서 브랜드 신뢰도에 흠집이 났죠.
수치로 보면 이 불안이 과장이 아니에요. 소비자의 91%가 마케팅에서 AI 사용 공개를 기대하고, 미국 소비자 중 AI 생성 콘텐츠를 신뢰한다고 답한 비율은 35%뿐이에요. 소셜 미디어 사용자의 28%는 "라벨 없는 AI 콘텐츠 게시"를 브랜드의 가장 큰 실수로 꼽았고요.
그래서 일부 브랜드는 아예 반대 방향으로 갔어요. Aerie, Equinox, Almond Breeze는 2026년 초 AI를 명시적으로 비판하는 캠페인을 내놨고, Dove는 "AI로 사람을 대체하지 않겠다"고 공약했어요. 일부 브랜드는 "인간이 만들었다"는 걸 증명하기 위해 제작 과정 공개를 전담하는 인력까지 뒀고요.
결국 이건 정확도 싸움이 아니라 신뢰를 누가 먼저 선언하느냐의 싸움이에요. 탐지기 100% 정확도를 기다릴 게 아니라, 지금 우리 콘텐츠 제작 과정을 설명할 수 있는지가 관건이라는 거죠.
지금 세워야 할 AI 공개 정책, 5단계
완벽한 탐지기를 기다리지 마세요. 지금 할 수 있는 건 프로세스를 문서화하고, 공개 기준을 정하는 거예요.
- 워크플로 기록하기
어느 단계에서 AI를 썼는지(아이디어, 초안, 교정, 이미지) 콘텐츠별로 짧게 메모해두세요. 논란이 생겼을 때 유일한 방어 수단이 이거예요. - 공개 문구 표준화
"AI 도구로 초안을 작성하고 사람이 검토·수정했습니다" 같은 짧은 문구를 미리 만들어두고, 필요할 때 바로 붙이세요. - 탐지기 대조는 그만
여러 탐지기를 돌려서 '증명'하려 하지 마세요. 도구마다 결과가 갈리는 걸 이미 확인했잖아요. 대신 프로세스 기록을 증거로 쓰세요. - 포지셔닝 결정
"AI 적극 활용"과 "No AI 선언" 중 우리 브랜드에 맞는 쪽을 정하세요. 애매하게 걸치는 게 가장 위험해요. - 규제 변화 체크
EU AI Act 50조 같은 라벨링 의무가 확산 중이에요. 분기에 한 번씩 우리 채널이 새 규정 대상인지 확인하세요.
핵심 포인트
탐지기 정확도를 다투는 건 이미 진 싸움이에요. 논쟁이 붙었을 때 이기는 브랜드는 '더 정확한 탐지 결과'를 들이미는 곳이 아니라 '우리는 이렇게 만들었다'를 먼저 보여주는 곳이에요.
