원고에 ‘AI 100%’가 뜨면, 바로 내릴 수 있을까요?
출간을 앞둔 원고나 브랜드 콘텐츠가 AI 탐지기에서 높은 점수를 받았다고 해볼게요. 그대로 공개하면 신뢰를 잃을 것 같고, 곧바로 회수하면 작성자를 부당하게 의심할 수 있습니다. 편집 책임자에게 필요한 건 더 단호한 숫자가 아니라 누가 어떤 과정으로 만들었는지 공정하게 확인하는 방법이에요.
2026년 출판계에서 벌어진 두 사건은 이 차이를 선명하게 보여줍니다. 소설 《Shy Girl》은 Pangram에서 약 78%가 AI 생성으로 표시된 뒤 온라인 의혹과 출판사 조사를 거쳐 출간이 취소됐습니다. 다만 공개된 기사만으로는 그 점수가 취소의 단독 원인이었다고 말할 수 없습니다. 반면 Commonwealth Short Story Prize의 수상작에는 외부에서 Pangram의 100% AI 생성 판정이 제기됐지만, 재단은 수상 결과를 유지했어요. 재단이 조사에 AI 도구를 사용하지 않고 창작 과정과 관련 자료를 확인했다는 점이 중요한 차이였습니다.
100%는 보편적 정확도가 아니라 특정 원고의 판정값입니다
탐지기가 유용하다는 것과 탐지 결과만으로 저자를 판정할 수 있다는 것은 다른 주장입니다. 시카고대 Becker Friedman Institute가 소개한 독립 연구는 인간 원문 1,992개와 네 생성 모델이 만든 대응 텍스트를 여섯 장르에서 비교했습니다. 이 통제된 영문 자료의 중·장문에서 Pangram은 거의 0에 가까운 오탐과 미탐을 보였고, 허용 오탐률 0.5% 이하라는 연구의 정책 기준을 충족했습니다.
좋은 성능이지만 범위는 분명해요. 당시 선택된 모델과 탐지기 버전, 영문 장르, 정해진 길이에서 얻은 결과입니다. 사람이 여러 차례 고친 혼합 원고의 ‘AI 작성 비율’을 확정하거나 모든 언어와 미래 모델에서 항상 100% 정확하다는 뜻은 아닙니다. 원고에 표시된 78%나 100%도 그 문장의 78% 또는 100%를 AI가 썼다는 계량 증명으로 읽으면 안 됩니다.
점수는 조사 시작 신호로 쓰세요. 제재 근거로 사용하려면 최소한 탐지기와 버전, 검사한 텍스트 범위, 임계값, 해당 언어·장르가 검증 범위에 포함되는지를 함께 기록해야 합니다.
수상을 지킨 건 탐지기 재검사가 아니라 창작 과정이었습니다
Commonwealth Foundation은 조사 과정에서 AI 탐지 도구를 사용하지 않았습니다. 외부에서는 수상작 《The Serpent in the Grove》가 Pangram에서 100% AI 생성으로 표시됐다는 주장이 나왔지만, 이는 재단이 수행한 검사가 아니라 외부 사용자와 Pangram 측이 공개한 결과입니다.
재단은 미공개 작품의 예술적 소유권과 동의 문제를 이유로 조사에 AI 도구를 사용하지 않았다고 밝혔습니다. 대신 약 한 달 동안 작가와 창작 과정에 관해 대화하고 초안·타임스탬프가 있는 문서·노트를 검토한 뒤, 작품이 AI로 작성되지 않았다고 판단해 수상 결과를 유지했습니다. 이 대회에는 7,800명 이상이 응모했고 각 수상작은 최소 7명이 읽었습니다.
이 사례가 보여주는 건 “탐지기는 모두 틀린다”가 아니에요. 텍스트 결과만 보는 분류기와 창작 과정을 재구성하는 조사는 서로 다른 질문에 답한다는 점입니다. 탐지기는 문체의 통계적 신호를 찾지만, 초안과 편집 기록은 아이디어가 어떻게 문장으로 발전했고 누가 변경을 승인했는지 보여줍니다.
| 확인 대상 | 탐지 점수만 볼 때 | 과정 증거까지 볼 때 |
|---|---|---|
| 알 수 있는 것 | 텍스트가 탐지 패턴과 얼마나 가까운지 | 초안의 발전, AI가 관여한 단계, 사람의 편집 책임 |
| 남는 위험 | 오탐과 비율의 과잉 해석 | 기록 누락이나 사후 조작 가능성 |
| 적절한 용도 | 추가 검토가 필요한 원고 선별 | 공개·수정·회수 결정과 이의 검토 |
논쟁의 중심은 저작권보다 ‘저자성’입니다
여기서 구분해야 할 단어는 저작권과 저자성입니다. a16z의 Alex Danco는 바르트와 푸코의 논의를 빌려 ‘AI 생성’이라는 분류가 텍스트에 의미와 책임을 부여하는 새로운 저자성 범주처럼 작동한다고 해석합니다. 핵심은 법적 권리인 copyright보다, 누가 이 작업을 자신의 이름으로 내놓고 결과에 책임지는지를 나타내는 authorship과 ‘author-function’에 가깝습니다.
그래서 “AI가 몇 퍼센트 썼나?”만 물으면 실제 업무가 잘 보이지 않아요. 아이디어 정리, 조사, 번역, 초안, 문법 교정, 최종 문장 작성은 책임의 무게가 서로 다릅니다. 독자에게 더 유용한 설명은 추정 비율이 아니라 AI가 관여한 단계와 최종 판단을 맡은 사람입니다.
오늘 원고 한 편으로 조사 기록을 만들어보세요
새 탐지기를 추가하기 전에 최근 원고 한 편의 제작 기록부터 펼쳐보세요. 문서 버전 기록, 작성자와 편집자의 메모, AI 사용 내역에 접근할 수 있으면 시작할 수 있습니다.
- AI 사용 단계를 구분합니다.
아이디어·조사·번역·초안·교정·최종 문장 가운데 각각 허용, 공개 필요, 금지 중 어디에 해당하는지 적으세요. ‘AI 사용 가능’처럼 한 줄로 묶지 않습니다. - 사람과 증거를 연결합니다.
작성자, 편집자, 최종 승인자와 함께 초안·타임스탬프·편집 코멘트가 저장된 위치를 기록하세요. 기록이 없다면 결론을 꾸미지 말고 ‘확인 불가’로 남깁니다. - 탐지 결과의 조건을 보존합니다.
점수만 복사하지 말고 도구와 버전, 입력한 범위, 임계값, 검사 날짜를 적습니다. 미공개 원고라면 외부 서비스 업로드 권한과 기밀성부터 확인하세요. - 설명과 이력을 함께 검토합니다.
작성자·편집자의 설명을 초안 변화와 대조하고, 사전에 정한 기준으로 공개·수정·회수 여부를 결정합니다. 같은 자료로 다른 담당자도 판단 과정을 재구성할 수 있어야 합니다. - 비율 대신 관여 단계와 책임자를 설명합니다.
예를 들어 ‘아이디어 정리와 문법 교정에 AI를 사용했고, 최종 문장은 편집자 B가 검토·승인함’처럼 기록하세요. 법정 공개 의무는 콘텐츠 유형과 배포 지역을 별도로 확인합니다.
콘텐츠 ID: ______
AI가 관여한 단계: ______
확인한 과정 증거: ______
작성자 / 편집자 / 최종 승인자: ______
탐지 조건과 결과: ______
공개·수정·회수 결정 및 근거: ______
성공 기준은 탐지 점수를 0%로 만드는 게 아닙니다. 점수가 달라져도 같은 조사 기준을 적용하고, 최종 결정의 근거를 한 기록에서 설명할 수 있는 상태예요.
라벨과 Content Credentials도 책임을 대신하지는 않습니다
기술적 출처 표시는 보조 증거이지 진실 판정서가 아닙니다. C2PA Content Credentials는 콘텐츠의 출처와 변경 이력을 변조 탐지 가능한 형태로 기록하지만, 그 콘텐츠가 사실인지 믿을 만한지는 스스로 증명하지 않습니다. 자격증명이 없다고 곧바로 가짜라고 판단해서도 안 됩니다.
EU AI Act 제50조 역시 모든 AI 활용 콘텐츠에 똑같은 라벨을 요구하는 규정이 아닙니다. 공익 사안을 알리기 위한 AI 생성·조작 텍스트에는 공개 의무가 있지만, 사람이 검토하거나 편집 통제를 했고 자연인 또는 법인이 편집 책임을 지는 경우에는 예외가 규정돼 있습니다. 딥페이크 이미지·음성·영상에는 별도의 공개 의무가 적용됩니다. 적용 여부는 목적과 형식, 배포 지역에 따라 달라지므로 개별 사안은 법률 검토가 필요합니다.
편집 정책의 질문을 바꿔보세요. “이 원고는 AI인가?”에서 끝내지 말고 “AI가 어느 단계에 관여했고, 어떤 과정 증거가 있으며, 누가 최종 결과에 책임지는가?”까지 물어야 합니다. 탐지기는 첫 질문의 신호를 줄 수 있지만 나머지 답은 조직의 기록과 절차에서 나옵니다.
