학생, 학자, 연구자가 자신의 연구가 왜 중요한지, 기존의 지식을 넓히는 데 어떻게 기여하는지만 설득하면 되던 시절이 있었습니다. 하지만 지금은 어떤가요? 이제 평가자의 머릿속에 가장 먼저 떠오르는 질문은 이걸 겁니다. ‘이 연구, 사람이 쓴 걸까, AI가 쓴 걸까?’
인공지능(AI)이 학계와 연구 현장 곳곳에 자리 잡으면서 연구 관련 작업에 AI 기반 도구를 활용하는 방식도 달라졌습니다. AI 도입에 관한 와일리(Wiley)의 보고서에 따르면, 작업에 AI 도구를 활용하는 연구자는 2024년 57%에서 2025년 84%로 크게 늘었습니다[1]. 이렇듯 AI 활용이 빠르게 확산하면서 AI 탐지를 둘러싼 우려도 커지고 있습니다. 그리고 여기에서 저자들이 맞닥뜨리는 주요한 문제 한 가지는 AI 탐지 도구가 사람이 작성한 글을 AI가 쓴 글로 판단해 버리는 것입니다. 이러한 오탐(false positive)은 저자의 사기를 꺾지만, 대처 방법은 있습니다.
AI 탐지기는 왜 오탐을 할까?
초등학생 시절에는 숙제를 잘 해 가면 선생님이 칭찬해 주었습니다. “이거 정말 네가 한 거야?”라는 말을 들으면 ‘선생님이 믿기 어려울 만큼 내가 잘했구나!’라는 생각에 뿌듯했죠. 하지만 이제는 수업 과제든, 석·박사 학위논문이든, 연구 논문이나 임상 보고서든, 같은 반응을 들으면 걱정이 앞섭니다. ‘혹시 내 글이 AI 탐지기에 걸렸나?’ 그렇다면 AI 탐지기의 오탐 반응은 왜 이렇게 흔히 발생하는 걸까요?
정형화된 글의 구조 및 구성
AI 탐지기는 예측 가능한 글을 찾아내도록 학습됩니다. AI 탐지의 핵심 지표인 버스티니스(burstiness, 구조 다양성, 돌발성)와 퍼플렉시티(perplexity, 예측 용이성, 난해도)를 함께 따져 글에 AI 특유의 패턴이 있는지 판단하지요.
그런데 연구 논문과 학위논문 같은 학술적인 글은 대부분 매우 예측 가능한 방식으로 작성됩니다. 서론과 연구 배경으로 시작하여 방법론을 설명하고, 결과를 보고한 뒤 해당 결과의 함의를 논의하고, 마지막으로 결론을 제시하죠. 이 패턴에서 벗어날 여지는 거의 없습니다. 그러니 자연스레 ‘예측 가능한' 글로 분류되는 것이죠.
문장 구성도 정형화되어 있기는 마찬가지입니다. 특히 방법론 섹션이 그러하죠. 실험 절차를 설명하거나 사용한 장비명을 나열하는 일은 창의성과는 거리가 멉니다. 문장 구조와 표현에 변화가 적다 보니 학술적인 글에서는 AI 탐지기의 오탐이 더 자주 발생할 수 있습니다.
지나치게 매끄러운 문장
AI 글쓰기 도구가 쓴 문장은 상당히 기계적으로 들립니다. 각각의 단어, 문장, 문단을 지나치게 매끄럽게 다듬은 나머지 특유의 리듬이 느껴지지요. 어떻게 보면 글을 제대로 썼다는 이유로 불이익을 받는다는 느낌이 들 수도 있겠네요. 하지만 문제는 이것만이 아닙니다.
정확한 문법, 올바른 구문, 격식 있는 어조・・・. 모두 과학 글쓰기에서 권장되는 특징입니다. 그런데 이러한 특징들이 AI 탐지기가 ‘AI 문체'로 여기는 특징들과 겹칠 수 있어, 해당 글을 AI가 작성한 것으로 잘못 판단할 가능성이 큽니다[2]. “The results showed that...”, “We concluded that...”, “The figure indicates...”와 같은 표현은 학술적 글쓰기에서 흔히 쓰입니다. AI가 썼기 때문이 아니라 그저 과학적 글쓰기의 관례일 뿐이고, 그것이 우연히 생성형 AI의 글쓰기 방식과 겹치는 것이지요.
제대로 된 판단에는 부족한 글의 분량
AI의 오탐이 발생하는 또 다른 이유는 사람이 쓴 글이라고 확인할 만한 근거가 부족하기 때문입니다. 이는 학회 초록이나 전체적인 맥락 없이 연구 원고의 일부만 검사하는 경우에 발생하곤 합니다. 이렇게 짧은 글은 AI 탐지기가 글의 패턴을 제대로 평가하기에 분량이 충분하지 않아 오탐으로 이어질 수 있습니다.
그럼에도 AI 탐지기를 사용하는 이유
AI 탐지기에서 오탐이 이렇게 흔히 발생하는데도 대학과 출판사에서는 왜 탐지기를 사용할까요? 여러분이 대학 교수라고 한번 상상해 보겠습니다. 학생들이 과제에 AI 도구를 자주 사용한다는 걸 아는 상황에서, 여러 대학원 수업에서 받은 300여 건의 에세이를 평가해야 합니다. 다른 상황을 떠올려 보죠. 이번에는 여러분이 유명 학술 출판사의 에디터라고 하겠습니다. 검토해야 할 원고가 600편 가까이 들어왔고, 원고마다 저널 규정 준수 여부, 원고의 준비 상태, 서식, 글의 완성도를 확인해서 피어 리뷰로 넘길지 결정해야 합니다.
두 가지 상황에서 무엇이 공통점인지 보이나요? 바로 ‘양’입니다. 투고 건수는 해마다 기하급수적으로 늘고 있으며, 이를 일일이 직접 검토하기란 대단히 어려워졌죠. 더욱이, 이제는 AI 도구가 연구 논문을 직접 쓸 수 있다고까지 알려져 있으니[3], 에디터와 교수들이 들어오는 원고를 경계하는 것도 무리는 아니죠. 자연스레 AI 탐지기 사용이 늘었고, 그와 함께 오탐과 미탐(false negative)도 발생해 학술 출판계에 복잡한 파장을 불러오게 된 겁니다.
AI 탐지 도구에 대한 지금의 이해와 활용 수준을 고려하면, 탐지 점수를 액면 그대로 받아들이기보다 그 점수가 무엇을 의미하는지 따져 보고 판단할 책임은 여전히 사용자에게 있습니다. 그렇다고 학생과 저자의 걱정을 외면할 수는 없겠지요. 그래서 AI 탐지 오탐에 대처하는 데 도움이 될 네 가지 팁을 소개하려 합니다.
AI 탐지 오탐, 이렇게 대처하세요
AI로 글을 작성했다는 의심을 받으면 무엇보다 당황하지 않는 게 먼저입니다. 숨을 한 번 고르고, 마음을 가라앉히세요. 그리고 받은 피드백을 꼼꼼히 읽어 봅니다. 어떤 부분이 AI 생성물로 판정되었나요? 글 자체인가요? 아니면 이미지 속 텍스트인가요? 이를 파악하면 문제에 어떻게 접근할지 분명해집니다.
1. 증거를 남겨 두세요.
원고를 직접 공들여 썼다는 것을 보여 줄 증거가 충분히 있다면 큰 도움이 됩니다. 쉽게 말하면 문서의 버전 기록을 남겨 두는 것이죠. 구글 닥스(Google Docs)를 사용하면 버전 기록이 체계적으로 남기 때문에, 최종본을 제출하기까지 원고를 여러 번 쓰고 고쳤다는 사실을 증명할 수 있습니다.
또한, 밤늦게 끄적인 메모, 대충 그린 순서도, 이미지 스케치 역시 아이디어를 AI로 생성하지 않았다는 증거가 될 수 있습니다. 가장 중요한 게 바로 이 부분입니다. 연구 아이디어와 문장이 원래 내 것이며, AI는 그것을 다듬는 데만 쓰였다는 점 말이죠. 이 부분이 확실히 구분되어 드러날 수 있도록 하세요.
2. 말로 직접 설명합니다.
이는 학생들에게 특히 유용한 방법입니다.
교수님이 글을 직접 작성했는지 묻는다면, 이는 내 연구에 대한 지식을 마음껏 보여 줄 기회입니다! 복잡하거나 전문적으로 설명할 필요 없습니다. 연구 주제의 핵심이 무엇인지, 지식 공백은 어떻게 찾아냈는지, 내 연구가 그것을 어떻게 해결하는지 설명할 수 있다면, 내 글이 AI가 아니라 나의 독창적인 작업물이라는 사실을 교수님께 충분히 보여 줄 수 있습니다.
예전에 한 선생님이 이런 조언을 한 적이 있습니다.
“어려운 개념을 할머니께 설명한다고 생각해 봐. 할머니가 이해하실 만큼 쉽게 풀어 설명할 수 있다면 그 개념을 제대로 소화한 거야.”
AI 도구가 논문을 대신 써 줬다면 여러 가지 개념을 설명하거나 그 근거를 대기 어렵겠죠. 설명을 제대로 할 수 있으려면 그런 노력은 내게서 나온 것이어야 합니다. 교수님께 말로 직접 설명하면 AI 사용에 대한 의혹도 해소할 수 있습니다.
그렇다면 저널에 투고하는 저자의 경우에는 어떻게 해야 할까요? 말로 설명할 기회가 없으니 말이죠. 이 경우엔 앞서 언급한 구글 닥스의 버전 기록이 유용합니다. 작업 과정을 꼼꼼히 기록해 두면 필요할 때 전러 에디터에게 독창성을 입증할 수 있습니다.
3. 책임감 있게 AI 사용을 밝힙니다.
대부분의 대학과 출판사는 책임 있는 AI 사용을 위한 정책을 두고 있습니다. 따라서 먼저 원고를 준비하는 과정에서 어떤 부분에 AI를 사용할 수 있는지 확인한 뒤, 사용 목적별로 AI 사용 내역을 정확히 밝혀야 합니다.
이를테면 아래와 같은 내용을 밝혀야 합니다.
-
도구 이름
-
사용한 버전
-
도구로 수행한 작업 (교정, 이미지 보정, 문헌 검색 등)
-
도구 활용 범위
또 하나 중요한 점은, AI가 내놓은 결과물을 사람이 검증했다고 밝히는 것입니다. AI의 결과를 무작정 받아들이지 않고 시간을 들여 AI가 생성한 정보의 정확성을 확인했다는 점을 분명히 적으세요.
4. 전문가에게 검증받습니다.
스스로 검증하는 것도 방법이지만, 전문가의 검증을 거치면 최종 투고 전에 한 번 더 점검할 수 있습니다.
저자도 모르는 사이 AI 사용으로 인한 오류를 놓쳤을 수도 있습니다. 예를 들면, 철회된 논문을 인용했을 수도 있고, 존재하지 않는 인용이 만들어져 논문에 포함되어 있을 수도 있죠. AI 사용 고지 문구가 저널 정책과 맞지 않을 수도 있고요. 전문가가 이 모든 사항을 점검하면 원고 투고 준비를 마칠 수 있습니다.
에디티지의 포스트 AI 논문 리스크 점검 서비스가 바로 이런 일을 합니다. 사람이 직접 논문을 검토하여 인용, 윤리, AI 사용 고지에서 불일치한 부분을 찾아내고, 연구의 독창성과 과학적 정확성까지 평가합니다. AI 탐지, 이미지 정확성, 표절에 관한 상세한 보고서를 받아 보고 원고를 기술적으로 빈틈없이 준비할 수 있지요.
AI 탐지기 오탐 관련 자주 묻는 질문(FAQ)
1. AI 탐지기의 ‘오탐'이란 무엇인가요?
AI 탐지기의 오탐(false positive)란 도구가 퍼플렉시티(난해도, 예측 용이성)와 버스티니스(돌발성, 구조 다양성) 수치를 근거로 사람이 쓴 글을 AI가 생성한 글로 잘못 판정하는 것을 말합니다. AI 탐지기는 통계적 패턴과 정형화된 글을 찾도록 학습되어 있는데, 이는 AI 생성 콘텐츠에서 흔히 나타나는 특징입니다. 글에 맥락과 뉘앙스가 부족한 경우에도 오탐이 생길 수 있습니다.
2. 원고를 교정할 때 AI 도구를 사용해도 되나요?
네, 투고하려는 저널이 AI 교정 도구 사용을 허용한다면 괜찮습니다. 원고를 준비하면서 AI 도구를 사용하기 전에는 반드시 저널이나 대학의 AI 사용 정책을 확인하세요. 대부분의 저널은 AI 사용을 허용하되, 저마다 세부적인 지침을 두고 있습니다. AI를 콘텐츠 생성이 아닌 개선에만 활용했다면 대체로 원고 교정에 AI 도구를 사용해도 무방합니다.
3. AI 탐지 결과가 틀릴 수도 있나요?
물론이죠! 많은 AI 탐지기가 자신이 제공하는 점수는 AI 사용 가능성을 보여주는 지표일 뿐, AI가 콘텐츠를 생성했다는 확실한 증거는 아니라고 명시하고 있습니다. 따라서, AI 탐지 점수는 AI를 사용했다는 결정적인 증거가 아니라 글쓰기 패턴에 대한 추정치로만 보아야 합니다. 결국 점수를 해석하는 데는 사람의 세심한 판단이 가장 중요합니다.
참고 자료
1. ExplanAItions 2025 https://www.wiley.com/en-us/about-us/ai/study/key-findings
2. Why Polished Academic Writing Can Look AI-Generated: Understanding AI Detector False Positives in 2026 https://medium.com/@jacobthropic/why-polished-academic-writing-can-look-ai-generated-understanding-ai-detector-false-positives-in-0385e033e479
3. AI-generated research papers https://detectiondrama.com/ai-generated-research-papers-statistics/#how-much
AI로 작성한 문장은 매끄럽게 읽혀도 그 안에 잘못된 인용, 누락된 윤리 정보, 독창성 문제처럼 눈에 잘 띄지 않는 위험이 숨어 있을 수 있습니다.
에디티지의 포스트 AI 원고 리스크 점검은 AI만으로는 검증하기 어려운 부분을, 실제 저널 심사 기준을 아는 출판 전문가가 투고 전에 한 번 더 짚어 드리는 서비스입니다. 참고문헌의 신뢰성과 연구·출판 윤리는 물론, iThenticate 표절 검사와 ImageTwin 이미지 독창성 검사, AI 탐지 리포트까지 전문 검증 도구를 결합해 체계적으로 확인합니다. 여러 곳에서 따로 의뢰할 필요 없이 한 번의 신청으로 주요 투고 리스크를 담은 상세 리포트를 받아볼 수 있습니다. 공들여 완성한 원고가 AI의 흔적 때문에 발목 잡히지 않도록, 포스트 AI 원고 리스크 점검으로 투고 전 마지막 점검을 받아 보세요.
