그럴듯한 '가짜 논문'의 습격: 없는 논문이 참고문헌에 들어간 이유

AI 시대 연구 생존 전략

 

최근 학술계에서 인공지능(AI)을 연구에 활용하는 사례가 급격히 늘어나고 있다.

AI는 방대한 자료를 빠르게 요약하고 논문 초안을 작성하는 데 매우 유용한 도구다.

하지만 연구 과정에서 AI를 활용한 이후, 가장 심각한 부작용 중 하나로 '존재하지 않는 논문이 참고문헌에 포함되는 현상'이 보고되고 있다.

 

이 현상은 단순한 기술적 해프닝을 넘어 학문의 신뢰성을 흔드는 새로운 윤리적 문제로 떠올랐다.

대체 왜 이런 일이 발생하며, 연구자들은 이를 어떻게 방지해야 할까?

 

* 이미지 출처 : NotebookLM 내용 요약 생성

 

---

1. 실제로 발생하고 있는 '유령 참고문헌' 실태

AI가 만든 존재하지 않는 가짜 참고문헌 문제는 이미 국제 학계에서 공식적인 경고를 보낼 만큼 심각한 수준이다.

• Nature에 소개된 ChatGPT 작성 논문 사례 (2023년 7월): 연구자들이 ChatGPT를 이용해 논문 초안을 신속하게 생성하는 데는 성공했다. 하지만 이 과정에서 AI가 실제로 존재하지 않는 참고문헌이나 부정확한 정보를 너무나 매끄럽고 자연스럽게 만들어내어 큰 우려를 낳았다. AI가 제시한 참고문헌 중 상당수가 잘못된 DOI(디지털 콘텐츠 고유 식별번호)를 포함하고 있거나 완전히 허구인 논문이었다.
• 의학 분야 논문 2,810편 적발 사례 (2026년): 언론 보도에 따르면, 2026년 의학 분야 논문 약 2,810편에서 존재하지 않는 가짜 참고문헌이 무더기로 적발되었다. 연구자들이 AI가 자동 생성한 허위 인용 정보를 검증 없이 그대로 사용한 결과다.
• 정보 생태계의 오염과 가짜 학술 사이트: 이제는 AI가 작성한 논문들이 서로를 반복적으로 인용하며 허위 정보를 진짜 연구 성과처럼 퍼뜨리는 현상까지 나타나고 있다. 심지어 AI가 생성한 가짜 학술 사이트까지 등장하면서 학술 정보 생태계 전체가 교란될 위기에 처했다.

---

2. 왜 생성형 AI는 없는 논문을 참고문헌에 넣을까?

AI가 생성한 가짜 참고문헌은 저자명, 논문 제목, 심지어 학술지 이름과 DOI 형식까지 매우 그럴듯하게 제시하기 때문에 쉽게 알아차리기 어렵다. 과거의 참고문헌 오류가 단순한 철자 실수나 연도 오기였다면, AI 시대의 오류는  '세상에 존재하지 않는 완벽한 가짜 정보의 탄생'이다.

연구자들이 이러한 함정에 빠지는 대표적인 이유는 다음과 같다.

1. 편의성에 대한 과도한 의존: 마감이 임박한 상황에서 빠르게 선행연구 목록을 만들고 싶은 유혹에 타협하기 때문이다. AI가 정리해 준 그럴듯한 리스트를 검증 없이 그대로 가져다 쓰는 것이 원인이다.
2. 검증 과정의 부재: 많은 연구자가 참고문헌에 이름을 올리면서도 실제 논문 원문을 열어보지 않는다. 초록을 읽지 않고, DOI 링크를 직접 클릭하지 않으며, 학술 데이터베이스에 검색조차 하지 않은 채 인용 목록에 포함한다.
3. 형식에 대한 맹신: 출처 표기법(APA, MLA, Vancouver 등)에 맞춰 학술적으로 완벽해 보이면 내용도 당연히 사실일 것이라 착각하는 오류다. 그러나 참고문헌에서 가장 중요한 것은 형식이 아니라 '실재 여부'다.

---

3. 유령 논문 인용을 막기 위한 연구자 자가 진단 체크리스트

학술 연구는 문장이 얼마나 매끄러운가보다 '근거가 실제로 존재하는가'에서 출발한다.

가짜 논문 한 편이 참고문헌에 포함되는 순간, 연구 전체의 신뢰성이 무너지며 최악의 경우 논문이 철회되는 심각한 사태를 맞이할 수 있다.

 

AI 도구를 활용해 연구를 진행할 때는 반드시 다음 체크리스트를 통해 인용 정보를 교차 검증해야 한다.

• [ ] 논문 초록이라도 직접 읽고 내용을 확인했는가?
• [ ] 제시된 DOI 링크를 실제로 클릭하여 정상적으로 연결되는지 확인했는가?
• [ ] AI가 생성한 참고문헌 리스트를 교차 검증 없이 그대로 본문에 복사해 넣지 않았는가?
• [ ] Google Scholar 또는 공신력 있는 학술 DB(RISS, DBpia, PubMed 등)에서 논문 제목과 저자를 직접 검색해 보았는가?

---

AI 시대, 진짜 연구자의 능력은 '검증력'에 있다.

인공지능은 초안 작성을 돕는 훌륭한 비서가 될 수 있지만,

최종적인 진위 판단과 신뢰성에 대한 책임은 전적으로 연구자 자신에게 있다.

이제 연구자에게 요구되는 핵심 역량은 단순히 AI를 빠르게 다루는 기술이 아니라, AI가 도출한 정보를 끝까지 의심하고 철저하게 검증할 수 있는 '책임 있는 사고력'이다.

---

 

* 출처 : AI 시대 연구 생존 전략(2026). 이채현, 최정일_부크크