AI가 만든 "가짜 논문이 참고문헌에?" 연구 윤리의 새로운 위기
최근 연구 과정에서 생성형 AI를 활용하는 사례가 늘어나면서, 과거에는 상상하기 어려웠던 문제가 발생하고 있다.
바로 실제로 존재하지 않는 논문이 참고문헌 리스트에 포함되는 현상이다.
1. 존재하지 않는 논문이 인용되는 이유
최근 국제 학술지들은 AI가 생성한 허위 참고문헌 문제에 대해 공식적인 경고를 보내고 있다.
실제 사례로 2023년 Nature 지는 ChatGPT로 논문 초안을 작성했을 때, AI가 매우 자연스럽게 존재하지 않는 참고문헌이나 부정확한 정보를 만들어낼 수 있다는 점을 지적했다.
조선비즈 보도에 따르면, 2026년 한 해에만 의료 분야 논문 약 2,810편에서 가짜 참고문헌이 발견되는 충격적인 사태가 벌어졌다.
더욱 심각한 것은 AI로 작성된 논문들이 서로를 반복적으로 인용하며 허위 정보를 확산시키고, 심지어 AI가 만든 가짜 학술 사이트까지 등장하여 학술 정보 생태계 전체를 오염시키고 있다는 점이다.
AI는 실제 논문처럼 보이는 제목과 DOI(디지털 콘텐츠 고유 식별번호) 형식까지 매우 정교하게 만들어내기 때문에, 연구자들조차 이를 쉽게 발견하지 못하는 경우가 많다.
2. 가짜 참고문헌, 왜 이런 일이 반복될까?
AI가 생성한 가짜 논문은 얼핏 보기에 매우 그럴듯하다.
특히 영문 문장 구조가 자연스럽고, 실제 존재하는 저널과 유사한 이름을 사용하기 때문에 초보 연구자들은 더욱 쉽게 속아 넘어간다.
이러한 현상이 반복되는 주요 원인은 다음과 같다.
첫째, 편의성에 대한 과도한 의존 : 마감이 임박한 상황에서 빠르게 선행연구 리스트를 만들고 싶은 유혹에 AI가 정리해준 리스트를 그대로 가져다 쓰는 경우가 많다.
둘째, 검증 과정의 생략 : 많은 연구자가 제목만 확인하고 실제 논문의 초록을 읽거나 DOI 링크를 클릭하여 실재 여부를 확인하는 과정을 건너뛴다.
셋째, 형식에 대한 맹신 : APA, MLA, Vancouver 등 학술적 형식이 갖춰져 있으면 내용도 사실일 것이라고 착각하는 오류에 빠지기 때문이다.
하지만 참고문헌에서 가장 중요한 것은 '매끄러운 형식'이 아니라 '실제로 존재하는 자료인가' 하는 점임을 잊어서는 안 된다.
3. AI 시대에 살아남는 논문 검증 체크는 연구자의 책임
AI 시대 연구자에게 가장 필요한 능력은 단순히 도구를 빠르게 사용하는 기술이 아니라, AI가 만든 정보를 끝까지 검토하고 검증하는 책임 있는 사고력이다.
논문의 신뢰성을 지키기 위해 다음 체크리스트를 반드시 확인해야 한다.
☑ 논문 초록이라도 직접 읽었는가?
☑ DOI 링크를 실제로 클릭하여 원문을 확인했는가?
☑ AI가 생성한 참고문헌 리스트를 교차 검증 없이 그대로 사용하지 않았는가?
☑ Google Scholar나 학술 DB에서 직접 검색하여 실재 여부를 판단했는가?
결론적으로, 없는 논문 단 한 편이 참고문헌에 들어가는 순간, 해당 논문의 전체 신뢰도는 무너진다.
이는 단순한 실수를 넘어 논문 철회라는 심각한 결과로 이어질 수 있다.
연구의 시작은 문장의 유려함이 아니라 근거의 실재성에 있다는 점을 명심하고, 반드시 원문 논문과 학술 데이터베이스를 통해 인용 정보를 다시 확인하는 습관을 가져야 한다.
* 내용 출처 : AI 시대 연구 생존 전략
* 참고 :
biz.chosun(2026.02.09.). AI끼리 논문 만들고 서로 인용... 가짜 학술 사이트까지 생겼다, https://biz.chosun.com/science-chosun/science/2026/02/09/G4YWEMZTGRTDCZRZMEZWGY3FGE/
biz.chosun(2026.02.10.). AI가 쓴 논문 사이트 등장... “정보 생태계 오염” 우려, https://biz.chosun.com/science-chosun/science/2026/02/10/MNRTCZTGGZRGIMRWMZTDMNBWMQ/
biz.chosun(2026.05.11.). 참고 문헌도 가짜, 의학 분야 논문 2810편 적발. https://biz.chosun.com/science-chosun/science/2026/05/12/LIDJCLYIFJAFZMZCJQUSGDJJPE/
Nature(2023.07.11.). 과학자들이 ChatGPT를 이용해 논문 전체를 처음부터 생성했는데, 과연 그 성능은 괜찮을까요?.https://www.nature.com/articles/d41586-023-02218-z