연구자를 위한 AI 논문 작성 윤리 가이드 ①

 

AI로 학술지, 논문을 쓸 때 가장 많이 하는 실수와 꼭 지켜야 할 기준

최근 많은 초보 연구자들이 ChatGPT 같은 생성형 AI를 활용해 논문 초안 작성, 문장 다듬기, 연구 아이디어 정리, 영문 교정 등을 하고 있다.

AI는 분명 연구 글쓰기의 부담을 줄여주는 유용한 도구이지만,

편리하다는 이유로 무심코 사용하다 보면 연구윤리 위반, 개인정보 유출, 표절 문제, 부정확한 인용 같은 심각한 실수로 이어질 수 있다.

 

질병관리청 소속기관인「국립보건연구소」 연구윤리 가이드에서도

인공지능 연구와 활용에서 인간의 자율성 보호, 충분한 정보에 의한 동의, 인간의 감독과 통제가 중요하다고 설명하고 있다.
따라서 초보 연구자는 AI를 “대신 써주는 도구”가 아니라 “보조하는 도구”로 이해해야 한다.

 

 

* 이미지 출처 : Google Gemini 요약 생성

---

1. AI가 써준 문장을 그대로 사용하지 않기

가장 흔한 실수는 AI가 생성한 문장을 그대로 논문에 붙여 넣는 것이다.

AI는 문장을 그럴듯하게 만들 수 있지만, 그 내용이 항상 정확하거나 학술적으로 검증된 것은 아니다.

 

특히 논문은 연구자의 주장, 분석, 해석, 근거가 명확해야 하므로 AI 문장을 그대로 사용하는 것은 위험하다.

 

AI는 다음과 같은 용도로 활용하는 것이 적절하다.

• 연구 주제 아이디어 정리
• 논문 목차 구성
• 문장 표현 다듬기
• 초록 초안 구조 잡기
• 어려운 문장의 가독성 개선

하지만 최종 문장과 논리 구성은 반드시 연구자가 직접 검토하고 수정해야 한다.

---

2. 개인정보와 민감정보를 AI에 입력하지 않기

논문 작성 과정에서 연구대상자의 개인정보, 인터뷰 원문, 임상 데이터, 설문 응답, 기관 내부 자료 등을 AI에 입력하는 경우가 있는데, 이는 매우 위험한 행동이다.

 

연구윤리 가이드는 정보주체의 기밀성이 보호되어야 하며, 데이터 수집·관리·활용·폐기는 법적 기준에 따라 절차가 마련되고 실행되어야 한다고 강조한다.

 

따라서 AI에 입력하면 안 되는 정보는 다음과 같다.

• 이름, 연락처, 이메일, 주소
• 연구대상자 식별 정보
• 병원, 학교, 기관 내부 자료
• 비공개 인터뷰 내용
• 민감한 건강 정보
• 익명화되지 않은 설문 원자료

AI를 사용할 때는 반드시 데이터를 익명화하고, 연구윤리심의나 기관 지침에 어긋나지 않는지 확인해야 한다.

---

3. AI 답변을 사실처럼 믿지 않기

AI는 존재하지 않는 논문, 틀린 저자명, 잘못된 통계 수치, 부정확한 이론 설명을 만들어낼 수 있다.
이런 문제를 흔히 “환각”이라고 부른다.

 

특히 다음 내용은 반드시 다시 확인해야 합니다.

• 논문 제목
• 저자명
• 출판 연도
• 학술지명
• DOI
• 통계 수치
• 이론 설명
• 선행연구 요약
• 법·제도 관련 내용

AI가 알려준 참고문헌은 그대로 믿지 말고, Google Scholar, PubMed, RISS, DBpia, KCI, Scopus 등에서 실제 존재 여부를 확인해야 한다.

---

4. AI 사용 사실을 기록하고 투명하게 관리하기

AI를 논문 작성에 활용했다면 “어디에, 어떻게, 어느 정도 사용했는지” 기록해 두는 것이 좋다.

예를 들어 다음처럼 기록할 수 있습니다.

 

인공지능 기술과 연구 활용에서 투명성, 설명가능성, 신뢰성이 중요한 윤리 원칙으로 제시됩니다. 데이터 사용과 연구 설계에 대한 설명, 결과에 대한 이해 가능한 설명, 검증과 평가의 엄격성이 필요하다고 정리되어 있다.

또한 학술지마다 생성형 AI 사용 정책이 다를 수 있으므로 투고 전 반드시 저널 가이드라인을 확인해야 한다.

---

5. 편향과 차별 표현을 점검하기

AI는 학습 데이터의 영향을 받기 때문에 특정 집단, 성별, 연령, 직업, 지역, 질병, 문화권에 대한 편향된 표현을 만들어낼 수 있다.

 

연구윤리 가이드는 기술이 나이, 성별, 소득, 능력 등과 관계없이 공평하게 사용되도록 설계되어야 하며,

알고리즘이나 데이터의 편향성을 식별하고 완화해야 한다고 설명한다.

 

논문 작성 시에는 다음 표현을 특히 주의해야 한다.

• 특정 집단을 일반화하는 표현
• 근거 없이 차이를 단정하는 표현
• 사회적 약자나 소수자를 낙인찍는 표현
• 성별·연령·지역에 대한 편견이 담긴 문장
• 데이터 한계를 무시한 과도한 결론

AI가 작성한 문장은 자연스럽게 보여도 연구윤리 관점에서는 문제가 있을 수 있으므로 반드시 검토해야 한다.

---

6. 최종 책임은 AI가 아니라 연구자에게 있다.

AI가 작성하거나 추천한 내용이라도, 논문에 실리는 순간 그 책임은 연구자에게 있다.

 

연구자는 책임 있는 연구를 수행해야 하며, 연구기관은 연구자가 책임을 인식하고 업무에 반영할 수 있도록 절차를 마련할 필요가 있다고 설명하다.

 

즉, AI가 틀린 내용을 제안했더라도 다음 책임은 연구자에게 있다.

• 잘못된 인용
• 부정확한 해석
• 표절 의심 문장
• 개인정보 입력
• 연구윤리 위반
• 저널 정책 미확인
• 근거 없는 결론

AI는 논문을 대신 책임져주지 않으며, AI는 도구이고, 최종 판단과 책임은 연구자에게 있다.

---

7. 제출 전 AI 윤리 체크리스트

논문을 제출하기 전, 아래 항목을 반드시 확인해 보자!

1. AI가 쓴 문장을 그대로 사용하지 않았는가?
2. 개인정보나 민감정보를 AI에 입력하지 않았는가?
3. AI가 제시한 참고문헌을 실제로 확인했는가?
4. AI 활용 범위를 기록해 두었는가?
5. 저널의 AI 사용 정책을 확인했는가?
6. 표절 검사와 인용 형식을 점검했는가?
7. 편향되거나 차별적인 표현이 없는가?
8. 최종 문장과 논리 흐름을 연구자가 직접 검토했는가?

* 참고자료 : 국립보건연구원(2023.08). 보건의료 분야 인공지능 연구자를 위한 연구윤리 지침. https://nih.go.kr/ko/main/main.do