ChatGPT의 문장은 자연스럽고 단정적일 수 있지만, 문장의 유창함은 사실성의 증거가 아니다. OpenAI도 잘못된 정의와 날짜뿐 아니라 존재하지 않는 인용·연구·참고문헌을 만들어낼 수 있다고 안내한다. NIST는 이런 현상을 단순 오타가 아니라 생성형 AI의 설계에서 생길 수 있는 confabulation 위험으로 분류한다.
교회에서 검증이 특히 중요한 이유는 한 문장이 설교 원고, 주보, 소그룹 교재, 상담 기록, 정책 안내로 옮겨가며 권위를 얻기 때문이다. 따라서 “맞는가?”라는 한 질문보다, 답변 속 주장을 종류별로 분리하고 각 주장에 맞는 원자료를 확인하는 편이 정확하다.
먼저 오류의 종류를 나눈다
ChatGPT 답변에는 사실 주장, 인용, 계산, 해석, 권고가 한 문단에 섞일 수 있다. 이들은 같은 방법으로 검증할 수 없다. 날짜와 통계는 원자료와 대조할 수 있지만, 성경 본문의 적용이나 목회적 판단은 자료 일치만으로 승인되지 않는다.
| 답변 요소 | 대표 오류 | 확인할 근거 | 사람 판단이 필요한 지점 |
|---|---|---|---|
| 이름·날짜·사건 | 인물·연도·순서 혼동 | 기관 원문, 당시 기록 | 어떤 맥락까지 설명할지 |
| 성경 구절 | 번역문 혼합, 장절 오류 | 사용 중인 성경 번역본 | 본문 해석과 적용 |
| 인용·책·논문 | 존재하지 않는 출처 생성 | 출판사, 도서관, DOI 기록 | 인용 범위와 맥락 |
| 통계·계산 | 단위·모수·산식 오류 | 원자료 표, 계산식 | 수치가 현재 상황에 적합한지 |
| 정책·제품 정보 | 오래된 규정·기능 | 최신 공식 문서와 날짜 | 조직 정책과 지역 조건 |
| 조언·결론 | 근거보다 강한 단정 | 근거가 지지하는 범위 | 목회·윤리·법률 책임 |
이 분류는 검증을 늘리는 절차가 아니라, 불필요한 검증을 줄이는 방법이다. 창의적인 제목 후보는 사실 검증 강도가 낮지만, 실존 인물의 발언과 개인정보 처리 안내는 높은 강도가 필요하다.
“출처가 있다”와 “출처가 맞다”는 다르다
가장 위험한 경우는 링크나 책 제목이 붙어 있어 검증된 것처럼 보이는 답변이다. 참고문헌은 최소 네 층으로 확인한다.
첫째, 자료가 실제로 존재하는가. 논문이면 DOI·학술지·저자 정보가 일치하는지, 책이면 출판사나 도서관 기록이 있는지 본다. Crossref 같은 서지 인프라는 DOI에 연결된 제목·저자·발행 정보를 대조하는 데 쓸 수 있다.
둘째, 링크가 주장한 내용을 실제로 담고 있는가. 검색 결과의 제목이나 AI가 만든 요약만 읽지 말고 원문에서 관련 문단을 찾는다. 셋째, 그 문장이 원문의 결론보다 강해지지 않았는지 확인한다. “가능성이 있다”가 “입증됐다”로 바뀌면 출처가 실재해도 인용은 잘못됐다. 넷째, 날짜와 적용 범위를 본다. 다른 국가·교단·제품 버전의 문서를 현재 FaithAX 독자에게 그대로 적용할 수는 없다.
성경·신학·목회 판단은 별도의 층이다
성경 구절은 장절만 맞는다고 검증이 끝나지 않는다. 먼저 실제 사용 번역본의 본문을 확인하고, 앞뒤 문맥과 문학적 장르, 역사적 배경을 살핀다. 그다음 AI가 제시한 적용이 본문 자체의 진술인지, 특정 해석 전통의 견해인지, 작성자의 목회적 제안인지 구분해 표시해야 한다.
유명 목회자나 신학자의 말은 검색 결과 재인용보다 공식 설교 영상, 공식 저서, 원본 인터뷰를 우선한다. 정확한 원문을 찾지 못한 문장은 그 인물의 직접 인용처럼 쓰지 않는다. 교리·상담·갈등·안전 문제처럼 결과가 큰 판단은 담당 목회자나 해당 분야 전문가의 검토를 남겨야 한다.
최신성은 별도의 검증 항목이다
모델이 일반 원리를 정확히 설명해도 최신 정책이나 제품 기능은 달라졌을 수 있다. “언제 기준인가?”를 답변 안에서 찾을 수 없다면 현재 공식 페이지를 다시 확인한다. 특히 개인정보 정책, 플랫폼 요금, 저작권 안내, 소프트웨어 메뉴, 지원 규격은 문서의 업데이트 날짜와 적용 지역을 함께 기록한다.
| 사용 장면 | 최소 검증 | 추가 검토 | 공개 기록 |
|---|---|---|---|
| 아이디어·제목 초안 | 명백한 사실 오류 | 편집자 판단 | AI 보조 사용 여부 |
| 주보·행사 안내 | 날짜·장소·인명 | 담당 부서 확인 | 승인된 최종 원고 |
| 설교·교육 자료 | 본문·인용·역사 사실 | 목회자·교사 검토 | 사용 출처와 판본 |
| 개인정보 포함 요약 | 사실 대조 이전에 입력 적법성 | 개인정보 책임자 | 동의·보관·삭제 기준 |
| 법률·의료·재정 안내 | 최신 공식 자료 | 자격 있는 전문가 | 검토자와 기준일 |
검증 강도는 AI가 얼마나 자신 있게 말했는지가 아니라, 틀렸을 때 사람에게 미치는 영향으로 정한다.
근거를 찾지 못했을 때의 올바른 결론
검색으로 확인되지 않는다고 곧바로 거짓이라고 단정할 수는 없다. 그러나 공개 글에서 사실처럼 사용할 근거도 없다. 이때는 해당 주장을 삭제하거나, 확인 가능한 더 좁은 주장으로 바꾸거나, 불확실성을 독자에게 명시한다. 빈칸을 그럴듯한 숫자나 사례로 채우는 것은 검증이 아니다.
또한 AI에게 “출처를 다시 만들어 달라”고 요청하는 것만으로는 독립 검증이 되지 않는다. 같은 생성 시스템이 새 형식의 오류를 만들 수 있기 때문이다. 검증은 답변 밖의 원자료에서 이뤄져야 한다.
교회용 검증 기록은 짧아도 구조가 있어야 한다
모든 대화를 보관할 필요는 없지만, 공개되거나 반복 사용될 자료에는 주장·근거·판단을 연결한 기록이 유용하다. 예를 들면 “2026년 9월 4일, NIST 원문에서 confabulation 정의 확인, 적용 문장은 편집자가 재작성”처럼 무엇을 확인했는지 남긴다. 개인정보가 포함된 원대화는 필요 이상 보존하지 않고 조직의 보관·삭제 기준을 따른다.
검증의 목표는 ChatGPT를 사용하지 않는 것이 아니다. 아이디어 발산과 구조 초안에는 속도를 활용하되, 사실과 인용과 책임 판단은 원자료와 사람에게 되돌리는 것이다. 그렇게 해야 AI의 문장력이 교회의 신뢰를 대신하지 않고, 검증된 정보 전달을 돕는 도구로 남는다.