Learning Objectives
- 將 AI 回答中的句子區分為事實、推論與意見,並指出哪些句子可以查證。
- 依步驟查證一筆 AI 提供的引用:確認文獻是否存在、書目是否正確、內容是否與 AI 的說法相符。
- 如實標示無法查證的部分,不以 AI 的說法代替查證結果。
為什麼要逐條查證
AI 的一段回答裡,通常混著三種句子:可以查證的事實陳述、從事實推出的推論,以及表達價值判斷的意見。三種句子要用不同的方法檢查:事實要找來源;推論要看前提是否成立、推理有沒有跳躍;意見沒有對錯可查,只能看理由是否充分。
AI 也會附上參考文獻,但引用不一定可靠。Walters 與 Wilder(2023)請 ChatGPT 就 42 個主題撰寫短篇文獻回顧,逐筆檢查其中的 636 筆引用:GPT-3.5 的引用有 55% 是虛構的,GPT-4 也有 18%;即使是真實存在的文獻,書目仍常有錯誤。
本課練習兩個動作:先把一段回答拆成可以查證的句子,再逐筆查證 AI 給的引用。
想一想:事實、推論與意見
「這個 AI 的回答一定正確,因為它引用了三篇論文。」這句話屬於哪一種?
下列哪一句是「可以查證的事實陳述」?
一句陳述被歸為「事實陳述」,代表什麼?
引用查證的三種結果
查證一筆引用,要回答兩個問題:這篇文獻存在嗎?它真的說了 AI 說的內容嗎?結果有三種:
| 結果 | 意思 | 處理方式 |
|---|---|---|
| 存在且相符 | 文獻存在,書目正確,內容支持 AI 的說法 | 可以引用,但以原文為準,不引用 AI 的轉述 |
| 存在但不符 | 文獻存在,但書目有誤(作者、年份、期刊),或內容不支持 AI 的說法 | 書目錯誤者依原文更正後引用;內容不符者不可用來支持該說法 |
| 查無此文 | 以 DOI、標題與作者都找不到 | 視為虛構,不可引用,在報告中標示「無法查證」 |
查證一筆引用的四個步驟
練習二會用到這四個步驟。
-
1
先看 DOI
DOI 是文獻的永久識別碼,形式如
10.1038/s41598-023-41032-5。在https://doi.org/後面接上 DOI,就會連到出版社的文獻頁面。DOI 打不開,或打開後是另一篇文獻,都是警訊:AI 有時會生成格式正確、實際上指向別篇論文的 DOI。 -
2
沒有 DOI,就用標題搜尋
把完整標題放進引號,在 Google Scholar、Crossref 或學校圖書館的資料庫搜尋。找到後,逐項核對作者、年份、期刊、卷期與頁碼是否和引用一致。
-
3
讀摘要,比對 AI 的說法
找到文獻只完成一半。打開摘要,必要時讀全文,確認文獻真的說了 AI 說的內容。常見的落差是 AI 把文獻的結論說得更絕對,或把文獻沒有討論的事加進去。
-
4
記錄結果,包括查不到的部分
寫下查證結果與所用的方法,例如「以 DOI 開啟出版社頁面,摘要所列數字與 AI 的說法一致」。查不到就寫「查無此文」,不要因為 AI 說得很肯定就當作存在。
想一想:引用查證
AI 給的引用附有 DOI,點開後卻連到一篇標題完全不同的論文。最合理的判斷是?
文獻存在、書目正確,但摘要沒有提到 AI 引述的那個結論。應該怎麼做?
寫報告時,遇到一筆查無此文的引用,正確的處理是?
帶走的習慣
- 讀 AI 的回答時,先分出哪些句子可以查證。
- AI 給的引用,在查到原文之前一律視為「待查證」。
- 查證要回答兩件事:文獻存在嗎?它真的這樣說嗎?
- 查不到就如實寫「無法查證」,不因為 AI 說得肯定就採信。
本課引用的研究:Walters, W. H., & Wilder, E. I. (2023). Fabrication and errors in the bibliographic citations generated by ChatGPT. Scientific Reports, 13, 14045. https://doi.org/10.1038/s41598-023-41032-5