Guide 127. 專家的矛盾與AI時代的知識:「看似有道理」的陷阱

引言:當專家意見分歧時,發生了什麼?

illustration of a person confronted by directly contradicting expert opinions and a confident AI-generated answer, deepening the question of who to believe while a sense of cognitive overload spreads

健康法、投資策略、育兒理論——每個領域都有專家,他們的意見有時完全相反。加上AI以自信的語氣提供「答案」的時代來臨。「到底該相信什麼」的不安,隨著資訊來源增加而加深。

然而,這種不安的前提——「專家的意見應該一致」——或許誤解了「知識」這個東西的本質。

Session 1: 矛盾,不是失敗的信號

illustration of a field of knowledge depicted as alive and unresolved, with experts working from different evidence and frameworks at its edges, disagreement visible not as failure but as the normal appearance of knowledge still in motion

當專家們的意見出現分歧時,我們往往會走向「一定有人錯了」或「自己無法判斷」的結論。然而這種反應,源於對知識如何運作的誤解。

科學知識,不是被發現的,而是被建構的。它基於當下最好的證據與推論暫時形成,每當新的證據或觀點出現就會被更新。今天的「定論」成為明天的「舊說」,不是科學的失敗,而是科學的正常運作。專家們持有不同見解,是因為他們從不同的證據、不同的方法論、不同的前提出發。這種多樣性不是「知識的缺陷」,而是「知識活著的狀態」的表現。

我們之所以對專家的矛盾感到不安,是因為我們懷有「知識是被發現的、是確定的」這個前提。當這個前提動搖時,不安的同時,也開啟了另一種與知識的關係方式。

Session 2: 實踐 不是「借用」資訊,而是「使用」資訊

diagram showing a 3-step provisional knowledge practice: Step 1 Check One Thing About the Context, Step 2 Cross-Reference With Personal Experience, Step 3 Hold a Provisional Position

這項實踐,是為了不再將專家或AI的知識視為絕對答案,而是作為形成自己判斷的材料來處理的練習。

STEP 1: 只確認資訊的「脈絡」

當接收到專家的意見時,在關注內容的同時,只確認一個它被發出的脈絡。

這個意見,是從什麼立場、基於什麼證據提出的?

不需要調查全部。只要意識到「這個人是以什麼為前提」,資訊就會從「孤立的真理」轉變為「特定立場的主張」。

<3>STEP 2: 與自己的體驗對照

在將專家的建議作為絕對真理吸收之前,與自己的體驗對照。

這與我實際的體驗一致嗎?頭腦的理解與身體感受到的認同之間,有落差嗎?

AI無法輸出的,是你當下正在感覺的感受。覺察到知識與體驗之間的落差本身,就是判斷的起點。

STEP 3: 持有「暫時的立場」

放棄以「找到唯一正解」為目標,改以「持續更新當下最好的理解」為目標。

以我目前的理解,這似乎是最合理的。但如果出現新的證據或觀點,就會更新它。

這種暫定性不是知識上的弱點。它是符合知識本質的、最誠實的立場。當專家意見矛盾時,不需要選擇一方——可以將兩者都作為暫時的參考點來保留。

Session 3: 為什麼有效?背景的小門

diagram showing how Thomas Kuhn's Paradigm Shift model, Stanley Milgram's Authority Compliance Bias, and the mechanism of Probabilistic Generation in LLMs together explain why confident-sounding text and accurate text are structurally indistinguishable in the current information environment

知識透過更新而運作

科學哲學家 Thomas Kuhn 指出,科學的進步不是透過知識的累積,而是透過典範轉移——將既有框架整體置換為新框架的過程。在某個時代被認為「正確」的知識,在下一個典範中會被重新評價為「近似」或「錯誤」。這不是科學的失敗。而是知識作為暫時的最佳解而運作,每當出現更好的解釋就自我修正,這是科學按照設計運作的表現。專家們之所以意見分歧,是因為他們在不同的典範中工作,或在同一個典範中對證據的解釋不同。「有人正確、有人錯誤」的框架,忽略了知識的這種暫定性。面對專家的矛盾時,如果產生不安,那是源於對知識的誤解。

權威的形式,讓思考停止

社會心理學家 Stanley Milgram 的實驗顯示,來自權威存在的指令,會超越個人的判斷與道德猶豫,引出服從行為。這種傾向不只是實驗室裡的現象。「專家說的」「權威機構發表的」這類思考捷徑,在日常中隨處可見。這不是懶惰或知識不足,而是為了在複雜世界中節省認知資源而設計的自動反應。問題在於,這種自動反應會使批判性思考停止。即使有 Kuhn 所指出的「知識是暫定的」這個事實,對權威的服從傾向仍會產生「因為是這位專家說的,所以一定正確」的判斷。當知識的暫定性與對權威的服從結合時,我們會將「可能被更新的意見」處理為「確定的真理」。

AI以權威的語氣談論機率

大型語言模型(LLM)是從大量文本數據中,機率性地生成「接下來最可能出現的詞語」的系統。LLM 不是「在說正確的事」,而是在說「看似有道理的事」——這個區別很重要。然而 LLM 的輸出大多帶有斷言性、權威性的語氣。這是它學習了訓練數據中包含的專業文本風格的結果。Milgram 指出的對權威的服從傾向,不僅對權威的「人物」有反應,也對權威的「語氣」有反應。以自信口吻呈現的資訊,會使其內容更難被檢驗。AI 既擁有知識的暫定性,又具有權威的語氣——這種組合,創造了使批判性評估最為困難的、新的認識論環境。

結論:矛盾,是知識活著的證據

illustration of a person pausing before an authoritative AI-generated answer to ask who is speaking and what they are working from, shifting from receiving a verdict to holding a situated position

專家明天仍會持續矛盾。對權威的服從傾向會持續對下一個「權威聲音」做出反應,AI 會持續以權威語氣談論機率。結構不會改變。

然而,「這個意見是從什麼立場、基於什麼證據提出的?」這個問題,無論在哪個專家的意見前、哪個 AI 的輸出前,都可以帶進來。這個提問,是從「借用」知識,走向「使用」知識的第一步。

The experts weren’t failing when they disagreed. That was knowledge doing what knowledge does.

KEY TERMS

知識的暫定性(Provisional Nature of Knowledge)

科學哲學家 Thomas Kuhn 提出的見解:科學知識是透過典範轉移持續更新的暫時性最佳解。顯示專家之間的矛盾不是「失敗」,而是知識的正常運作。解構了「有人正確、有人錯誤」的框架,將不確定性重新定義為知識的本質而非缺陷。

對權威的服從偏誤(Authority Compliance Bias)

Stanley Milgram 的實驗揭示的認知自動反應:來自權威存在的指令會超越個人判斷,引出服從行為。不是懶惰或知識不足,而是為了節省認知資源的設計特性。會使批判性思考停止,產生「因為是專家說的所以一定正確」的判斷。與知識的暫定性結合時,會將「可能被更新的意見」處理為「確定的真理」。

大型語言模型的機率生成(Probabilistic Generation in LLMs)

大型語言模型從大量文本數據中機率性地生成「接下來最可能出現的詞語」的機制。不是「在說正確的事」,而是在說「看似有道理的事」。帶有權威語氣的輸出,會在結構上放大 Milgram 式的服從偏誤,創造使批判性評估最為困難的現代特有認識論問題。

暫時的立場(Provisional Stance)

不以「找到唯一正解」為目標,而以「持續更新當下最好的理解」為目標的知性態度。當專家意見矛盾時,不須選擇一方,可以將兩者都作為暫時的參考點來保留。是符合知識暫定性本質的最誠實立場,是對應 Kuhn 所揭示知識運作原理的態度。

脫離融合(Defusion)

覺察到「權威存在說的一定正確」這個自動思考模式與自身融合的狀態,並能保持距離的能力。透過確認資訊脈絡這個微小提問,在對權威服從的自動反應中創造第一個間隙,從「借用」知識走向「使用」知識的認知步驟。