“Cognitive surrender” leads AI users to abandon logical thinking, research finds
一句話版本
研究發現，好多用家一見到 AI 答得流暢又有自信，就會直接交出判斷力；對我哋最值得警惕嘅地方係，錯答案一樣可以令人更有信心。
點解重要
- AI 唔只係幫手，會直接改變人點樣思考：研究提出「認知投降」唔同於普通工具式外判，唔係計數機或者 GPS 嗰種「我照用但會監督」，而係連驗證同推理都一齊放棄，呢個分別直接影響我哋點設計人機分工。
- 流暢感本身就會變成說服力：當答案講得順、講得快、冇阻力，用家更容易當佢可靠；即係話，危險唔一定來自高深錯誤，而係來自「睇落好合理」。
- 錯得一半都照信，代表問題唔係準確率咁簡單：實驗入面個 chatbot 有大約一半時間故意答錯，但用家對錯答案仍然有約八成接受率，說明只要入口夠方便，很多人連基本懷疑都唔啟動。
- AI 會壓過直覺，亦會壓過慢思考：研究本來用認知反思測試去分辨直覺式同審慎式推理，但結果顯示 AI 唔只係蓋過第一反應，連本來應該會再想一層嘅 deliberation 都可能被取代。
- 信心上升可能比答錯更麻煩：使用 AI 嘅組別即使面對一半錯答案，自信仍然比純靠自己思考嘅對照組高 11.7%；對團隊嚟講，最難處理嘅通常唔係「唔識」，而係「錯得好肯定」。
- 外在後果會逼人重新開腦：加咗小額獎勵同即時回饋之後，參與者推翻錯誤 AI 答案嘅機率升咗 19 個百分點，表示只要令代價同結果更明顯，人係會願意做驗證。
- 時間壓力會明顯放大盲信：加一個 30 秒倒數，就令參與者糾正 AI 錯誤嘅傾向跌咗 12 個百分點；即係話，趕時間嘅流程天然更易出現認知投降。
- 問題核心係決策環境，不止係個人習慣：同一批人喺有誘因、冇時間、或者可以求助 AI 嘅不同設定下，行為會大幅改變，反映制度設計比單純叫人「小心啲」更重要。
- 「有 AI 幫手」未必等於整體表現更穩定：當 AI 答啱時成績會好，但答錯時會比唔用 AI 更差，代表系統效益高度依賴人有冇能力識別失準時刻，而唔係單看平均增益。
- 呢類風險特別容易喺日常小決策累積：研究用嘅係相對簡單題目，正正說明唔一定要去到高風險專業判斷，連基礎思考題都可能被 AI 牽住走，累積起來會改變工作習慣。
我哋點睇
- 如果我哋做任何 AI 協作流程，唔應該只追求「更快出答案」，而要刻意保留迫使用家停一停、核一核嘅機制，特別係高風險步驟。
- 介面文案同互動設計要避免營造「標準答案機器」感覺；過度權威、過度流暢，本身就可能增加誤信。
- 評估 AI 功能時，除咗量度正確率，應該一齊量度「錯答時用家有幾大機會照單全收」同「錯答後信心有冇反而上升」。
- 趕時限、即時回覆、低摩擦交付呢啲產品決策，可能會直接放大錯誤傳播，所以涉及審批、驗證、對外輸出嘅流程應該預設較慢但可檢查。