我們把什麼交給了AI？答案可能令你震驚
當我們寫作和做決策時，如果我們的第一反應就是使用AI，那麼它就在潛移默化地重新塑造我們的思考方式和獨立做出判斷的信心，以及我們在工作時取得的成就感。
在人工智能出現之前，亞馬遜早已將深度思考直接融入工作流程之中。2017年，亞馬遜創辦人傑夫·貝佐斯（Jeff Bezos）引入了一種以緩慢、書面推理為核心的會議文化：開會時，沒有PowerPoint簡報，沒有條列式重點，只有一份長達六頁的敘事文件，通常需要花一週時間撰寫，從頭到尾完整闡述一項產品或計畫。會議開始後，從初級員工到高層主管，所有人都會先坐下來閱讀20至30分鐘，之後才開始發言。
貝佐斯表示，這樣做的目的是通過寫作和閱讀迫使人們把事情想清楚，在思考的過程中，薄弱的推理馬上就能浮現出來，思考上的漏洞也無法藏在文字或精美的簡報後面。思考需要時間，而這正是整個工作流程的核心。
生成式AI（generative AI）的危險在於，它只需要一個提示詞，就能顛覆這套邏輯，而且會讓人產生一種感覺：自己的思考似乎已經不再必要。
人們越來越依賴AI
如今，在美國企業界的許多工作場所，包括亞馬遜的部分部門，員工們越來越多地使用AI工具撰寫備忘錄、提案、報告甚至程式碼。背後的誘因很明顯：提高生產力、降低成本，以及更快產出成果。
但速度也伴隨著代價。過去人們在完成工作過程中，會通過實際思考來磨練自己的能力；如今，這部分工作正在被轉交給AI，而隨著工作被「外包」，人們對工作的掌控感也可能逐漸流失。
使用提示詞時，你可能會覺得自己仍然是作者。然而，文章的結構、切入角度、可選方案，甚至部分邏輯，往往已經由AI系統設定好了。
使用者可以引導AI，但只能在一個並非由自己設定的框架內進行。久而久之，主導權就可能逐漸從使用者轉移到AI模型。
南加州大學研究大型語言模型（LLM）的電腦科學家齊瓦爾·蘇拉蒂（Zhivar Sourati）告訴《大紀元時報》：「你可能以為自己提供提示詞，所以仍然掌握主導權，但與兩年前相比，你擁有的主導權其實少得多。」
兩年前，AI只是你向它提出要求的工具；如今，它已經變成某種會反過來「提示你」的東西，而這種轉變可能讓人們越來越不相信自己的想法。
多倫多大學教授、心理學家邁克爾·因茲利希特（Michael Inzlicht）研究科技如何改變人的動機、自制力和努力程度，他在電子郵件中告訴《大紀元時報》：「當AI完成工作時，我們的成就感會降低。這份工作的成果其實並不真正屬於我們，而我們自己也知道這一點。」
卡內基梅隆大學（Carnegie Mellon University）和微軟的一項研究發現，信任AI的知識型工作者，往往不會仔細檢查AI輸出的結果。這種依賴可能帶來風險，因為AI雖然經常能產生看似可信的答案，但答案可能錯誤、不完整，或者缺少重要背景。
一些律師就曾付出慘痛代價，他們提交法庭文件時引用了AI捏造的案例，而那些案件實際上根本不存在。
「共識」的錯覺
假設十幾名同事向同一個AI系統提出類似要求，他們可能得到結構相似的草稿，語言清晰、中性而且完整。
於是，人們的想法可能在真正形成獨立判斷之前，就開始逐漸趨同。即使實際上並不存在真正的共識，大家也會開始覺得「達成一致」是一件很自然的事情。
蘇拉蒂說：「大家現在只是和AI聊天，然後從AI那裡得到想法。」實際上，使用AI壓縮了思考的早期階段。
一名經理撰寫策略備忘錄時，可能直接從AI提供的一組建議開始，而其他使用同樣工具的人，也可能得到非常相似的建議。
一名博士生過去可能需要自己整理研究領域中的知識空白，如今卻可以要求AI立即幫他找出這些研究缺口，而同一領域的其他人也可以這麼做。
這種影響不只存在於技術工作。AI工具也越來越多地被用於個人寫作，包括分手信、婚禮誓言，甚至自傳。這些過去與個人經歷和個人聲音緊密相連的文字，如今也開始由AI介入。
蘇拉蒂表示，在每週有10億用戶使用AI的規模下，即使人們開始構思的想法不同，也可能迅速造成內容同質化。
蘇拉蒂在發表於《認知科學趨勢》（Trends in Cognitive Sciences）的一篇文章中指出，人們將不同的寫作方式和推理方式帶入自己的工作，這一點非常重要。他告訴《大紀元時報》：「當這些差異都經過相同的大型語言模型過濾後，他們獨特的語言風格、觀點和推理策略就會被同質化。」
AI帶來的問題不只是讓我們說話變得相似，更令人擔憂的是，它可能縮小人們之間的爭論。當語言被AI「潤色」得更加平滑，反對意見或不同觀點可能會讓人感覺比實際上更加缺乏支持。
長期下來，蘇拉蒂認為，這種反覆出現的相同框架可能製造出一種「共識的錯覺」（illusion of consensus），即讓人感覺大家都是獨立地得出了相似的結論或解決方案，但實際上，是同一套機器生成的模式，把原本不同的想法、觀點，甚至批判性的立場逐漸磨平，形成一種看起來比實際更加統一的結果。
甚至在自己的寫作中，他也注意到了這種影響。AI的潤色讓文字變得更加符合主流、更常規，但也不再那麼具有個人特色。他說：「我突然發現……這已經不是我了。」
當共識來自共同的思考起點時，它看起來會比實際情況更加自然。從這個角度看，AI反而顛覆了亞馬遜等公司原本設計備忘錄制度時的理念，即通過寫作和仔細閱讀，讓每個人在接觸其他人的觀點之前，先形成自己的看法。如此一來，最後形成的共識必須經過真正的思考和討論才能取得。
改變的不只是人們「想什麼」，而是AI可能在不知不覺中影響了人們如何形成自己的想法。
摩擦越少 理解可能越少
人們越來越依賴AI，以及由此產生的「共識感」，並非孤立出現。背後還有一個更難察覺的問題：人們經常以為自己理解得比實際上更多。
使用AI時，人們很容易把AI快速、流暢產生的答案，誤認為是自己真正掌握的知識。
人工智能安全與研究公司Anthropic進行的一項實驗，可以幫助解釋這一現象。研究發現，依賴AI協助的實驗參與者，在理解測驗中的得分約低17%，而測驗內容正是他們幾分鐘前才完成的學習材料。這也說明，工作完成了，但理解並沒有跟上。
因茲利希特說：「深入理解可能需要某種摩擦，需要一定程度的掙扎，才能真正把事情想明白。AI完全繞過了這個掙扎，因此最後得到的是一個經過精心打磨的成果，以及一個其實並不真正理解成果內容的人。」
對因茲利希特而言，問題始於「摩擦」消失。思考本身包含錯誤嘗試、不確定性，以及慢慢建立想法的過程。
他與共同作者在發表於《通訊心理學》（Communications Psychology）的一篇文章中指出，這個過程所需要的心智能量，有助於人們學習並培養技能。
因茲利希特說：「當我們努力理解某件事情時，我們不得不把它與自己已經知道的東西連結起來；正是這種連結，讓知識真正留在我們腦中。」
他舉高中數學為例：「回想一下高中數學。你自己一步一步解題，無論過程多麼痛苦，所學到的東西都遠比直接看到答案，再倒推解題過程多得多。真正重要的，就是那個苦苦思索的過程。」
AI會直接切斷這個過程，鼓勵人們把思考「外包」給AI。長期下來，這削弱了人們的堅持能力，也讓人在沒有AI協助時，面對困難問題更容易放棄。
研究發現，即使使用AI的時間只有15分鐘，也可能讓人感覺注意力下降，並且更難靠自己完成困難的任務。
換句話說，AI可能正在改變「努力」與「知識」之間的關係：一開始只是為了方便，最後卻可能變成不可或缺。
為什麼努力很重要？
努力不只是幫助我們理解事物，也會賦予成果意義。
當人們親自努力完成一項任務時，往往會更加珍惜最後的成果。因茲利希特說：「當AI參與製作我們的作品時，我們對作品的重視程度會下降，感覺作品沒有那麼有意義，不那麼屬於我們，也沒有那麼值得珍惜。我們甚至會為它要求更少的報酬。」
他以AI生成的藝術作品和影片為例說，「在某種程度上，我們其實知道，AI製作的東西並不完全等同於我們自己創造的東西。」
當然，思考和努力所帶來的「摩擦」也不是越多越好，過度的困難同樣可能讓人不堪重負。真正的風險並不是AI本身，而是我們逐漸失去那些塑造我們的成就，以及塑造「我們成為什麼樣的人」的努力過程。
作者簡介：Cara Michelle Miller 是一位自由撰稿人及全面健康教育者。她曾在紐約市的太平洋健康與科學學院（Pacific College of Health and Science）任教12年，並在庫柏聯盟學院（The Cooper Union）為工程系學生主持溝通技巧研討會。她目前專注於撰寫有關整合性照護與全面療法的文章。
原文<What We Are Giving Away to AI>刊於英文《大紀元時報》
责任编辑：岳怡