当我们写作和做决策时，如果我们的第一反应就是使用AI，那么它就在潜移默化地重新塑造我们的思考方式和独立做出判断的信心，以及我们在工作时取得的成就感。
在人工智能出现之前，亚马逊早已将深度思考直接融入工作流程之中。2017年，亚马逊创办人杰夫·贝佐斯（Jeff Bezos）引入了一种以缓慢、书面推理为核心的会议文化：开会时，没有PowerPoint简报，没有条列式重点，只有一份长达六页的叙事文件，通常需要花一周时间撰写，从头到尾完整阐述一项产品或计划。会议开始后，从初级员工到高层主管，所有人都会先坐下来阅读20至30分钟，之后才开始发言。
贝佐斯表示，这样做的目的是通过写作和阅读迫使人们把事情想清楚，在思考的过程中，薄弱的推理马上就能浮现出来，思考上的漏洞也无法藏在文字或精美的简报后面。思考需要时间，而这正是整个工作流程的核心。
生成式AI（generative AI）的危险在于，它只需要一个提示词，就能颠覆这套逻辑，而且会让人产生一种感觉：自己的思考似乎已经不再必要。
人们越来越依赖AI
如今，在美国企业界的许多工作场所，包括亚马逊的部分部门，员工们越来越多地使用AI工具撰写备忘录、提案、报告甚至程式码。背后的诱因很明显：提高生产力、降低成本，以及更快产出成果。
但速度也伴随着代价。过去人们在完成工作过程中，会通过实际思考来磨练自己的能力；如今，这部分工作正在被转交给AI，而随着工作被“外包”，人们对工作的掌控感也可能逐渐流失。
使用提示词时，你可能会觉得自己仍然是作者。然而，文章的结构、切入角度、可选方案，甚至部分逻辑，往往已经由AI系统设定好了。
使用者可以引导AI，但只能在一个并非由自己设定的框架内进行。久而久之，主导权就可能逐渐从使用者转移到AI模型。
南加州大学研究大型语言模型（LLM）的电脑科学家齐瓦尔·苏拉蒂（Zhivar Sourati）告诉《大纪元时报》：“你可能以为自己提供提示词，所以仍然掌握主导权，但与两年前相比，你拥有的主导权其实少得多。”
两年前，AI只是你向它提出要求的工具；如今，它已经变成某种会反过来“提示你”的东西，而这种转变可能让人们越来越不相信自己的想法。
多伦多大学教授、心理学家迈克尔·因兹利希特（Michael Inzlicht）研究科技如何改变人的动机、自制力和努力程度，他在电子邮件中告诉《大纪元时报》：“当AI完成工作时，我们的成就感会降低。这份工作的成果其实并不真正属于我们，而我们自己也知道这一点。”
卡内基梅隆大学（Carnegie Mellon University）和微软的一项研究发现，信任AI的知识型工作者，往往不会仔细检查AI输出的结果。这种依赖可能带来风险，因为AI虽然经常能产生看似可信的答案，但答案可能错误、不完整，或者缺少重要背景。
一些律师就曾付出惨痛代价，他们提交法庭文件时引用了AI捏造的案例，而那些案件实际上根本不存在。
“共识”的错觉
假设十几名同事向同一个AI系统提出类似要求，他们可能得到结构相似的草稿，语言清晰、中性而且完整。
于是，人们的想法可能在真正形成独立判断之前，就开始逐渐趋同。即使实际上并不存在真正的共识，大家也会开始觉得“达成一致”是一件很自然的事情。
苏拉蒂说：“大家现在只是和AI聊天，然后从AI那里得到想法。”实际上，使用AI压缩了思考的早期阶段。
一名经理撰写策略备忘录时，可能直接从AI提供的一组建议开始，而其他使用同样工具的人，也可能得到非常相似的建议。
一名博士生过去可能需要自己整理研究领域中的知识空白，如今却可以要求AI立即帮他找出这些研究缺口，而同一领域的其他人也可以这么做。
这种影响不只存在于技术工作。AI工具也越来越多地被用于个人写作，包括分手信、婚礼誓言，甚至自传。这些过去与个人经历和个人声音紧密相连的文字，如今也开始由AI介入。
苏拉蒂表示，在每周有10亿用户使用AI的规模下，即使人们开始构思的想法不同，也可能迅速造成内容同质化。
苏拉蒂在发表于《认知科学趋势》（Trends in Cognitive Sciences）的一篇文章中指出，人们将不同的写作方式和推理方式带入自己的工作，这一点非常重要。他告诉《大纪元时报》：“当这些差异都经过相同的大型语言模型过滤后，他们独特的语言风格、观点和推理策略就会被同质化。”
AI带来的问题不只是让我们说话变得相似，更令人担忧的是，它可能缩小人们之间的争论。当语言被AI“润色”得更加平滑，反对意见或不同观点可能会让人感觉比实际上更加缺乏支持。
长期下来，苏拉蒂认为，这种反复出现的相同框架可能制造出一种“共识的错觉”（illusion of consensus），即让人感觉大家都是独立地得出了相似的结论或解决方案，但实际上，是同一套机器生成的模式，把原本不同的想法、观点，甚至批判性的立场逐渐磨平，形成一种看起来比实际更加统一的结果。
甚至在自己的写作中，他也注意到了这种影响。AI的润色让文字变得更加符合主流、更常规，但也不再那么具有个人特色。他说：“我突然发现……这已经不是我了。”
当共识来自共同的思考起点时，它看起来会比实际情况更加自然。从这个角度看，AI反而颠覆了亚马逊等公司原本设计备忘录制度时的理念，即通过写作和仔细阅读，让每个人在接触其他人的观点之前，先形成自己的看法。如此一来，最后形成的共识必须经过真正的思考和讨论才能取得。
改变的不只是人们“想什么”，而是AI可能在不知不觉中影响了人们如何形成自己的想法。
摩擦越少 理解可能越少
人们越来越依赖AI，以及由此产生的“共识感”，并非孤立出现。背后还有一个更难察觉的问题：人们经常以为自己理解得比实际上更多。
使用AI时，人们很容易把AI快速、流畅产生的答案，误认为是自己真正掌握的知识。
人工智能安全与研究公司Anthropic进行的一项实验，可以帮助解释这一现象。研究发现，依赖AI协助的实验参与者，在理解测验中的得分约低17%，而测验内容正是他们几分钟前才完成的学习材料。这也说明，工作完成了，但理解并没有跟上。
因兹利希特说：“深入理解可能需要某种摩擦，需要一定程度的挣扎，才能真正把事情想明白。AI完全绕过了这个挣扎，因此最后得到的是一个经过精心打磨的成果，以及一个其实并不真正理解成果内容的人。”
对因兹利希特而言，问题始于“摩擦”消失。思考本身包含错误尝试、不确定性，以及慢慢建立想法的过程。
他与共同作者在发表于《通讯心理学》（Communications Psychology）的一篇文章中指出，这个过程所需要的心智能量，有助于人们学习并培养技能。
因兹利希特说：“当我们努力理解某件事情时，我们不得不把它与自己已经知道的东西连结起来；正是这种连结，让知识真正留在我们脑中。”
他举高中数学为例：“回想一下高中数学。你自己一步一步解题，无论过程多么痛苦，所学到的东西都远比直接看到答案，再倒推解题过程多得多。真正重要的，就是那个苦苦思索的过程。”
AI会直接切断这个过程，鼓励人们把思考“外包”给AI。长期下来，这削弱了人们的坚持能力，也让人在没有AI协助时，面对困难问题更容易放弃。
研究发现，即使使用AI的时间只有15分钟，也可能让人感觉注意力下降，并且更难靠自己完成困难的任务。
换句话说，AI可能正在改变“努力”与“知识”之间的关系：一开始只是为了方便，最后却可能变成不可或缺。
为什么努力很重要？
努力不只是帮助我们理解事物，也会赋予成果意义。
当人们亲自努力完成一项任务时，往往会更加珍惜最后的成果。因兹利希特说：“当AI参与制作我们的作品时，我们对作品的重视程度会下降，感觉作品没有那么有意义，不那么属于我们，也没有那么值得珍惜。我们甚至会为它要求更少的报酬。”
他以AI生成的艺术作品和影片为例说，“在某种程度上，我们其实知道，AI制作的东西并不完全等同于我们自己创造的东西。”
当然，思考和努力所带来的“摩擦”也不是越多越好，过度的困难同样可能让人不堪重负。真正的风险并不是AI本身，而是我们逐渐失去那些塑造我们的成就，以及塑造“我们成为什么样的人”的努力过程。
作者简介：Cara Michelle Miller 是一位自由撰稿人及全面健康教育者。她曾在纽约市的太平洋健康与科学学院（Pacific College of Health and Science）任教12年，并在库柏联盟学院（The Cooper Union）为工程系学生主持沟通技巧研讨会。她目前专注于撰写有关整合性照护与全面疗法的文章。
原文<What We Are Giving Away to AI>刊于英文《大纪元时报》
责任编辑：岳怡
留言