首先，给读者的一点说明：这篇博文比往常要长，因为我决定在同一篇文章中探讨多个相互关联的问题，而没有刻意限制篇幅。考虑到现代人的浏览习惯和海量的在线信息，我怀疑这篇文章很快就会被更“有趣”的内容淹没。在您立即关闭这个标签页之前，我邀请您先滑到文末阅读结论，希望能为您提供一些思考的食粮。如果您竟然读完了全文，我对您过人的专注力表示由衷的敬意。
对使用大语言模型（LLMs）的一个普遍批评是，它可能剥夺我们的认知能力。典型的论点是，将某些任务外包很容易导致某种程度的“大脑萎缩”。这在多大程度上属实，神经科学家、心理学家和其他专家仍在讨论中；但对我而言，“用进废退”这一认知在直觉和经验上都是站得住脚的。
更核心的问题在于：某些使用方式是否比其他方式更好或更糟？如果是，又是哪些？在博文《认知总量谬误》中，安迪·马斯利（Andy Masley）详细讨论了这一点。他的切入点是挑战“思考总量是固定的”这一观点，以及由此衍生的担忧——即把思考“外包”给聊天机器人会让我们变懒、变笨，或对认知能力产生负面影响。他将此比作经济学中“劳动总量固定”的误区（即认为经济体中需要完成的工作量是有限的）。他的观点是：“思考往往会引出更多值得思考的事”，因此我们不必担心机器代劳，因为我们只需转而去思考其他事情。
读完马斯利的文章，触动了我写下自己的想法，因为这些念头在我脑海中盘旋已久。我意识到，以他的文章为参考和起点会很有建设性，因为它包含了这场讨论中经常出现的论点。我将引用马斯利文中的一些例子来展示我的不同见解，但我的探讨范围将超越所谓的“思考总量有限”谬误。我尽量在不要求读者先阅读马斯利原文的前提下进行阐述。我的目的并非反驳他的所有观点，而是解释为什么这个问题远比“思考会引出更多思考”要复杂得多。总而言之，本文旨在揭示“外包思考”所带来的一些关键性问题。
我们是否能界定出某些活动类别，在这些类别中，使用大语言模型（通常以聊天机器人的形式）弊大于利？马斯利列举了一些在他看来显然不该外包思考的情况。为了完整表达我的观点，我冒昧引用他的清单。他写道，在以下情况下外包认知是“糟糕的”：
- 构建未来在世界中航行所需的复杂默会知识（Tacit Knowledge）时。
- 表达对他人的关怀与陪伴时。
- 活动本身就是一种宝贵的体验时。
- 伪造行为具有欺骗性时。
- 专注于一个至关重要、不容有失，且你并不完全信任外包对象的问题时。
令我惊讶的是，尽管我们在其他方面观点迥异，但在很大程度上我认同这份清单。分歧在于，我认为落入上述类别的活动数量要多得多，尤其是其中三项。
让我们从“伪造行为具有欺骗性”这一点谈起。马斯利举例说：
如果有人在约会软件上给你发信息，他们想了解的是真实的你。
诚然如此。但在我看来，并非只有在如此亲密或私人的场合，伪造自我才具有欺骗性。个人交流在本质上就是一个“表达方式至关重要”的领域，无论对我们自己还是对受众而言皆是如此。当我们交流时，整个互动过程是有特定预期框架的。让机器去转化我们的词汇和短语，是对这种预期的一种违背。我们选择的词汇、构思的句子承载着丰富的内涵；如果我们任由语言模型污染这种互动，直接交流将会受损。直接交流不仅是信息的交换，更是交流者之间关系的构建，而这种关系是由“我们是谁”以及“我们如何表达”所塑造的。
我认为这不仅适用于两人间的私密沟通，也适用于面向大众、带有个人署名的文本。在某种程度上，同样的原则也适用。最近挪威媒体一直在争论公共写作中未披露使用大语言模型的问题，各种指控和观点齐飞。我很高兴看到这场讨论进入公众视野，因为既然聊天机器人已被广泛使用，我们需要明确对交流的预期。虽然我坚信保持人与人之间交流的纯粹性（即不经过机器转化的中间步骤）是有益的，但并非人人都这么想。如果未来我们的书面交流大多是与 AI 模型“合著”的，我们需要意识到这一点，并相应地转变预期。有些人已经开始披露他们在写作中使用了 AI，我认为这是迈向理解大语言模型使用现状的良好一步。了解一篇文本是亲笔撰写还是与 AI 合著，会显著影响接收者的看法；掩盖这一点无异于弄虚作假。
许多人认为大语言模型是帮助人们更清晰表达观点的福音，尤其是对于非母语使用者或有学习障碍的人。只要思想源自个人，AI 就能帮助将其转化为准确有效的语言。对此我有两个主要异议。首先是关于文本本身：在大多数情况下，意义与表达是无法割裂的。这正是语言的本质——言语即意义。改变措辞就改变了信息。其次是关于我们自身：我们剥夺了自己在没有“辅助轮”的情况下成长和学习的机会。大语言模型确实能帮人润色文本，但如果把遣词造句交给 AI，思考的过程——即完善思想的过程——就会被严重削弱。它们很快会从“辅助”变为“替代”，剥夺了我们发现自己独特声音的机会，也剥夺了我们探索“独立行走”时能达到何种高度的机会。
如果极度谨慎，或许能在使用聊天机器人的同时避免这两个弊端。但问题在于，对于大语言模型，在“获得拼写语法帮助”与“让模型实质上代笔”之间，界限极其模糊。这在目前的聊天机器人和 AI 工具设计中是不可避免的；从传统的自动纠错到生成式语言模型的跨度实在太大了。如果我们真的把大语言模型构想为帮助人们提高写作能力的工具，我们需要一个比现在的聊天机器人更深思熟虑的交互界面。
与此同时，我意识到许多人持有更功利主义的态度。他们只想完成任务：写完报告、提交投诉、回复邮件，以最高效的方式搞定一切，然后继续生活。使用 AI 协助外语表达看起来也很有用，而不必考虑从中能学到多少（如果不是因为目前的 AI 在生成挪威语方面表现极差，我对翻译用途会更乐观一些）。此外，大语言模型在应对官僚程序（如投诉和保险理赔）时似乎效率极高。在这种情况下，其优势更为明显。然而，我们必须记住，这种“武器”在桌子的两头都存在。当所有参与方都武装了文字生成器时，官僚流程会变成什么样？
我表达这些观点时并非没有顾虑，因为这听起来像是在剥夺人们使用强大工具的权利。但我的核心观点是：这个工具会让你变得更弱，而非更强。大语言模型似乎并没有真正赋予人力量。我目前看到的一些影响是：各种申请（实习、研究提案、职位空缺）的数量成倍增加，但质量却在下降。学生们求助于机器人来完成协作任务，却没意识到所有人都在问同一个机器人，这剥夺了如果他们肯花一分钟独立思考本可以产生的思想多样性。
聊天机器人可能降低了参与门槛，但竞争的基本规则并未改变。要提高写作能力，你必须去写。思考亦然。申请工作是为了展示“你”是谁，而不是 AI 认为你应该是谁。参与公共辩论的本质，就是必须努力学会用清晰的语言表达观点。如果我连自己的词汇都找不到，我真的算参与了吗？
值得注意的是，并非所有文本都受到同等影响。我称之为“功能性文本”的类别——如计算机代码、纯粹的信息传递（食谱、指示牌、说明文档）——并不存在上述问题。但对于那些有个人作者、面向人类读者的文本，它承载着特定的角色期待，并建立在特定的信任基础之上。这种信任的侵蚀将是人类的损失。
一种务实的态度是任由文本通胀发生，等尘埃落定后再作评估。到那时，语言还会剩下什么？我持保守观点，是因为我相信我们将失去的东西比得到的更有价值。虽然大语言模型短期内很有用，但使用它们是在“治标不治本”。它是一根拐杖，尽管有些人确实需要它。我唯一的建议是：在倚靠它之前，请确保你真的需要它。
使用大语言模型不仅关乎写作。马斯利提到，将“本身就是宝贵体验”的活动外包是糟糕的。我完全同意，但我怀疑他可能不同意我接下来的话：我认为这个范畴涵盖了我们日常生活中的大部分内容。主流 AI 供应商热衷于展示他们的机器人如何规划假期、组织派对、给亲友写私人信息。每当我看到这些广告，我从未感到自己与技术社会的脱节如此严重。
对我来说，这凸显了一个触及“人之所以为人”核心的问题。现代生活带来了大量感觉像琐事的活动，但与此同时，我们似乎执着于把一切都当成琐事。人类出奇地擅长在任何事中寻找不满，也许是因为现代社会的一种预期：我们应该能随时随地做任何想做的事——或者更重要的是，我们应该能逃避任何不想做的事。我们无法在生活原有的样子中看到机遇和成就感，这导致了一个必然的结论：生活永远不够好，我们总想去做点别的。
理论上，我同意自动化某些事情可以腾出时间去做更有意义、更有回报的事。但我们已经到了这样一个阶段：甚至连规划假期都被视为一种人们想要逃避的“苦差事”。我希望 AI 自动化“几乎一切”的能力能帮助我们意识到什么才值得投入时间和精力，并重新发现“有意识生活”的价值。
我想探讨的第三点是，根据马斯利的说法，当活动“构建未来导航世界所需的复杂默会知识”时，我们不应使用聊天机器人。我再次完全同意，并且再次认为这一点涵盖了日常生活的方方面面。知识的构建不仅发生在你坐下来学习新东西时，也发生在你做重复性工作时。
这种误解并非聊天机器人出现后才有，自从我们口袋里装上智能手机以来就一直存在。既然互联网随时在手，似乎就不再需要记忆信息了。我们可以不再用大脑存储知识，而是在需要时在线获取，从而把更多时间花在学习如何使用信息和批判性思考上。我们忽略的一点是：获取和记忆知识，本身就是学习如何使用知识的巨大组成部分。认为我们可以像计算机一样简单地将存储单元与处理单元分离，是极其天真的。
我在学钢琴时领悟到了这一课。当时我正试图理解爵士乐，想搞清楚优秀的即兴演奏者是如何在瞬间构思出新乐句的。一个人如何练习即兴？是否可以锻炼那种“立刻想出好听的新旋律”的能力？结果，我每次尝试时弹出的乐句都大同小异。一段时间后，我确信优秀的爵士乐手一定是天生自带某种创造力，脑子里总有旋律在嗡嗡作响等着被弹出来。
我的导师教会了我真正的秘诀：优秀的即兴并非仅仅来自即兴练习。你需要弹奏现有的歌曲和曲调，成百上千遍地弹，背熟它们，让那些和弦进行和动机融入你的骨髓。这种练习建立了你对“什么好听”的直觉，你的即兴便能从中喷薄而出。旧旋律的碎片被重新组合成新的音乐。从这个意义上说，我们更像是一个机器学习模型而非计算机，但千万不要误以为那就是我们的全部。
这里需要澄清：我并不是说大语言模型不该自动化任何事情。但我认为，许多人严重低估了我们从“枯燥任务”中积累的知识，而当效率压力迫使我们转向聊天机器人时，我们正面临失去这些知识的危险。
作为一个侧论，我想反驳马斯利所解释的“延展心灵”（Extended Mind）概念：
我们的许多认知并不局限于头脑和大脑，它也发生在物理环境中，因此我们定义为“心灵”的很多东西也可以说存在于周围的物理对象中。
过程是发生在脑细胞里还是手机电路里，似乎是随机且无关紧要的。
这种说法简直荒谬，即使放在语境中看也是如此。一个过程发生在你的大脑中还是电脑中，有着天壤之别。人类不仅仅是信息处理器。是的，我们处理信息，但如果认为可以将某些过程外包给外部设备而不产生后果，这种看法极其还原论。如果我可以让机器人自动发送生日祝福，我是否还记得朋友的生日还重要吗？重要，因为在前一种情况下，你在有意识地记忆和思考你的朋友，巩固了你在这段关系中的那一端。
上述引文后面紧跟着：
丢掉手机确实会丢失存储的知识，但你也可能被切掉一部分大脑。
丢掉手机和失去一部分大脑是两件截然不同的事情，无论是在发生的概率还是后果上。上述言论不仅严重低估了大脑中发生的复杂过程，甚至将切除大脑与丢手机相提并论，这表明其论证前提已严重脱离现实。
文中还提到物理环境的设计，以证明减少思考是有益的：
我们的大多数物理环境都是专门设计的，目的是为了让我们在实现日常目标时尽可能少动脑筋。
试想一下，如果环境设计得不同，你需要额外多做多少思考。
这经不起推敲。是的，如果环境突然改变，我们需要额外的精神努力去适应。但过一段时间，我们就会熟悉新设计并适应它。唯一需要我们持续额外思考的情况，是物理环境的设计一直在变。
关于“认知总量谬误”，我完全同意我们不必担心“抽干有限的思考池”，导致人类剩下的思考“变少”——无论那意味着什么。然而，这里存在另一个谬误，即“只要我们在思考，思考什么并不重要”。人们很容易被说服：如果电脑能帮我做简单、枯燥的任务，我就能亲自处理更复杂、更刺激的事情。但我们必须意识到，某些心理任务对我们至关重要，即使机器在技术上可以代劳。
举个例子：如果我把所有枯燥的项目行政任务都外包给机器人，我可以腾出更多时间做核心任务：研究。但它也会剥夺我对项目的归属感，让我失去做出高层决策所需的底层基础。在假设机器人能完美代行行政职责的情况下，我 依然失去了某些东西，而这反过来又会影响项目。我不是说完全不该自动化任何任务，但我们必须意识到，自动化一个过程时，我们总会失去一些东西。
再次对比“劳动总量”谬误：虽然将体力劳动外包给机器确实会创造新的工作类型，但这并不意味着新工作是有用的、充实的，或对个人和社会有益的。思考亦然。我们必须承认，各种形式的思考都会对我们产生影响，哪怕是枯燥乏味的那种。消除某些认知任务的需求，其产生的正面或负面影响，可能与承担新的认知任务同样深远。
在弄清楚聊天机器人长期来看适合做什么方面，我们面临着重大挑战。个人交流可能永远改变（也就是说，它可能不再是“个人”的了），教育系统需要激进的变革，我们需要更仔细地反思生活中哪些体验才是真正重要的。这种新技术真正令人兴奋之处在于，它迫使我们面对关于人性与价值观的问题。许多以前只属于哲学的理论问题，正变得与我们的日常生活息息相关。
我试图提出的根本观点是：我们如何选择使用聊天机器人，不仅关乎效率和认知后果，更关乎我们想要什么样的生活和社会。我试图论证，保护某些人类活动不被机器自动化是有充分理由的。这部分基于我的价值观，而非仅仅依赖于关于工作效率或认知能力是否受损的研究。我无法告诉别人该怎么做，但我挑战每一个人去思考：你们希望将我们的社区建立在什么样的价值观之上？并让这种思考与研究报告的结论共同发挥分量。