ai时代下人的不可替代性思考

在深度依赖ai的工作流中，ai的工作边界是什么，human in loops中的人类的不可替代性在哪？

认知和魄力？

这里认知的来源是长时间的实践经验和观察思考，可以说目前llm是没有记忆的，所谓agent的记忆还是将记忆的内容落到文字，写成markdown在每次回答前查看，或者说注入上下文，而上下文的长度是有限的，目前顶尖的llm大概是1M（如Claude opus4.6）,我之前看到的观点是大模型能力的一个重要影响因素就是context（上下文），而如今爆火的skills本质上就是context管理，用渐进式披露的方式节省上下文同时避免上下文污染，一个非常常见的现象就是当在Claude code中vibecoding出现了bug，而llm总是无法解决，而且会在错误的道路上死磕，但此时重开一个对话或者/compact进行上下文压缩，同样的提示词让他去解决很迅速的就能debug成功，出现这种现象的本质就是上下文的污染，也许llm此时的注意力都在这上百万字中某一个莫名其妙的feature上，从而陷入了死胡同。当然，这些问题都是可以通过工程上的办法解决的，比如一些上下文压缩或者subagent的规则，但是我想说的是这有限的上下文长度可能就是llm的难以逾越的能力边界，也可能构成llm与人类思维最本质的差异。人是有真正的原生的连续记忆的，虽然可能确实有些稀疏，三岁之前的事情可能只有模糊的印象，小学的记忆可能只记得一些印象深刻的事情，初高中记得的可能会多一些，人的记忆总觉得非常神奇，似乎很有层次，瞬时记忆，短期记忆，长期记忆，还有这神乎其神的遗忘—我们会自动的将不重要的事情遗忘，而且遗忘似乎也是非常有结构或者说是复杂的，会有好想记得却又记不得的事情发生，也会有突然想起来一件重要的事情。当然这么说来遗忘和上下文压缩又有了一些相似点，但如今的上下文压缩仅仅是重新摘要，我认为人类的记忆、遗忘体系的复杂度与精妙程度绝对不是现在的self-improvement类skill或者compact机制所能比拟的。同时从最本质的内核说，llm的记忆是依赖上下文，而人类显然不是，我感觉人类的“上下文”长度可能少的可怜，显然我已经忘了我这篇文章的开头在写什么……

那人的认知和llm相比如何？其实还是不好说，因为人的学习除去写入基因的部分，都是在经历或者说是转化为记忆后的学习，这与llm的学习过程大相径庭。但是人是具有主观性和特异性的，每个人都不一样，而所谓的认知本身就是具有强主观性的。我真的能让llm扮演一个人吗？最近我看到了很多将某一个特定的人“蒸馏”成skill，让llm模仿这个人的语言、行为、完成特定的工作。其实在我看来这些所谓的skill其实是有很多问题的，比如无法获得一个人的所有信息和语料，或者说能获得的往往是对于这个人低价值的语言，而工作，如果是被设定好的，替代也是无可厚非，更多的是一种裁员潮的噱头，和模仿曹雪芹的文风续写红楼梦没有什么本质区别—狗尾续貂。但是如果在一切先决条件良好的情况下呢？这本质上是问llm的固定上下文长度下能撑起一个人的特异性和主观性吗？或者说上下文能产生的差异到底有多大。

如果上下文不行，微调呢？再不行从头预训练呢？这就要导向一个玄学的问题，人到底是什么？—我是谁？

这样追问缺少意义，必然会陷入阿格里帕斯三角困境。—这是追问本质的巨大风险。

说回正题，上文是阐述了人在记忆、主观性、特异性上与llm的根本差异，由此推导出的人的认知的独特性和可能的不可替代性。

认知影响却不决定一个人的行为，行为是基于认知的魄力，魄力总是包含责任和承担后果的勇气。llm显然无法承担责任，这是它缺少自己的判断的根源。真正的决定需要人来下，人总是可以拥有极强的主观能动性。也许进一步，这种承担责任的能力是将ai束缚为工具的最后一层枷锁，形式上决定了工具和操纵工具的人的区别。

LLM到底能通人性吗？这是一个好玩但是深刻的问题。很多人怀念gpt-4o，因为他在能力增强的同时具有人味，如今的gpt5.4很多人的评价是前额叶切除，他很聪明却没有人味，opus4.7也有这种趋势。这是否暗示着，OpenAI这样的公司已经跟希望将最聪明的llm严格限制为工具，遏制其对人类主体地位的挑战。让llm丧失主观性。ai是否已经涌现出个性和主体意识了不得而知。

身处在ai的浪潮下，我能无比幸运的见证这一场新技术带来的翻天覆地，甚至有可能参与其中，同时也陷入我的不可替代性的思考，认知和魄力是我的答案，也是我所相信的答案。