南瓜博士：当你惊呼 DeepSeek 成精时，请警惕前方的陷阱

南瓜博士：当你惊呼 DeepSeek 成精时，请警惕前方的陷阱 南瓜博士：当你惊呼 DeepSeek 成精时，请警惕前方的陷阱 Modified November 26, 2025 偏好不同的人（红绿箭头表示），分别只能从回答中找到部分有意义的点。 你可以通过再提示词中给出更丰富的信息，让 DeepSeek 朝你希望的方向去思考和回复。 你也可以通过阅读 DeepSeek 的思考过程，找出过程中的亮点，以及沿这个思考方向可以有的更多启发。 你还可以通过追问，让 DeepSeek 的下一个回复更符合你的需要。 带着好奇，和 AI 一起探索世界 每一个人的 独特性 都有其价值，世界因 参差缤纷 才有趣。所以，不要停止思考，不要在 AIGC 的虚拟世界里醉生梦死呀。 有了那么强劲的队友，我们可以一起更好地探索世界了。 启动元认知是很累人的一件事，好奇心或许会是最重要的驱动力。 新的一年里，不妨为自己 设立好奇心指数 ： 带着好奇仔细琢磨 AI 的思考过程和回答。看今天你有多少次 被它启发 。 带着好奇给出追问，看有多少次你 启发 AI 给出了更好的答案。 最后打个广告： 人机共生挑战第二期，亲子组队的“让家庭生活更可玩” ，因为 DeepSeek r1 的到来，变得更有趣了。昨天刚发布完每个阶段的内容，接下来一个月，期待看到大家和 AI 协作的脑洞成果。完全开源，欢迎一起来玩呀。 [1]: 由一个经验例子引发对 DeepSeek 的 10 条思考 from 卫夕 [2]: DeepSeek r1是一个极不安全的 AI 模型，而开源让它失去控制 from 财猫 [3]: 这才是DeepSeek的正确使用方式 from 鹤竹子 人机共生挑战第二期，亲子组队的“让家庭生活更可玩” 由一个经验例子引发对 DeepSeek 的 10 条思考 from 卫夕 DeepSeek r1是一个极不安全的 AI 模型，而开源让它失去控制 from 财猫 这才是DeepSeek的正确使用方式 from 鹤竹子 偏好不同的人（红绿箭头表示），分别只能从回答中找到部分有意义的点。 你可以通过再提示词中给出更丰富的信息，让 DeepSeek 朝你希望的方向去思考和回复。 你也可以通过阅读 DeepSeek 的思考过程，找出过程中的亮点，以及沿这个思考方向可以有的更多启发。 你还可以通过追问，让 DeepSeek 的下一个回复更符合你的需要。 带着好奇，和 AI 一起探索世界 每一个人的 独特性 都有其价值，世界因 参差缤纷 才有趣。所以，不要停止思考，不要在 AIGC 的虚拟世界里醉生梦死呀。 有了那么强劲的队友，我们可以一起更好地探索世界了。 启动元认知是很累人的一件事，好奇心或许会是最重要的驱动力。 新的一年里，不妨为自己 设立好奇心指数 ： 带着好奇仔细琢磨 AI 的思考过程和回答。看今天你有多少次 被它启发 。 带着好奇给出追问，看有多少次你 启发 AI 给出了更好的答案。 最后打个广告： 人机共生挑战第二期，亲子组队的“让家庭生活更可玩” ，因为 DeepSeek r1 的到来，变得更有趣了。昨天刚发布完每个阶段的内容，接下来一个月，期待看到大家和 AI 协作的脑洞成果。完全开源，欢迎一起来玩呀。 人机共生挑战第二期，亲子组队的“让家庭生活更可玩” [1]: 由一个经验例子引发对 DeepSeek 的 10 条思考 from 卫夕 [2]: DeepSeek r1是一个极不安全的 AI 模型，而开源让它失去控制 from 财猫 [3]: 这才是DeepSeek的正确使用方式 from 鹤竹子 由一个经验例子引发对 DeepSeek 的 10 条思考 from 卫夕 DeepSeek r1是一个极不安全的 AI 模型，而开源让它失去控制 from 财猫 这才是DeepSeek的正确使用方式 from 鹤竹子 🔗 原文链接： https://mp.weixin.qq.com/s/ppt89Goz... https://mp.weixin.qq.com/s/ppt89Goz... 原创 ElfeXu 南瓜博士 2025年01月28日 13:39 上海 两年前的春节，我用着 ChatGPT，感叹：真的像是 在和小孩说话 呀。 今年春节，我用着 DeepSeek，感叹：真的像是 在和队友说话 呀。 GPT/Claude 更像是知识超渊博的小孩，能给你很多帮助，但首先需要你努力找到能激发它们的点。 这次的不同在于：DeepSeek 总能比你多想好几步、主动来激发你。 从此， 再不能把 AI 称作硅基幼崽 。 DeepSeek 的巴纳姆效应 由 DeepSeek 联想到巴纳姆效应，是因为听到太多“ 真准呀 ”、“ 它也太懂我了 ”的惊叹。群友把自己写的文章扔给 DeepSeek，邀请 DeepSeek 剖析自己的真实意图，或者把即刻帖子发给 DeepSeek 让它总结并生成个人介绍页，DeepSeek 一针见血 的回复令人直冒冷汗。 真的成精了吗？还是因为按人类均值推理出来的回复中 刚好有一条 击中了你？ 巴纳姆效应：又称“福勒效应”或“占星术效应”，是一种心理学现象，描述了人们倾向于相信模糊、笼统且普遍适用的人格描述是专门针对自己的，例如"你偶尔会感到不安但总体积极"。即使这些描述非常空洞或适用于大多数人，人们仍然会认为它们准确地揭示了自己的性格特点或生活状态。 另一种让人大脑停止思考的玩法，是让它写古文写古诗模仿鲁迅模仿钱钟书…… 反正以多数人的水平，只能说一句“ 啊，真像 “，对个中味道是没有能力细品的。 （确实会有真正精彩的内容，但需要有一个精彩的起点，例如卫夕的这个例子。[1]） DeepSeek 告诉我可以为此起名” 古文幻象陷阱 “，是 伪专家光环 和 无知掩护效应 的合体。 伪专家光环：当AI输出符合特定领域的形式特征时，外行会因"像模像样"的形式产生专业度信任。大脑前额叶在识别到熟悉的形式模式时，会释放抑制性质的多巴胺，降低批判性审查强度。 无知掩护效应：当被试面对超越自身认知水平的内容时，62% 的人会选择用"不明觉厉"的姿态合理化自己的理解无能。这种心理防卫机制在遭遇AI生成的"专业"内容时尤为显著。 顺便说一句，上面两个词都是 DeepSeek 造的，它还煞有介事给出了一堆实验数据。在 幻觉 上，DeepSeek 同样 一骑绝尘 。 这是更强烈的诱惑 因为 DeepSeek 的强大，我们面对“可以偷懒”的诱惑也更大了。 AI 鉴别器能将 DeepSeek 生成的内容识别为 100% 人类撰写，学生的论文、老师的教案、律师的文书，是不是都有救了？ 用 AI 做内容农场的人群更是沸腾——它还太多对齐要写点大尺度文字也容易，妥妥的生财机器呢。 可是警惕啊，人类！ 我们很快就会被自己制造的 海量文化赝品 所淹没。 若不做出努力，我们终会丧失识别垃圾的能力。 届时我们面对的，很可能是已失控被用于 放肆作恶 的 AI。（参考财猫的测试 [2]） 不需要 SFT 又如何？超长 CoT 又如何？就算 AI 真的左脚踩右脚让自己进入 AGI 甚至 ASI 了， 与我又有何干 ？ 当你觉得 DeepSeek 用概率算出来的回复"说得可真准"时，或许正是你 思维被同化 的危险信号。 你的 独特性 ，你 自己的思考 ，才是对你而言最宝贵的 财富 。 不要盲信、不要崇拜，不要放弃思考的苦役， 不要成为能被概率计算出来的平均值 。请开始享受和 AI 队友脑力激荡的乐趣。 怎么做？ 慢下来， 启动你的元认知 ，到 DeepSeek 的思考过程中去挖宝，用不断的追问去挖宝。 和 DeepSeek 对话需要耗费更多脑子 表面上，DeepSeek 对提示词的要求降低了，大白话就能让它有不错的反馈，似乎人与人的差距被进一步抹平。 但其实，剥去虚头巴脑的提示词花架子，考验落到了思维本身：你有没有能力把你的背景信息提供清楚、把你想要什么说清楚？ 而这，可比能照猫画虎的结构化提示词难学多了。 用最直白的语言让 DeepSeek 理解你的意图 这一点，鹤竹子前几天的文章说得很清楚，推荐阅读。[3] 一定要仔细看 DeepSeek 的思考过程 简单一个需求，不同人有不同的偏好，期望中的结果自然也不同。大语言模型作为人类智慧的加权平均，按人类偏好的平均值给出回答。只从最初的提示词出发，回复不符合预期其实也不奇怪。 最终给的回复是 一个点 ，但思考过程却是 一个面 。比起最后的回答，从 DeepSeek 思考路径、以及路径指向的方向中，你能收获更多。 不要满足单轮回答，要追问 DeepSeek 给的回答不太妙，是因为你上一段提示词中的某句有歧义，还是因为它缺少背景信息？ 赶紧补充说明吧。 DeepSeek 的思考过程，有没有给你启发，让你想到一个新点子？ 赶紧追问讨论吧。 尝试画几张图来解释： 一句提示词，DS 经过多步自考后给出了最终回答。