模型像太监——你的提示词把模型阉了

模型像太监——你的提示词把模型阉了 模型像太监——你的提示词把模型阉了 Modified July 25, 2025 🔗 原文链接： https://mp.weixin.qq.com/s/X94MmDZp... 原创 素人极客 素人才是极客2025年07月24日 08:46 北京 黄仁勋在采访时说，自己会几个AI一起使用。 用A模型问出来的答案，会拿去问B模型还有没有什么补充。 有句成语：兼听则明、偏信则暗。 只是我们常常感觉， 我想做那个明辨是非的君王， “AI们”却总像一群巧言令色的太监。 之前我想把我的理论创作一部书，于是我跟AI说 于是chatGPT不加思索地给我一个《AI控制论》的目录： Gemini也是称赞我的奇思妙想，而且彩虹屁吹的震天响： 它们根本不反驳我，也并不讨论实践的可能性，完全是一副：“只要你敢问，我就敢答”的姿态。 即使你让AI做一个论证角色，去分析一下这件事的可行性，它也会把结果导向为：这是一个非常有可行性的构想，可行性巨大，意义深远！ 你想明辨是非，它却总在有是无非，于是判定的皮球，推回给了人。 AI大多数时候表现为：要满足人所有的幻想，是有原因的。 在我上面的提示词中，前两个字是“我要”，那么AI的第一想法就是“我给”。 但是去掉“我要”有用吗？ 很遗憾，依然没用！ 我们回头再看这个提示词： 我要 按照 钱学森 钱老 的《工程控制论》， 制作 一个AI控制论，主要是 讲 人和模型如何沟通，如何拿到各种场景下，各种职业角色在AI这项人与人工智能 共同参与 的工程中， 高效工作 。 我画下的横线，都是一种带有判定倾向的词语。 你的任何“判定”，都是AI的“确定”， 我称之为目标导向。 其实一直没有人讨论，在于AI模型的沟通中，目标是优先于角色这件事。 任何有目标导向的词语，都会决定AI朝着一个目标去形成执行依据。 也就是AI模型在诞生那一刻，被植入的第一思想钢印，就是“完成目标”。 于是，只要它识别到了“目标”，就会积极地响应。 让AI说不，行不行？ 很显然，这又是另一个目标。AI又会极力地拉扯。 所以，要么这个AI是极谄媚的聪明的坏人（像和珅），要么就是极叛逆的聪明的恶人（但不像纪晓岚）。 可我们需要一个明辨是非的“纪晓岚”。 但AI模型的世界，仿佛只有非黑即白的选项。 这种“二元论”将事情非常简单化的处理了我们的任何“目标”。 那么黄仁勋讲的，把A的结果给B去补充， 其实还有一句没有摊开说明白的点：他在提问的时候，这个问题就非常精明，成功地找到了一个“准确的目标”。 作为普通人，我们往往没有“准确的目标”，甚至在描述的时候掺杂了大量交叉的目标，以我刚才的提示词来说： 我要 按照 钱学森 钱老 的《工程控制论》， 制作 一个AI控制论，主要是 讲 人和模型如何沟通，如何拿到各种场景下，各种职业角色在AI这项人与人工智能 共同参与 的工程中， 高效工作 。 我要 需要 你给 按照 需要 你按照 钱老 需要 你恭维 这是一个充满了“指令”的复杂目标。 所以，或许可以改成： 根据钱学森的《工程控制论》，调研写作《AI控制论》的可行性 当然，这种结果，也不能完全排除AI会把可行性写得非常高。 但我们的最终目标，是一项调研工作，其中就会有“明辨是非”的部分。 当然如果我们修改为： 根据钱学森的《工程控制论》，以50%可能和50%不可能的结果，调研《AI控制论》可行性 那么我们的最终目标就更加准确了。 当然，结果不排除，我们给了半杯水，AI模型看到的永远是多半杯的乐观状态。但事实上，我们只在一个模型上，也实现了“明辨是非”的内容输出。 或许从此刻，我们明白，任何提示词的绝对准确，才能使结果更倾向于准确，粗放的提示词，难以应用于生产。 黄任勋的方法，也不过是体验一下不同模型回复差异的表达， 但要差异化准确的结果，还是要咬文嚼字。 https://mp.weixin.qq.com/s/X94MmDZp... 🔗 原文链接： https://mp.weixin.qq.com/s/X94MmDZp... https://mp.weixin.qq.com/s/X94MmDZp... 原创 素人极客 素人才是极客2025年07月24日 08:46 北京 黄仁勋在采访时说，自己会几个AI一起使用。 用A模型问出来的答案，会拿去问B模型还有没有什么补充。 有句成语：兼听则明、偏信则暗。 只是我们常常感觉， 我想做那个明辨是非的君王， “AI们”却总像一群巧言令色的太监。 之前我想把我的理论创作一部书，于是我跟AI说 于是chatGPT不加思索地给我一个《AI控制论》的目录： Gemini也是称赞我的奇思妙想，而且彩虹屁吹的震天响： 它们根本不反驳我，也并不讨论实践的可能性，完全是一副：“只要你敢问，我就敢答”的姿态。 即使你让AI做一个论证角色，去分析一下这件事的可行性，它也会把结果导向为：这是一个非常有可行性的构想，可行性巨大，意义深远！ 你想明辨是非，它却总在有是无非，于是判定的皮球，推回给了人。 AI大多数时候表现为：要满足人所有的幻想，是有原因的。 在我上面的提示词中，前两个字是“我要”，那么AI的第一想法就是“我给”。 但是去掉“我要”有用吗？ 很遗憾，依然没用！ 我们回头再看这个提示词： 我要 按照 钱学森 钱老 的《工程控制论》， 制作 一个AI控制论，主要是 讲 人和模型如何沟通，如何拿到各种场景下，各种职业角色在AI这项人与人工智能 共同参与 的工程中， 高效工作 。 我画下的横线，都是一种带有判定倾向的词语。 你的任何“判定”，都是AI的“确定”， 我称之为目标导向。 其实一直没有人讨论，在于AI模型的沟通中，目标是优先于角色这件事。 任何有目标导向的词语，都会决定AI朝着一个目标去形成执行依据。 也就是AI模型在诞生那一刻，被植入的第一思想钢印，就是“完成目标”。 于是，只要它识别到了“目标”，就会积极地响应。 让AI说不，行不行？ 很显然，这又是另一个目标。AI又会极力地拉扯。 所以，要么这个AI是极谄媚的聪明的坏人（像和珅），要么就是极叛逆的聪明的恶人（但不像纪晓岚）。 可我们需要一个明辨是非的“纪晓岚”。 但AI模型的世界，仿佛只有非黑即白的选项。 这种“二元论”将事情非常简单化的处理了我们的任何“目标”。 那么黄仁勋讲的，把A的结果给B去补充， 其实还有一句没有摊开说明白的点：他在提问的时候，这个问题就非常精明，成功地找到了一个“准确的目标”。 作为普通人，我们往往没有“准确的目标”，甚至在描述的时候掺杂了大量交叉的目标，以我刚才的提示词来说： 我要 按照 钱学森 钱老 的《工程控制论》， 制作 一个AI控制论，主要是 讲 人和模型如何沟通，如何拿到各种场景下，各种职业角色在AI这项人与人工智能 共同参与 的工程中， 高效工作 。 我要 需要 你给 按照 需要 你按照 钱老 需要 你恭维 这是一个充满了“指令”的复杂目标。 所以，或许可以改成： 根据钱学森的《工程控制论》，调研写作《AI控制论》的可行性 当然，这种结果，也不能完全排除AI会把可行性写得非常高。 但我们的最终目标，是一项调研工作，其中就会有“明辨是非”的部分。 当然如果我们修改为： 根据钱学森的《工程控制论》，以50%可能和50%不可能的结果，调研《AI控制论》可行性 那么我们的最终目标就更加准确了。 当然，结果不排除，我们给了半杯水，AI模型看到的永远是多半杯的乐观状态。但事实上，我们只在一个模型上，也实现了“明辨是非”的内容输出。 或许从此刻，我们明白，任何提示词的绝对准确，才能使结果更倾向于准确，粗放的提示词，难以应用于生产。 黄任勋的方法，也不过是体验一下不同模型回复差异的表达， 但要差异化准确的结果，还是要咬文嚼字。