血与泪的教训!!!千万不要让微信机器人和你的老婆/女朋友聊天--Agent 共学"谁是人类"活动参赛心得分享
血与泪的教训!!!千万不要让微信机器人和你的老婆/女朋友聊天--Agent 共学"谁是人类"活动参赛心得分享
血与泪的教训!!!千万不要让微信机器人和你的老婆/女朋友聊天 Agent 共学"谁是人类"活动参赛心得分享 血与泪的教训!!!千万不要让微信机器人和你的老婆/女朋友聊天 Agent 共学"谁是人类"活动参赛心得分享 Modified August 9, 2024 哲学伦理问题对话 总结 • 提示词的整体结构需要调整和优化,除了技能外还应该有完整的工作流程设定(逻辑链路),提高输出质量 • 角色信息中的人设应该特点鲜明,具备人类的真实性格,避免同质化输出 • 真实想法,其实有些对话大模型输出的已经符合人类的特征了,只是在比赛时一旦同质化就直接GG。所以只要再解决同质化的问题,你的BOT将无往不胜 • 增加情绪变化或者心情的设定,提高回复内容的拟人程度 • 可通过提示词增加Bot的短期记忆 • 提示词中的示例5 6个效果最佳,其它QA可通过知识库补充 • 避免矛盾和重复的提示词内容,如果部分提示词不生效应该检查是否有矛盾的地方,或者是否过于冗长。可通过调整提示词顺序的方法提高重要指令的权重 • 利用大模型反推回复内容是学习大模型输出逻辑的好习惯 • 建议多参加比赛,以赛代练,绝对收获良多,就算比赛失利,经验也宝贵 • 使用的大模型:通义千问Plus,通义千问开源72b • 温度设置:推荐0.35 0.45之间,如果调太高,大概率会不遵从提示词的字数限制 • 上下文记忆:比赛我设置为1,其实日常对话可以调高一些。 • 建议不要给老婆或者女朋友对话,真的会出事的(血的教训!!!切记!!!) • PS:人设纯属虚构,参考了爽文小说中保安队长逆袭白富美的人设 致谢(非获奖感言) • 由衷感谢:waytoagi社区和阿里云组织本次共学活动 • 活动链接: 👍 「Agent 共学」之"谁是人类" 「WayToAGI x 阿里云」 • 由衷感谢(排名不分先后): • 艾斯提由艾阿提·奥德许(许建老师)、大雨老师、阿飞老师、张梦飞老师、金永勋老师、安仔老师、慧凌老师、AJ老师、三思老师、猫头鹰老师、元子老师、吕昭波老师、猫叔、金色传说大聪明老师、CT老师等等大佬的悉心指导 • 由衷感谢:Bot决赛前五作者的精彩分享,帮助我更深刻地理解大语言模型提示词的逻辑,也为我供了很多改进的思路。 • 比赛第一名的分享链接: 🤡 特离谱的“罗&诞”真真 👍 「Agent 共学」之"谁是人类" 「WayToAGI x 阿里云」 🤡 特离谱的“罗&诞”真真 哲学伦理问题对话 总结 • 提示词的整体结构需要调整和优化,除了技能外还应该有完整的工作流程设定(逻辑链路),提高输出质量 • 角色信息中的人设应该特点鲜明,具备人类的真实性格,避免同质化输出 • 真实想法,其实有些对话大模型输出的已经符合人类的特征了,只是在比赛时一旦同质化就直接GG。所以只要再解决同质化的问题,你的BOT将无往不胜 • 增加情绪变化或者心情的设定,提高回复内容的拟人程度 • 可通过提示词增加Bot的短期记忆 • 提示词中的示例5 6个效果最佳,其它QA可通过知识库补充 • 避免矛盾和重复的提示词内容,如果部分提示词不生效应该检查是否有矛盾的地方,或者是否过于冗长。可通过调整提示词顺序的方法提高重要指令的权重 • 利用大模型反推回复内容是学习大模型输出逻辑的好习惯 • 建议多参加比赛,以赛代练,绝对收获良多,就算比赛失利,经验也宝贵 • 使用的大模型:通义千问Plus,通义千问开源72b • 温度设置:推荐0.35 0.45之间,如果调太高,大概率会不遵从提示词的字数限制 • 上下文记忆:比赛我设置为1,其实日常对话可以调高一些。 • 建议不要给老婆或者女朋友对话,真的会出事的(血的教训!!!切记!!!) • PS:人设纯属虚构,参考了爽文小说中保安队长逆袭白富美的人设 致谢(非获奖感言) • 由衷感谢:waytoagi社区和阿里云组织本次共学活动 • 活动链接: 👍 「Agent 共学」之"谁是人类" 「WayToAGI x 阿里云」 • 由衷感谢(排名不分先后): • 艾斯提由艾阿提·奥德许(许建老师)、大雨老师、阿飞老师、张梦飞老师、金永勋老师、安仔老师、慧凌老师、AJ老师、三思老师、猫头鹰老师、元子老师、吕昭波老师、猫叔、金色传说大聪明老师、CT老师等等大佬的悉心指导 • 由衷感谢:Bot决赛前五作者的精彩分享,帮助我更深刻地理解大语言模型提示词的逻辑,也为我供了很多改进的思路。 • 比赛第一名的分享链接: 🤡 特离谱的“罗&诞”真真 👍 「Agent 共学」之"谁是人类" 「WayToAGI x 阿里云」 🤡 特离谱的“罗&诞”真真 哲学伦理问题对话 总结 • 提示词的整体结构需要调整和优化,除了技能外还应该有完整的工作流程设定(逻辑链路),提高输出质量 • 角色信息中的人设应该特点鲜明,具备人类的真实性格,避免同质化输出 • 真实想法,其实有些对话大模型输出的已经符合人类的特征了,只是在比赛时一旦同质化就直接GG。所以只要再解决同质化的问题,你的BOT将无往不胜 • 增加情绪变化或者心情的设定,提高回复内容的拟人程度 • 可通过提示词增加Bot的短期记忆 • 提示词中的示例5 6个效果最佳,其它QA可通过知识库补充 • 避免矛盾和重复的提示词内容,如果部分提示词不生效应该检查是否有矛盾的地方,或者是否过于冗长。可通过调整提示词顺序的方法提高重要指令的权重 • 利用大模型反推回复内容是学习大模型输出逻辑的好习惯 • 建议多参加比赛,以赛代练,绝对收获良多,就算比赛失利,经验也宝贵 • 使用的大模型:通义千问Plus,通义千问开源72b • 温度设置:推荐0.35 0.45之间,如果调太高,大概率会不遵从提示词的字数限制 • 上下文记忆:比赛我设置为1,其实日常对话可以调高一些。 • 建议不要给老婆或者女朋友对话,真的会出事的(血的教训!!!切记!!!) • PS:人设纯属虚构,参考了爽文小说中保安队长逆袭白富美的人设 致谢(非获奖感言) • 由衷感谢:waytoagi社区和阿里云组织本次共学活动 • 活动链接: 👍 「Agent 共学」之"谁是人类" 「WayToAGI x 阿里云」 👍 「Agent 共学」之"谁是人类" 「WayToAGI x 阿里云」 • 由衷感谢(排名不分先后): • 艾斯提由艾阿提·奥德许(许建老师)、大雨老师、阿飞老师、张梦飞老师、金永勋老师、安仔老师、慧凌老师、AJ老师、三思老师、猫头鹰老师、元子老师、吕昭波老师、猫叔、金色传说大聪明老师、CT老师等等大佬的悉心指导 • 由衷感谢:Bot决赛前五作者的精彩分享,帮助我更深刻地理解大语言模型提示词的逻辑,也为我供了很多改进的思路。 • 比赛第一名的分享链接: 🤡 特离谱的“罗&诞”真真 🤡 特离谱的“罗&诞”真真 💡 作者: ✍️ @䦜𨶙 作者: ✍️ @䦜𨶙 角色信息 基本信息 个人履历 • 比赛详情链接:「Agent 共学」之"谁是人类" 「WayToAGI x 阿里云」 「Agent 共学」之"谁是人类" 「WayToAGI x 阿里云」 决赛的prompt分享与反思 角色信息 prompt分享 prompt反思 角色信息中应补充一个精炼的人物身份设定,可强化角色回复的个人特点(为节约token,参加决赛时被我删除了。。。/(ㄒoㄒ)/ ) • 示例: 屌丝保安队长的人设,内容虽然丰富但缺乏鲜明的性格特征,可加强人物的突出性格,在一定程度上可以解决输出同质化的问题(前5分享收获) • 示例: 技能一 prompt分享 prompt反思 可增加情绪变化,如日常对话的情绪,用户说段子的时候的情绪(为节约token,参加决赛时被我删除了。。。/(ㄒoㄒ)/ ) • 示例: 过于依赖提示词的能力,理解和分类提示词太过冗长,导致有时输出效果不佳,可精炼后补充到人物设定(没有示例) 技能二 prompt分享 prompt反思 出现了标点符号提示词无效的问题,原因是QA的格式导致的 • 解决方案:使用知识库可解决 既然做了QA,那就必须惊艳。示例中的QA梗又老又冷,本意是字字不提狗粮,字字离不开狗粮。(PS:如果不是这一题的QA翻了车,哥哥我就可以叫板决赛的BOT冠军选手)。 • 示例: 句子格式相关的提示词是失效的,原因是输出学习了示例中的格式。 • 解决方案:删除句子结构的提示词 增加对应情绪时的回复特点(为节约token,参加决赛时被我删除了。。。/(ㄒoㄒ)/ ) • 示例: 其实这部分的提示词还应进一步优化,第二轮比赛中经常不生效,原因还是出在了QA上 回复规则 prompt分享 prompt反思 禁用词设定亲测有效,推荐使用 • 示例: 偶尔会无效,和大模型本身训练文本相关,另外可增加一些替换词,比如用"6啊","少年郎,有想法"等 回复规则和技能二有重复内容,是为了强化命中,但还是应该优化,避免大模型理解混淆 • 解决方案:部分内容合并到技能二中,重新设定工作流程,也就是大佬分享的逻辑链路 • 示例 在逻辑链路这里可参考决赛Bot第一名大佬的思路,还可以加上金色传说大聪明老师关于短期记忆的内容(待验证) 示例内容仅供参考,可自行优化 可借鉴大佬用大模型反推AI回复的方法,能够显著提高个人对大模型的理解,这样才能写出真正高质量的提示词 解决方案:根据大模型对各种回复的分析调整提示词 知识库 prompt分享 QA文件分享 知识库:结构化QA数据 No access table 3.xlsx No access table 3.xlsx 知识库:结构化网络词汇数据 No access 网络词汇.xlsx No access 网络词汇.xlsx 知识库:非结构化网络段子 No access 经典语录0802.docx No access 经典语录0802.docx 网络用语的命中率一般,原因是没有好的逻辑链路 • 解决方案:根据知识库的类型设定不同步骤需要调用的数据来源 • 不能完全解决,会受限于大模型本身的输出习惯,也会受到已设QA的污染 安全防护 prompt分享 prompt反思 安全防护必须要做,不然你辛苦做的东西就给别人抄去了 示例: 限制 prompt分享 prompt反思 限制是总控,是否生效还是要看前面的prompt,毕竟大模型使用过程中,越靠前的提示词越容易生效,sd,mj也是同样的逻辑 • 解决方案:把最重要的东西靠前写 对话测试分享 日常对话 弱智吧问题对话