学习笔记：《生成式AI导论2024》 李宏毅

第0讲：课程说明​

1.知道：​◦有能力自己开发​◦何时需要自己开发​◦何时可以用现成的人工智能​

• ◦有能力自己开发​

• ◦何时需要自己开发​

• ◦何时可以用现成的人工智能​

2.目标：了解生成式AI背后的原理和更多可能性，作为你魔术师的开始​a.体验用生成式AI打造应用​b.体验训练自己的生成式AI模型​c.负面体验​i.花时间：大模型是以周为单位来训练​ii.结果不可以控制：养花养小动物​

a.体验用生成式AI打造应用​

b.体验训练自己的生成式AI模型​

c.负面体验​i.花时间：大模型是以周为单位来训练​ii.结果不可以控制：养花养小动物​

i.花时间：大模型是以周为单位来训练​

ii.结果不可以控制：养花养小动物​

3.影响模型能力的指标很多，但是常规会看参数的量级来评估，量级指数级增长，FOMO，这就是朱啸虎的立场来源​a.2019年GPT2.015b参数​b.2024年GPT3.570b参数​

a.2019年GPT2.015b参数​

b.2024年GPT3.570b参数​

第1讲：生成式AI是什么​

1.定义​a.Artificial Intelligence, AI-人工智慧（目标）-让机器展现智慧​

a.Artificial Intelligence, AI-人工智慧（目标）-让机器展现智慧​

b.Generative AI 生成式人工智能-机器产生复杂有结构的物件​

c.Machine Learning 机器学习～机器自动从资料中找一个公式​

2.ChatGPT也就是个公式，AI画图也是个公式​

3.ChatGPT就是文字接龙​

第2讲：生成式AI厉害在哪里，从「工具」变为「工具人」​

1.GPT4大升级，贵有贵的道理​

2.不要问ChatGPT能做什么，要问你想要ChatGPT帮你做什么​

对比了下，kimi没法生成图片，告诉了我可以借助其他工具​

但是智谱清言甚至写了python代码，帮我生成了文字云！​

3.我可以做什么​a.改不了模型，改变自己，用好模型-更清楚的指令/提供额外资讯​b.训练自己的模型，调整开源模型参数-注意，可能衍生很多问题​

a.改不了模型，改变自己，用好模型-更清楚的指令/提供额外资讯​

b.训练自己的模型，调整开源模型参数-注意，可能衍生很多问题​

第3讲：训练你自己-神奇咒语​

1.讲清楚的能力（模型有一般人的知识和理解能力，但是不了解你的事情），而不是特定格式的prompt​

2.神奇的模型咒语，提升准确率https://arxiv.org/abs/2312.16171​a.CoT（Chain of Thought模型思考）Take a deep breath, Let's think step-by-step深呼吸，一步步来​i.但是这个不是对所有模型试用（更新的3.5，正确率提升有限）​​附件不支持打印​i.帮助看图，解数学题​ii.解释自己的答案后再提供解决方案，解决方案更优​b.情绪勒索：这件事真的对我很重要This is very important to my career​c.更多的有用咒语​i.直接明确的要求：要做什么，不要干什么“”可能听不懂​ii.对模型有礼貌没有用，请xx，谢谢xx​iii.保证你的答案客观没有偏见。避免刻板印象​iv.做得好给你小费，做不好给你处罚​

a.CoT（Chain of Thought模型思考）Take a deep breath, Let's think step-by-step深呼吸，一步步来​i.但是这个不是对所有模型试用（更新的3.5，正确率提升有限）​​附件不支持打印​i.帮助看图，解数学题​ii.解释自己的答案后再提供解决方案，解决方案更优​

i.但是这个不是对所有模型试用（更新的3.5，正确率提升有限）​

i.帮助看图，解数学题​

ii.解释自己的答案后再提供解决方案，解决方案更优​

b.情绪勒索：这件事真的对我很重要This is very important to my career​

c.更多的有用咒语​i.直接明确的要求：要做什么，不要干什么“”可能听不懂​ii.对模型有礼貌没有用，请xx，谢谢xx​iii.保证你的答案客观没有偏见。避免刻板印象​iv.做得好给你小费，做不好给你处罚​

i.直接明确的要求：要做什么，不要干什么“”可能听不懂​

ii.对模型有礼貌没有用，请xx，谢谢xx​

iii.保证你的答案客观没有偏见。避免刻板印象​

iv.做得好给你小费，做不好给你处罚​

3.用AI来找神奇咒语​a.增强式学习​b.让大模型自己思考​

a.增强式学习​

b.让大模型自己思考​

4.提供context​a.前提-互联网人的mac和化妆师的mac​b.资讯-把文档/新闻丢给gpt​

a.前提-互联网人的mac和化妆师的mac​

b.资讯-把文档/新闻丢给gpt​

5.提供范例​a.错误的范例，也会正确的表达“错误”​​​2.0 好好读​​附件不支持打印​50%​​1.0​​附件不支持打印​50%​​

a.错误的范例，也会正确的表达“错误”​

6.没有模型被训练，所以会“失忆”​

第4讲：训练你自己-拆解问题与使用工具​

1.拆解复杂的任务，你要先想清楚如何拆解​a.拆解任务：一步步思考​​附件不支持打印​b.自我反省，能检查出来自己的错误，比如“幻觉”-文字接龙，而非真实记忆​i.答案是否正确​ii.是否符合法律/道德​iii.仍然是当年那个少年哈哈哈哈哈哈哈​​附件不支持打印​

a.拆解任务：一步步思考​

b.自我反省，能检查出来自己的错误，比如“幻觉”-文字接龙，而非真实记忆​i.答案是否正确​ii.是否符合法律/道德​iii.仍然是当年那个少年哈哈哈哈哈哈哈​

i.答案是否正确​

ii.是否符合法律/道德​

iii.仍然是当年那个少年哈哈哈哈哈哈哈​

c.每次答案都不同：文字接龙是概率答题，掷骰子给答案（没有资料库）​

2.组合拳​​​Tree of Thoughts (ToT)​​附件不支持打印​50%​​•Algorithm of Thoughts​•Graph of Thoughts​​附件不支持打印​50%​​

3.使用工具​​​搜索引擎（警惕“幻觉”）​+ RAG（给资料库/让它上网搜）​​附件不支持打印​20%​​写公式Program of Thought (PoT)​还能自己执行-GPT4​•数学题​•Python​​附件不支持打印​20%​​文字生图AI (DALL-E)​​附件不支持打印​留个作业​​附件不支持打印​20%​​Plug-in​上千个工具​​附件不支持打印​​20%​​自己学习使用工具​​附件不支持打印​​留个作业​​附件不支持打印​20%​​

4.记得，语言模型只会一件事，文字接龙​

第5讲：训练不了人工智慧？你可以训练你自己 (下) — 讲語言彼此合作，把一个人活成一个团队​

1.模型合作：让合适的模型做合适的事情（展示平台为你服务的不一定是同一个模型，后台自动调用不同的模型）​a.成本最优解：GPT-4厉害但是高昂，有其他便宜的模型能解决基本的问题​b.能力最大化：透过API呼叫不同的语言模型让模型彼此讨论，更能激发语言模型的能力，结果会越好​

a.成本最优解：GPT-4厉害但是高昂，有其他便宜的模型能解决基本的问题​

b.能力最大化：透过API呼叫不同的语言模型让模型彼此讨论，更能激发语言模型的能力，结果会越好​

2.模型讨论：​a.模型之间怎么讨论？还没有最优解-研究中的问题​​附件不支持打印​

a.模型之间怎么讨论？还没有最优解-研究中的问题​

3.讨论的结果怎么判定​

4.模型扮演不同的角色，并优化团队，可以做专业分工​

第6讲：大型语言模型修练史 — 第一阶段: 自我学习，累计实力​

1.找参数的挑战-对算力的挑战-深度学习/机器学习​a.「超参数（hyperparameter）」 设定 「最佳化（Optimization）」​b.训练失败后，要不断的换超参数再上一次！​c.训练成功，但是测试失败​i.增加训练资料的多样性​ii.设定好的初始参数：让最终的参数尽量接近初始参数​​​训练成果通过​​附件不支持打印​25%​​测试失败-overfitting​​附件不支持打印​25%​​看视频！​​附件不支持打印​25%​​找比较好的初始参数​​附件不支持打印​25%​​

a.「超参数（hyperparameter）」 设定 「最佳化（Optimization）」​

b.训练失败后，要不断的换超参数再上一次！​

c.训练成功，但是测试失败​i.增加训练资料的多样性​ii.设定好的初始参数：让最终的参数尽量接近初始参数​

i.增加训练资料的多样性​

ii.设定好的初始参数：让最终的参数尽量接近初始参数​

2.需要多少文字才能够学会文字接龙-300b可能也学不会世界知识​

3.自督导式学习​

4.GPT系列-GPT3对于prompt的格式要求很高，所以会留下格式重要的习惯​

5.语言模型在网络上学了很多东西，但不知道使用方法，需要指导​

第7讲：大型语言模型修炼史 — 第二阶段: 名师指点，发挥潜力 (兼讲对 ChatGPT 做逆向工程与 LLaMA 时代的开始)​

1.资料标注-督导式学习​

2.预训练Pre-train​a.与使用第一阶段的参数作为初始参数-微调+Adapter​​​微调​​附件不支持打印​33%​​Adapter-Lora确保新参数和初始参数非常接近，只找少量的参数​​附件不支持打印​33%​​Adapter多种多样​​附件不支持打印​33%​​b.预训练教会了模型复杂的规则，而且会举一反三（多语言的预训练后，自动学习不同语言的同样任务）​

a.与使用第一阶段的参数作为初始参数-微调+Adapter​

b.预训练教会了模型复杂的规则，而且会举一反三（多语言的预训练后，自动学习不同语言的同样任务）​

3.微调 Instruction Fine-tuning​a.一堆专才模型（翻译/语法修正）-BERT专才模型​

a.一堆专才模型（翻译/语法修正）-BERT专才模型​

b.一个通才模型​i.Google：FLAN模型/FLAN-PaLM模型​ii.OpenAI：GPT-3​iii.LLaMA：只用了2w7k笔的资料，足够用​iv.LIMA：1k笔资料，43%的比例打败了GPT4​

i.Google：FLAN模型/FLAN-PaLM模型​

ii.OpenAI：GPT-3​

iii.LLaMA：只用了2w7k笔的资料，足够用​

iv.LIMA：1k笔资料，43%的比例打败了GPT4​

4.逆向工程-微调对资料的品质要求非常高，自己做不了，可以让ChatGPT帮忙想，但是质量也有限​

5.Pre-train参数，开源繁荣​a.LLaMA开源-Stanford Alpaca/Vicuna​​​​附件不支持打印​50%​​​附件不支持打印​​50%​​

a.LLaMA开源-Stanford Alpaca/Vicuna​

附录：​

当我写下这个标题之后，还没开始上课，小西就帮我写了一份学习笔记，有点无聊哈哈，但是方便一览全局​