DeepSeek-R1 发布,性能对标 OpenAI o1 正式版
DeepSeek-R1 发布,性能对标 OpenAI o1 正式版
DeepSeek R1 发布,性能对标 OpenAI o1 正式版 DeepSeek R1 发布,性能对标 OpenAI o1 正式版 Modified January 21, 2025 No access DeepSeek R1.pdf HuggingFace链接 : https://huggingface.co/deepseek ai 开放的许可证和用户协议 为了推动和鼓励开源社区以及行业生态的发展,在发布并开源 R1 的同时,我们同步在协议授权层面也进行了如下调整: • 模型开源 License 统一使用 MIT 。我们曾针对大模型开源的特点,参考当前行业的通行实践,特别引入 DeepSeek License 为开源社区提供授权,但实践表明非标准的开源 License 可能反而增加了开发者的理解成本。为此,此次我们的开源仓库(包括模型权重)统一采用标准化、宽松的 MIT License,完全开源,不限制商用,无需申请。 • 产品协议明确可“模型蒸馏” 。为了进一步促进技术的开源和共享,我们决定支持用户进行“模型蒸馏”。我们已更新线上产品的用户协议,明确允许用户利用模型输出、通过模型蒸馏等方式训练其他模型。 App与网页端 登录DeepSeek官网或官方App,打开“ 深度思考 ”模式,即可调用最新版 DeepSeek R1 完成各类推理任务。 API 及定价 DeepSeek R1 API 服务定价为 每百万输入 tokens 1 元(缓存命中)/ 4 元(缓存未命中),每百万输出 tokens 16 元 。 详细的 API 调用指南请参考官方文档 : https://api docs.deepseek.com/zh cn/guides/reasoning model 推理模型 (deepseek reasoner) deepseek reasoner 是 DeepSeek 推出的推理模型。在输出最终回答之前,模型会先输出一段思维链内容,以提升最终答案的准确性。我们的 API 向用户开放 deepseek reasoner 思维链的内容,以供用户查看、展示、蒸馏使用。 在使用 deepseek reasoner 时,请先升级 OpenAI SDK 以支持新参数。 Code block Bash pip3 install U openai API 参数 • 输入参数: ◦ max tokens:最终回答的最大长度(不含思维链输出),默认为 4K,最大为 8K。请注意,思维链的输出最多可以达到 32K tokens,控思维链的长度的参数(reasoning effort)将会在近期上线。 • 输出字段: ◦ reasoning content:思维链内容,与 content 同级,访问方法见访问样例 ◦ content:最终回答内容 • 上下文长度:API 最大支持 64K 上下文,输出的 reasoning content 长度不计入 64K 上下文长度中 • 支持的功能:对话补全,对话前缀续写 (Beta) • 不支持的功能:Function Call、Json Output、FIM 补全 (Beta) • 不支持的参数:temperature、top p、presence penalty、frequency penalty、logprobs、top logprobs 上下文拼接 在每一轮对话过程中,模型会输出思维链内容(reasoning content)和最终回答(content)。在下一轮对话中,之前轮输出的思维链内容不会被拼接到上下文中,如下图所示: 请注意,如果您在输入的 messages 序列中,传入了reasoning content,API 会返回 400 错误。因此,请删除 API 响应中的 reasoning content 字段,再发起 API 请求,方法如访问样例所示。 访问样例 下面的代码以 Python 语言为例,展示了如何访问思维链和最终回答,以及如何在多轮对话中进行上下文拼接。 • 非流式 • 流式 Code block Python from openai import OpenAI client = OpenAI(api key="<DeepSeek API Key ", base url="https://api.deepseek.com") Round 1 messages = [{"role": "user", "content": "9.11 and 9.8, which is greater?"}] response = client.chat.completions.create( model="deepseek reasoner", messages=messages ) reasoning content = response.choices[0].message.reasoning content content = response.choices[0].message.content Round 2 messages.append({'role': 'assistant', 'content': content}) messages.append({'role': 'user', 'content': "How many Rs are there in the word 'strawberry'?"}) response = client.chat.completions.create( model="deepseek reasoner", messages=messages ) ... 访问样例 对话补全 对话前缀续写 (Beta) 访问样例 No access DeepSeek R1.pdf No access DeepSeek R1.pdf HuggingFace链接 : https://huggingface.co/deepseek ai 开放的许可证和用户协议 为了推动和鼓励开源社区以及行业生态的发展,在发布并开源 R1 的同时,我们同步在协议授权层面也进行了如下调整: • 模型开源 License 统一使用 MIT 。我们曾针对大模型开源的特点,参考当前行业的通行实践,特别引入 DeepSeek License 为开源社区提供授权,但实践表明非标准的开源 License 可能反而增加了开发者的理解成本。为此,此次我们的开源仓库(包括模型权重)统一采用标准化、宽松的 MIT License,完全开源,不限制商用,无需申请。 • 产品协议明确可“模型蒸馏” 。为了进一步促进技术的开源和共享,我们决定支持用户进行“模型蒸馏”。我们已更新线上产品的用户协议,明确允许用户利用模型输出、通过模型蒸馏等方式训练其他模型。 App与网页端 登录DeepSeek官网或官方App,打开“ 深度思考 ”模式,即可调用最新版 DeepSeek R1 完成各类推理任务。 API 及定价 DeepSeek R1 API 服务定价为 每百万输入 tokens 1 元(缓存命中)/ 4 元(缓存未命中),每百万输出 tokens 16 元 。 详细的 API 调用指南请参考官方文档 : https://api docs.deepseek.com/zh cn/guides/reasoning model 推理模型 (deepseek reasoner) deepseek reasoner 是 DeepSeek 推出的推理模型。在输出最终回答之前,模型会先输出一段思维链内容,以提升最终答案的准确性。我们的 API 向用户开放 deepseek reasoner 思维链的内容,以供用户查看、展示、蒸馏使用。 在使用 deepseek reasoner 时,请先升级 OpenAI SDK 以支持新参数。 API 参数 • 输入参数: ◦ max tokens:最终回答的最大长度(不含思维链输出),默认为 4K,最大为 8K。请注意,思维链的输出最多可以达到 32K tokens,控思维链的长度的参数(reasoning effort)将会在近期上线。 ◦ max tokens:最终回答的最大长度(不含思维链输出),默认为 4K,最大为 8K。请注意,思维链的输出最多可以达到 32K tokens,控思维链的长度的参数(reasoning effort)将会在近期上线。 • 输出字段: ◦ reasoning content:思维链内容,与 content 同级,访问方法见访问样例 ◦ content:最终回答内容 访问样例 ◦ reasoning content:思维链内容,与 content 同级,访问方法见访问样例 访问样例 ◦ content:最终回答内容 • 上下文长度:API 最大支持 64K 上下文,输出的 reasoning content 长度不计入 64K 上下文长度中 • 支持的功能:对话补全,对话前缀续写 (Beta) 对话补全 对话前缀续写 (Beta) • 不支持的功能:Function Call、Json Output、FIM 补全 (Beta) • 不支持的参数:temperature、top p、presence penalty、frequency penalty、logprobs、top logprobs 上下文拼接 在每一轮对话过程中,模型会输出思维链内容(reasoning content)和最终回答(content)。在下一轮对话中,之前轮输出的思维链内容不会被拼接到上下文中,如下图所示: 请注意,如果您在输入的 messages 序列中,传入了reasoning content,API 会返回 400 错误。因此,请删除 API 响应中的 reasoning content 字段,再发起 API 请求,方法如访问样例所示。 访问样例 访问样例 下面的代码以 Python 语言为例,展示了如何访问思维链和最终回答,以及如何在多轮对话中进行上下文拼接。 • 非流式 • 流式 🔗 原文链接: https://mp.weixin.qq.com/s/atKyfC5l... https://mp.weixin.qq.com/s/atKyfC5l... 深度求索 DeepSeek 2025年01月20日 20:10 北京 技术报告开源 今天,我们正式发布 DeepSeek R1,并同步开源模型权重。 • DeepSeek R1 遵循 MIT License,允许用户通过蒸馏技术借助 R1 训练其他模型。 • DeepSeek R1 上线API, 对用户开放思维链输出 ,通过设置 即可调用。 • DeepSeek 官网与 App 即日起同步更新上线。 性能对齐OpenAI o1正式版 DeepSeek R1 在后训练阶段大规模使用了强化学习技术,在仅有极少标注数据的情况下,极大提升了模型推理能力。在数学、代码、自然语言推理等任务上,性能比肩 OpenAI o1 正式版。 在此,我们将 DeepSeek R1 训练技术全部公开,以期促进技术社区的充分交流与创新协作。 论文链接 : https://github.com/deepseek ai/DeepSeek R1/blob/main/DeepSeek R1.pdf 蒸馏小模型超越 OpenAI o1 mini 我们在开源 DeepSeek R1 Zero 和 DeepSeek R1 两个 660B 模型的同时,通过 DeepSeek R1 的输出,蒸馏了 6 个小模型开源给社区,其中 32B 和 70B 模型在多项能力上实现了对标 OpenAI o1 mini 的效果。