Azure+DeepSeek教程
Azure+DeepSeek教程
Azure+DeepSeek教程 Azure+DeepSeek教程 Modified February 12, 2025 3. 找到【DeepSeek R1】，点击“Check out model” 4. 点击左上角【部署】，随后填写需要的项目名称，其它选项默认，随后点击右下角“创建” 5. 创建过程请保持网络通畅，后台自动创建2 5分钟（可能更长），创建成功后会自动跳转到概括页面，点击右下角“同意并继续” 6. 随后跳出页面直接点击右下角“部署”即可 7. 关键配置项：Azure区域 Code block Markdown 选择支持DeepSeek的区域（如果默认或自动选择为以下区域，无需修改） East US East US 2 North Central US South Central US West US West US 3 第三阶段：初始化项目 1. 进入 Hub 控制台 左侧控制面板目录 2. 点击 操场 选项 3. 跳转到模型部署在线测试页面，可以在左侧聊天框进行询问 第四阶段：API调用部署 1. 进入 Hub 控制台 左侧控制面板目录 2. 在“我的资产”选项找到“模型+终结点”选项，点击进入 3. 右侧会显示刚部署deepseek r1模型的URL及密钥 这里推荐使用Github开源AI客户端「cherry studio」（为例） 官网地址：https://cherry ai.com 1. 下载安装后，打开软件，左下角“⚙️设置”选择“Azure OpenAI” 2. 把上面获取的“密钥”复制粘贴进去 3. 接下来API地址，即上面显示的“URL”，把它复制下来 4. 接下来是重点 ◦ 粘贴进来的地址字符，光标移到末尾=号的后面，把版本号复制到下面的“API版本”栏目 ◦ 填完后，删除包括？号及后面的全部内容（图划红线处），并在末尾completions处后面加上 符号（例：xxxxx.ai.azure.com/models/chat/completions ），即可 5. 点击下方“添加模型”，填写名称参数DeepSeek R1 以上，所有部署步骤完成，可以进软件主界面选择该模型进行调用调试了 🧪 模型能力评估 基准测试表现 任务类型 DeepSeek R1 GPT 3.5 优势说明 数学推理 89.2% 85.1% 复杂公式解析能力突出 代码生成 92% 88% 支持20+编程语言 逻辑推理 86.5% 83.2% 多步推论准确性高 语义理解 84% 87% 上下文关联稍弱 ⚠️ 重要注意事项 1. 服务限制： ◦ 高峰时段响应延迟可能超过5秒。 ◦ 如果运行有报错，检查是否由上下文长度超出限额导致的问题。如需更多帮助，请查阅官方技术支持文档。 ◦ 虽然官方说明在点击“免费试用”选项后不存在自动付费情况。但为了您的财产安全，使用过程中注意额度用完后的订阅通知，一般会提前通过短信或者邮件给您送达有关信息，如无付费需要，请留意并取消有关选项。 2. 最佳实践： ◦ 复杂任务建议分步请求 ◦ 重要操作记录会话ID（X Request ID） ◦ 定期清除无用的测试部署 📈 生产环境建议 1. 监控配置： ◦ 设置成功率/延迟率警报阈值 ◦ 启用请求日志分析 2. 安全增强： ◦ 配置VNET网络隔离 ◦ 启用内容审核过滤器（可能涉及付费） 📖 附录 技术支持 遇到技术问题可访问： • Azure 技术文档中心 • 服务状态看板 官方资源 • DeepSeek 官方技术支持指南 • Azure ML Python SDK 文档 通过本指南，您已完成从零到生产的完整部署流程。建议部署后执行以下验证测试： ✅ 压力测试：使用 locust 模拟并发请求 ✅ 安全扫描：检查 API 终结点漏洞 ✅ 成本评估：分析 GPU 小时消耗报表 版权说明：文档归属为本知识库 user 1969 原创，转载请注明出处 如果您也想加入我们携手共进的话，欢迎点击「 💫 华彬智融知识数据库」即刻免费加入 Azure 技术文档中心 服务状态看板 DeepSeek 官方技术支持指南 Azure ML Python SDK 文档 💫 华彬智融知识数据库 3. 找到【DeepSeek R1】，点击“Check out model” 4. 点击左上角【部署】，随后填写需要的项目名称，其它选项默认，随后点击右下角“创建” 5. 创建过程请保持网络通畅，后台自动创建2 5分钟（可能更长），创建成功后会自动跳转到概括页面，点击右下角“同意并继续” 6. 随后跳出页面直接点击右下角“部署”即可 7. 关键配置项：Azure区域 Code block Markdown 选择支持DeepSeek的区域（如果默认或自动选择为以下区域，无需修改） East US East US 2 North Central US South Central US West US West US 3 第三阶段：初始化项目 1. 进入 Hub 控制台 左侧控制面板目录 2. 点击 操场 选项 3. 跳转到模型部署在线测试页面，可以在左侧聊天框进行询问 第四阶段：API调用部署 1. 进入 Hub 控制台 左侧控制面板目录 2. 在“我的资产”选项找到“模型+终结点”选项，点击进入 3. 右侧会显示刚部署deepseek r1模型的URL及密钥 这里推荐使用Github开源AI客户端「cherry studio」（为例） 官网地址：https://cherry ai.com 官网地址：https://cherry ai.com 1. 下载安装后，打开软件，左下角“⚙️设置”选择“Azure OpenAI” 2. 把上面获取的“密钥”复制粘贴进去 3. 接下来API地址，即上面显示的“URL”，把它复制下来 4. 接下来是重点 ◦ 粘贴进来的地址字符，光标移到末尾=号的后面，把版本号复制到下面的“API版本”栏目 ◦ 填完后，删除包括？号及后面的全部内容（图划红线处），并在末尾completions处后面加上 符号（例：xxxxx.ai.azure.com/models/chat/completions ），即可 ◦ 粘贴进来的地址字符，光标移到末尾=号的后面，把版本号复制到下面的“API版本”栏目 ◦ 填完后，删除包括？号及后面的全部内容（图划红线处），并在末尾completions处后面加上 符号（例：xxxxx.ai.azure.com/models/chat/completions ），即可 5. 点击下方“添加模型”，填写名称参数DeepSeek R1 以上，所有部署步骤完成，可以进软件主界面选择该模型进行调用调试了 🧪 模型能力评估 基准测试表现 任务类型 DeepSeek R1 GPT 3.5 优势说明 数学推理 89.2% 85.1% 复杂公式解析能力突出 代码生成 92% 88% 支持20+编程语言 逻辑推理 86.5% 83.2% 多步推论准确性高 语义理解 84% 87% 上下文关联稍弱 任务类型 任务类型 DeepSeek R1 DeepSeek R1 GPT 3.5 GPT 3.5 优势说明 优势说明 数学推理 数学推理 89.2% 89.2% 85.1% 85.1% 复杂公式解析能力突出 复杂公式解析能力突出 代码生成 代码生成 92% 92% 88% 88% 支持20+编程语言 支持20+编程语言 逻辑推理 逻辑推理 86.5% 86.5% 83.2% 83.2% 多步推论准确性高 多步推论准确性高 语义理解 语义理解 84% 84% 87% 87% 上下文关联稍弱 上下文关联稍弱 ⚠️ 重要注意事项 1. 服务限制： ◦ 高峰时段响应延迟可能超过5秒。 ◦ 如果运行有报错，检查是否由上下文长度超出限额导致的问题。如需更多帮助，请查阅官方技术支持文档。 ◦ 虽然官方说明在点击“免费试用”选项后不存在自动付费情况。但为了您的财产安全，使用过程中注意额度用完后的订阅通知，一般会提前通过短信或者邮件给您送达有关信息，如无付费需要，请留意并取消有关选项。 ◦ 高峰时段响应延迟可能超过5秒。 ◦ 如果运行有报错，检查是否由上下文长度超出限额导致的问题。如需更多帮助，请查阅官方技术支持文档。 ◦ 虽然官方说明在点击“免费试用”选项后不存在自动付费情况。但为了您的财产安全，使用过程中注意额度用完后的订阅通知，一般会提前通过短信或者邮件给您送达有关信息，如无付费需要，请留意并取消有关选项。 2. 最佳实践： ◦ 复杂任务建议分步请求 ◦ 重要操作记录会话ID（X Request ID） ◦ 定期清除无用的测试部署 ◦ 复杂任务建议分步请求 ◦ 重要操作记录会话ID（X Request ID） ◦ 定期清除无用的测试部署 📈 生产环境建议 1. 监控配置： ◦ 设置成功率/延迟率警报阈值 ◦ 启用请求日志分析 ◦ 设置成功率/延迟率警报阈值 ◦ 启用请求日志分析 2. 安全增强： ◦ 配置VNET网络隔离 ◦ 启用内容审核过滤器（可能涉及付费） ◦ 配置VNET网络隔离 ◦ 启用内容审核过滤器（可能涉及付费） 📖 附录 技术支持 遇到技术问题可访问： • Azure 技术文档中心 Azure 技术文档中心 • 服务状态看板 服务状态看板 官方资源 • DeepSeek 官方技术支持指南 DeepSeek 官方技术支持指南 • Azure ML Python SDK 文档 Azure ML Python SDK 文档 通过本指南，您已完成从零到生产的完整部署流程。建议部署后执行以下验证测试： ✅ 压力测试：使用 locust 模拟并发请求 ✅ 安全扫描：检查 API 终结点漏洞 ✅ 成本评估：分析 GPU 小时消耗报表 版权说明：文档归属为本知识库 user 1969 原创，转载请注明出处 如果您也想加入我们携手共进的话，欢迎点击「 💫 华彬智融知识数据库」即刻免费加入 💫 华彬智融知识数据库 版权说明：文档归属为本知识库 user 1969 原创，转载请注明出处 如果您也想加入我们携手共进的话，欢迎点击「 💫 华彬智融知识数据库」即刻免费加入 💫 华彬智融知识数据库 在 Azure AI Foundry 部署 DeepSeek 大模型全指南 🌟 文档概要 🔗 还在为尽管付费了接入满血deepseek API 但依旧卡顿 或 找不到好用且活动参数接口有限而发愁？ 本教程将指导您在 Azure AI Foundry 平台上完成 DeepSeek R1（671B满血版本）模型的完整部署流程，包含环境准备、资源管理、模型测试及API调用说明。当前版本为免费测试版，支持37B活动参数。 还在为尽管付费了接入满血deepseek API 但依旧卡顿 或 找不到好用且活动参数接口有限而发愁？ 本教程将指导您在 Azure AI Foundry 平台上完成 DeepSeek R1（671B满血版本）模型的完整部署流程，包含环境准备、资源管理、模型测试及API调用说明。当前版本为免费测试版，支持37B活动参数。 🛠️ 先决条件 1. 微软、Azure 有效账号（Azure入口、微软官网） Azure入口 微软官网 2. 一张支持Visa/万事达业务的实体银行卡（必要条件） 3. 浏览器建议：Chrome/Safari/Edge 最新版 4. 国内网络环境可以直接访问，但加载速度可能较慢 📌 核心概念说明 Azure AI Foundry 架构 Azure AI Foundry 是一个用于构建、训练和部署机器学习和人工智能模型的平台。 Azure AI Foundry 是一个用于构建、训练和部署机器学习和人工智能模型的平台。 组件 功能描述 关联操作 Hub（中心） 资源管理中心：管理数据集/模型/项目/部署环境 创建区域资源池 Project（项目） 业务实现单元：包含训练脚本/配置文件/实验日志 模型开发与版本管理 Models（模型） 推理服务载体：支持在线测试/版本回滚/监控分析 终端部署与API管理 组件 组件 功能描述 功能描述 关联操作 关联操作 Hub（中心） Hub（中心） 资源管理中心：管理数据集/模型/项目/部署环境 资源管理中心：管理数据集/模型/项目/部署环境 创建区域资源池 创建区域资源池 Project（项目） Project（项目） 业务实现单元：包含训练脚本/配置文件/实验日志 业务实现单元：包含训练脚本/配置文件/实验日志 模型开发与版本管理 模型开发与版本管理 Models（模型） Models（模型） 推理服务载体：支持在线测试/版本回滚/监控分析 推理服务载体：支持在线测试/版本回滚/监控分析 终端部署与API管理 终端部署与API管理 优势对比表格： 优势对比表格： 🚀 分步部署指南 第一阶段：登录并创建Azure免费账户 1. 打开Microsoft Azure 官网：https://azure.microsoft.com/zh cn/ 2. 点击“免费试用Azure”（即付即用 是付费选项），官方说明新用户有长达12个月免费试用期限 3. 登录微软账户，按页面提示填写信息 4. 勾选用户条款，下一步 5. 银行卡身份认证（注意，目前仅支持Visa/万事达信用卡或借记卡，这个是必要条件），卡号无需空格，身份信息需要填写无误，然后下一步 6. 验证过程中系统可能会自动扣费 1美元 ，建议卡内余额不低于10元，验证后系统会自动退还 第二阶段：创建 AI Hub 1. 访问 Azure AI Foundry 控制台 Azure AI Foundry 控制台 2. 点击首页“探索模型”