AIGC Weekly #66

AIGC Weekly #66

AIGC Weekly 66 AIGC Weekly 66 • 当发出编辑指令时,加入了一个代码检查器(linter)来运行,如果代码语法不正确,就不会执行该编辑指令。 • 为智能体提供了一个专门构建的文件查看器,这不仅仅是执行cat命令那么简单。这个文件查看器在每次仅展示100行内容时效果最佳。构建的文件编辑器配备了上下滚动和文件内搜索的命令。 • 还为智能体提供了一个专为全目录字符串搜索而设的命令。这个工具在简洁地列出搜索匹配结果时尤为重要,因此我们只列出了每个包含至少一个匹配项的文件。为模型展示每个匹配更多的上下文信息,反而会使模型感到困惑。 • 当某个指令没有任何输出时,会返回一条提示信息:“您的指令已成功运行,但并未产生任何输出。 Elmo:浏览器AI总结插件 贾扬清公司出的AI总结插件,全部都用的开原生态的服务。模型使用的是 Mixtral 8x7b,Host 在LeptonAI上,所以速度飞快,HTML Parser用的mozilla/readability。 精选文章 ✦ 超入门级Lora训练教程 使用 OneTrainer 轻松制作 LoRA 作者作为一名 LoRA 模型制作的新手,通过自己的学习实践,总结了一份简明扼要的制作教程。 这份教程不涉及太多理论知识,而是直奔主题,手把手教初学者如何训练自己的 LoRA 模型。 作者坦诚分享了自己从最初尝试 Embedding 和 LoRA 时遇到的问题,以及后来找到的解决方法,为读者提供了宝贵的经验参考。 所需工具介绍 要制作 LoRA 模型,需要准备一些必要的工具。作者推荐使用自己喜欢的模型和图像生成工具,他个人使用的是 StableSwarmUI 和 GhostXL 模型。 此外,还需要一个训练工具,作者选择了 OneTrainer,因为有人说它比另一个常用的工具 Kohya 更易用。作者还提到,训练时如果需要将 SDXL 格式的图像转换为 SD 格式,需要在设置中开启分辨率覆盖选项。 中文翻译:https://quail.ink/op7418/p/lazy lora making with onetrainer and ai generation Claude 3 提示词优化器 这个Claude 3提示优化提示词可以将简单的提示变成高级的提示模板。 我用这个提示词让他写一个将长文总结成推特的提示词真的不错,比简单写的提示词生成的内容效果好很多。 CS25: Transformers United V4 斯坦福大学CS25课程将会向所有人开放,你可以通过Zoom接入直播参与课程。 英语好的人推荐看看,课程内容和讲师都很强。 这个课程主要会每周邀请Transformer研究的前沿专家,来分享他们在最新突破上的成就。比如英伟达、OpenAI以及Mistral AI的人。 内容涵盖从大型语言模型(如GPT和Gemini)到在艺术创作(比如DALL E和Sora)、生物学和神经科学应用、机器人学等领域的创新应用。 Models All The Way Down 非常详细的剖析 LAION 5B 这个图像数据集中的组成和实现方式,利用这个例子揭示了现在图像和 LLM 训练中存在的一些问题。 强烈建议看看,下面是里面的一些关键结果: • 首先,算法式的内容筛选通常依赖于一些数字化的标准,而这些标准往往并没有被充分理解。 • 其次,关于AI训练数据集的编制过程存在一种内在的循环性问题。 • 模型之上有模型,训练集之上有训练集。 • 只有通过查看数据集,我们才能更好地了解人工智能模型的工作原理以及可能出现的差距、错误和偏见。 • 由于数据集选择的偏好,关于什么视觉效果吸引人这一概念,极可能受到少数个体品味的强烈影响,以及数据集创建者在策划数据集时所选择的流程。 什么是 GPT? transformer的可视化介绍 3Blue1Brown大神非常好的一个演示视频,通过可视化清晰的介绍了 LLM 的核心 Transformer 架构的原理。 包括词嵌入、自注意力机制等关键技术。对了解GPT 3等大型语言模型的内部结构很有帮助。 中文翻译在这里:https://x.com/op7418/status/1775376278843191296 ComfyUI 1600个节点详细介绍 发现个好东西,Salt 将 200 个 ComfyUI 官方节点和 1400 个第三方节点用 AI 分析并且制作了对应的文档。 你可以在文档里搜索节点,并且会展示节点的作用,以及节点每个选项的作用。还有节点的代码实现。 以后找不到节点或者不知道选项的作用可以去搜一下。 优化人机协作 本文探讨了如何优化人工智能(AI)在写作过程中的协作,特别是通过“支架理论”(scaffolding theory)的视角。支架理论最初源于教育领域,旨在通过提供适时的支持和指导来帮助学习者掌握他们尚未能独立完成的技能。文章通过Dhillon等人(2024年)的研究,系统评估了不同级别的AI支架对写作质量、用户满意度、认知负荷和生产力等方面的影响。研究发现,与控制组相比,低级别的支架(如单句建议)降低了输出质量,而高级别的支架(如段落建议)显著提高了输出质量,尤其对非常规和技术不太熟练的写作者更为有益。然而,随着AI协助的增加,用户满意度和拥有感却呈现相反的趋势,尽管质量有所提高。 文章还强调了对用户体验(UX)专业人员的建议,包括了解用户的需求、设计能够适应不同用户专业水平的界面、实现个性化和定制化、逐渐调整AI支持的级别以及促进用户的主动性和拥有感。通过这些策略,我们可以显著提升用户体验,使AI工具不仅有用,而且在实现多样化活动目标中变得不可或缺。 万字复盘我的AI作品《Devices》| 解析AI创作中的变与不变 这篇文章是晨然在 VisonOS 开发者大会的作品 《Devices》实践经验分享。 作者探索了如何通过调整AI模型的提示词(prompt)来改善生成的图像质量。例如,使用“one blue phone, hand drawing, (clean background), flat color”这样的详细背景描述,可以帮助生成更干净、视觉上不干扰的单色调背景图像。作者还发现,添加如“clean background”这样的提示词可以显著改善背景的清晰度,但可能会牺牲动画的观赏性。此外,作者提到了一些特定的词汇,如“iphone, hand drawing, (clean background)”可以帮助避免生成图像中出现杂乱的线条和不成形的人物雏形。文章还提到了对模型进行调整,如限制数量(如“one iphone”)和使用特定模型(如“4xUltraSharp”)进行图像放大,以及如何通过调整权重来进一步优化结果。 这篇文章提供了一系列技巧和策略,用于指导AI创作中的变与不变,帮助创作者更好地控制AI生成内容的质量和风格。 重点研究 ✦ InstantStyle: Free Lunch towards Style Preserving in Text to Image Generation InstantID作者的新项目,InstantStyle 风格保持项目发布,一个强化版的IPapadter。一定程度解决了风格泄露的问题,同时也避免了繁琐的权重调整。 完整简介: • 无需调节的扩散式模型(diffusion based models)在图像个性化和定制方面展现出了巨大潜力。 • 然而,即便如此,目前的模型在生成风格一致的图像时仍面临诸多挑战。首先,“风格”这一概念本身就难以界定,它包括颜色、材质、氛围、设计和结构等多种因素。 • 其次,基于反演的方法(inversion based methods)容易导致风格的退化,这通常会导致细节的丢失。 • 最后,基于适配器的方法(adapter based approaches)通常需要对每张参考图片进行精细的权重调整,以平衡风格的强度和文本的可控性。 • 在本论文中,我们首先探讨了一些重要但经常被忽视的观点。接下来,我们介绍了InstantStyle,这是一个框架,旨在通过两个关键策略来解决这些问题: • 一是通过一个直观的机制,将风格和内容从参考图像中的特征空间(feature space)解耦,这是基于这样一个假设:同一空间中的特征可以相互加减。 • 二是只将参考图像的特征注入到专门处理风格的模块中,这样可以防止风格的泄露,同时也避免了繁琐的权重调整,这一问题通常出现在参数更多的设计中。 谷歌新论文Transformer可以动态分配计算资源 谷歌新论文Transformer可以动态分配计算资源。通过限制每层处理的token数量,网络可以灵活调整不同时间点和深度上的资源分配。这种方法训练的模型在性能上匹配基准,训练时间也相当。 完整简介: • 在语言模型领域,Transformer通常将计算资源(即FLOPs)均匀地分布到输入序列的每一个部分。 • 然而,我们的研究显示,Transformer实际上能够学会动态地调配这些计算资源,针对序列中的特定部分进行优化分配,同时在模型不同层级上也进行调整。 • 我们的方法是通过限制每一层能参与自注意力和MLP(多层感知器)计算的token(词元)的数量(即k个)来控制总体计算资源。哪些token会被处理是由网络通过一种“top k”机制来决定的 • 这个程序的一个特点是,尽管k个token是提前确定的,但它们具体是哪些却是可变的,因此我们的方法可以在不同时间点和模型深度上灵活地分配计算资源。 • 这样,虽然总体的计算资源是固定的,但在每个token的层面上却是动态且根据上下文变化的。 • 最重要的是,以这种方式训练的模型不仅能高效地动态分配计算资源,而且在性能上能够匹配基准模型,同时在训练时间上几乎相当。 • 更令人印象深刻的是,在前向传播时这些模型所需的FLOPs只有一小部分,并且在训练后的采样阶段速度可以提升高达50%。 Cross Attention Makes Inference Cumbersome in Text to Image Diffusion Models 非常有意思的研究,通过计算出,交叉注意力(cross attention)的输出会趋向于一个固定点。然后在保真度提升阶段忽略文本条件不仅可以减少计算的复杂性。还提出了TGATE这种简单而无需训练的方法,用于高效地生成图像。TGATE的做法是,一旦交叉注意力的输出达到收敛,就将其缓存下来,并在剩余的推理步骤中保持不变。 完整简介: 在文本到图像的扩散模型中,交叉注意力是一个关键组件,它在模型的初期推理步骤中发挥着重要作用。然而,研究表明,交叉注意力的输出在经过几个推理步骤后会收敛到一个固定点,这一点自然地将整个推理过程分为两个阶段:语义规划阶段和保真度提高阶段。在语义规划阶段,模型依赖交叉注意力来规划以文本为导向的视觉语义;而在保真度提高阶段,模型则尝试根据先前规划的语义生成图像。令人惊讶的是,在保真度提高阶段忽略文本条件不仅可以降低计算复杂性,而且还能保持模型性能。 CameraCtrl: Enabling Camera Control for Text to Video Generation 上海人工智能实验室发布了可以给 Animatediff 增加相机控制的项目CameraCtrl。哈哈 这下 Animatediff 的含金量还在提高。 项目简介: CameraCtrl,这是一个可以在文本到视频(T2V)模型中实现精准摄像机姿态控制的新工具。 在对摄像机轨迹进行精确参数化后,我们在 T2V 模型中训练了一个可随时加入使用的摄像机模块,而不影响其他组件的工作。 此外,我们还对不同数据集的影响进行了全面研究,发现具有不同摄像机角度和相似视觉风格的视频确实可以提高系统的可控性和适应性。 实验结果表明,CameraCtrl 在实现精确的领域适应摄像机控制方面表现卓越,这在利用文本和摄像机姿态输入来创造动态、个性化的视频叙事领域里是一大进步。 Getting it Right : Improving Spatial Consistency in Text to Image Models Hugging 和 英特尔发布了提高文生图模型空间一致性的方案,大幅提高了模型对提示词中空间关系的理解能力。还有一个详细标注了空间关系的 600 万张图片的数据集,模型和数据集都会开源。 完整简介: 当前将文字描述转换为图像的技术(T2I)面临一个关键短板,那就是它们往往无法精准地生成与文字提示中所描述的空间关系相符的图像。 在本文中,我们全面调查了这一限制,并开发了一些数据集和方法,以此达到行业领先水平。 首先,我们发现目前的图文数据集对空间关系的表达不够充分。为了解决这个问题,我们创建了SPRIGHT——第一个专注于空间关系的大规模数据集,方法是重新标注了来自四个广泛使用的图像数据集的600万张图片。 经过三重评估和分析,我们发现SPRIGHT在捕捉空间关系方面大幅超越现有数据集。我们仅使用约0.25%的SPRIGHT数据,就在制作空间准确的图像方面取得了22%的提升,并且在FID(图像质量评分)和CMMD(跨模态匹配度评分)上也有所改进。 其次,我们还发现,在包含大量物体的图像上进行训练,可以显著提高图像的空间一致性。特别地,我们在少于500张图片上进行微调后,在T2I综合比赛平台(T2I CompBench)上达到了0.2133的空间得分,创造了新的最高记录。 最后,通过一系列严格的实验和测试,我们记录了多项发现,这些发现有助于深入理解影响文字描述转换为图像技术在空间一致性方面的各种因素。 DiJiang: Efficient Large Language Models through Compact Kernelization 华为的一个项目通过频域核化和加权准蒙特卡洛采样,大幅降低训练成本,加快推理速度,同时保持与原模型相似性能。 Elmo:浏览器AI总结插件 超入门级Lora训练教程 使用 OneTrainer 轻松制作 LoRA Claude 3 提示词优化器 CS25: Transformers United V4 Models All The Way Down 什么是 GPT? transformer的可视化介绍 ComfyUI 1600个节点详细介绍 优化人机协作 万字复盘我的AI作品《Devices》| 解析AI创作中的变与不变 InstantStyle: Free Lunch towards Style Preserving in Text to Image Generation 谷歌新论文Transformer可以动态分配计算资源 Cross Attention Makes Inference Cumbersome in Text to Image Diffusion Models CameraCtrl: Enabling Camera Control for Text to Video Generation Getting it Right : Improving Spatial Consistency in Text to Image Models DiJiang: Efficient Large Language Models through Compact Kernelization • 当发出编辑指令时,加入了一个代码检查器(linter)来运行,如果代码语法不正确,就不会执行该编辑指令。 • 为智能体提供了一个专门构建的文件查看器,这不仅仅是执行cat命令那么简单。这个文件查看器在每次仅展示100行内容时效果最佳。构建的文件编辑器配备了上下滚动和文件内搜索的命令。 • 还为智能体提供了一个专为全目录字符串搜索而设的命令。这个工具在简洁地列出搜索匹配结果时尤为重要,因此我们只列出了每个包含至少一个匹配项的文件。为模型展示每个匹配更多的上下文信息,反而会使模型感到困惑。 • 当某个指令没有任何输出时,会返回一条提示信息:“您的指令已成功运行,但并未产生任何输出。 Elmo:浏览器AI总结插件 Elmo:浏览器AI总结插件 贾扬清公司出的AI总结插件,全部都用的开原生态的服务。模型使用的是 Mixtral 8x7b,Host 在LeptonAI上,所以速度飞快,HTML Parser用的mozilla/readability。 精选文章 ✦ 超入门级Lora训练教程 使用 OneTrainer 轻松制作 LoRA 超入门级Lora训练教程 使用 OneTrainer 轻松制作 LoRA 作者作为一名 LoRA 模型制作的新手,通过自己的学习实践,总结了一份简明扼要的制作教程。 这份教程不涉及太多理论知识,而是直奔主题,手把手教初学者如何训练自己的 LoRA 模型。 作者坦诚分享了自己从最初尝试 Embedding 和 LoRA 时遇到的问题,以及后来找到的解决方法,为读者提供了宝贵的经验参考。 所需工具介绍 要制作 LoRA 模型,需要准备一些必要的工具。作者推荐使用自己喜欢的模型和图像生成工具,他个人使用的是 StableSwarmUI 和 GhostXL 模型。 此外,还需要一个训练工具,作者选择了 OneTrainer,因为有人说它比另一个常用的工具 Kohya 更易用。作者还提到,训练时如果需要将 SDXL 格式的图像转换为 SD 格式,需要在设置中开启分辨率覆盖选项。 中文翻译:https://quail.ink/op7418/p/lazy lora making with onetrainer and ai generation Claude 3 提示词优化器 Claude 3 提示词优化器 这个Claude 3提示优化提示词可以将简单的提示变成高级的提示模板。 我用这个提示词让他写一个将长文总结成推特的提示词真的不错,比简单写的提示词生成的内容效果好很多。 CS25: Transformers United V4 CS25: Transformers United V4 斯坦福大学CS25课程将会向所有人开放,你可以通过Zoom接入直播参与课程。 英语好的人推荐看看,课程内容和讲师都很强。 这个课程主要会每周邀请Transformer研究的前沿专家,来分享他们在最新突破上的成就。比如英伟达、OpenAI以及Mistral AI的人。 内容涵盖从大型语言模型(如GPT和Gemini)到在艺术创作(比如DALL E和Sora)、生物学和神经科学应用、机器人学等领域的创新应用。 Models All The Way Down Models All The Way Down 非常详细的剖析 LAION 5B 这个图像数据集中的组成和实现方式,利用这个例子揭示了现在图像和 LLM 训练中存在的一些问题。 强烈建议看看,下面是里面的一些关键结果: • 首先,算法式的内容筛选通常依赖于一些数字化的标准,而这些标准往往并没有被充分理解。 • 其次,关于AI训练数据集的编制过程存在一种内在的循环性问题。 • 模型之上有模型,训练集之上有训练集。 • 只有通过查看数据集,我们才能更好地了解人工智能模型的工作原理以及可能出现的差距、错误和偏见。 • 由于数据集选择的偏好,关于什么视觉效果吸引人这一概念,极可能受到少数个体品味的强烈影响,以及数据集创建者在策划数据集时所选择的流程。 什么是 GPT? transformer的可视化介绍 什么是 GPT? transformer的可视化介绍 3Blue1Brown大神非常好的一个演示视频,通过可视化清晰的介绍了 LLM 的核心 Transformer 架构的原理。 包括词嵌入、自注意力机制等关键技术。对了解GPT 3等大型语言模型的内部结构很有帮助。 中文翻译在这里:https://x.com/op7418/status/1775376278843191296 ComfyUI 1600个节点详细介绍 ComfyUI 1600个节点详细介绍 发现个好东西,Salt 将 200 个 ComfyUI 官方节点和 1400 个第三方节点用 AI 分析并且制作了对应的文档。 你可以在文档里搜索节点,并且会展示节点的作用,以及节点每个选项的作用。还有节点的代码实现。 以后找不到节点或者不知道选项的作用可以去搜一下。 优化人机协作 优化人机协作 本文探讨了如何优化人工智能(AI)在写作过程中的协作,特别是通过“支架理论”(scaffolding theory)的视角。支架理论最初源于教育领域,旨在通过提供适时的支持和指导来帮助学习者掌握他们尚未能独立完成的技能。文章通过Dhillon等人(2024年)的研究,系统评估了不同级别的AI支架对写作质量、用户满意度、认知负荷和生产力等方面的影响。研究发现,与控制组相比,低级别的支架(如单句建议)降低了输出质量,而高级别的支架(如段落建议)显著提高了输出质量,尤其对非常规和技术不太熟练的写作者更为有益。然而,随着AI协助的增加,用户满意度和拥有感却呈现相反的趋势,尽管质量有所提高。 文章还强调了对用户体验(UX)专业人员的建议,包括了解用户的需求、设计能够适应不同用户专业水平的界面、实现个性化和定制化、逐渐调整AI支持的级别以及促进用户的主动性和拥有感。通过这些策略,我们可以显著提升用户体验,使AI工具不仅有用,而且在实现多样化活动目标中变得不可或缺。 万字复盘我的AI作品《Devices》| 解析AI创作中的变与不变 万字复盘我的AI作品《Devices》| 解析AI创作中的变与不变 这篇文章是晨然在 VisonOS 开发者大会的作品 《Devices》实践经验分享。 作者探索了如何通过调整AI模型的提示词(prompt)来改善生成的图像质量。例如,使用“one blue phone, hand drawing, (clean background), flat color”这样的详细背景描述,可以帮助生成更干净、视觉上不干扰的单色调背景图像。作者还发现,添加如“clean background”这样的提示词可以显著改善背景的清晰度,但可能会牺牲动画的观赏性。此外,作者提到了一些特定的词汇,如“iphone, hand drawing, (clean background)”可以帮助避免生成图像中出现杂乱的线条和不成形的人物雏形。文章还提到了对模型进行调整,如限制数量(如“one iphone”)和使用特定模型(如“4xUltraSharp”)进行图像放大,以及如何通过调整权重来进一步优化结果。 这篇文章提供了一系列技巧和策略,用于指导AI创作中的变与不变,帮助创作者更好地控制AI生成内容的质量和风格。 重点研究 ✦ InstantStyle: Free Lunch towards Style Preserving in Text to Image Generation InstantStyle: Free Lunch towards Style Preserving in Text to Image Generation InstantID作者的新项目,InstantStyle 风格保持项目发布,一个强化版的IPapadter。一定程度解决了风格泄露的问题,同时也避免了繁琐的权重调整。 完整简介: • 无需调节的扩散式模型(diffusion based models)在图像个性化和定制方面展现出了巨大潜力。 • 然而,即便如此,目前的模型在生成风格一致的图像时仍面临诸多挑战。首先,“风格”这一概念本身就难以界定,它包括颜色、材质、氛围、设计和结构等多种因素。 • 其次,基于反演的方法(inversion based methods)容易导致风格的退化,这通常会导致细节的丢失。 • 最后,基于适配器的方法(adapter based approaches)通常需要对每张参考图片进行精细的权重调整,以平衡风格的强度和文本的可控性。 • 在本论文中,我们首先探讨了一些重要但经常被忽视的观点。接下来,我们介绍了InstantStyle,这是一个框架,旨在通过两个关键策略来解决这些问题: • 一是通过一个直观的机制,将风格和内容从参考图像中的特征空间(feature space)解耦,这是基于这样一个假设:同一空间中的特征可以相互加减。 • 二是只将参考图像的特征注入到专门处理风格的模块中,这样可以防止风格的泄露,同时也避免了繁琐的权重调整,这一问题通常出现在参数更多的设计中。 谷歌新论文Transformer可以动态分配计算资源 谷歌新论文Transformer可以动态分配计算资源 谷歌新论文Transformer可以动态分配计算资源。通过限制每层处理的token数量,网络可以灵活调整不同时间点和深度上的资源分配。这种方法训练的模型在性能上匹配基准,训练时间也相当。 完整简介: • 在语言模型领域,Transformer通常将计算资源(即FLOPs)均匀地分布到输入序列的每一个部分。 • 然而,我们的研究显示,Transformer实际上能够学会动态地调配这些计算资源,针对序列中的特定部分进行优化分配,同时在模型不同层级上也进行调整。 • 我们的方法是通过限制每一层能参与自注意力和MLP(多层感知器)计算的token(词元)的数量(即k个)来控制总体计算资源。哪些token会被处理是由网络通过一种“top k”机制来决定的 • 这个程序的一个特点是,尽管k个token是提前确定的,但它们具体是哪些却是可变的,因此我们的方法可以在不同时间点和模型深度上灵活地分配计算资源。 • 这样,虽然总体的计算资源是固定的,但在每个token的层面上却是动态且根据上下文变化的。 • 最重要的是,以这种方式训练的模型不仅能高效地动态分配计算资源,而且在性能上能够匹配基准模型,同时在训练时间上几乎相当。 • 更令人印象深刻的是,在前向传播时这些模型所需的FLOPs只有一小部分,并且在训练后的采样阶段速度可以提升高达50%。 Cross Attention Makes Inference Cumbersome in Text to Image Diffusion Models Cross Attention Makes Inference Cumbersome in Text to Image Diffusion Models 非常有意思的研究,通过计算出,交叉注意力(cross attention)的输出会趋向于一个固定点。然后在保真度提升阶段忽略文本条件不仅可以减少计算的复杂性。还提出了TGATE这种简单而无需训练的方法,用于高效地生成图像。TGATE的做法是,一旦交叉注意力的输出达到收敛,就将其缓存下来,并在剩余的推理步骤中保持不变。 完整简介: 在文本到图像的扩散模型中,交叉注意力是一个关键组件,它在模型的初期推理步骤中发挥着重要作用。然而,研究表明,交叉注意力的输出在经过几个推理步骤后会收敛到一个固定点,这一点自然地将整个推理过程分为两个阶段:语义规划阶段和保真度提高阶段。在语义规划阶段,模型依赖交叉注意力来规划以文本为导向的视觉语义;而在保真度提高阶段,模型则尝试根据先前规划的语义生成图像。令人惊讶的是,在保真度提高阶段忽略文本条件不仅可以降低计算复杂性,而且还能保持模型性能。 CameraCtrl: Enabling Camera Control for Text to Video Generation CameraCtrl: Enabling Camera Control for Text to Video Generation 上海人工智能实验室发布了可以给 Animatediff 增加相机控制的项目CameraCtrl。哈哈 这下 Animatediff 的含金量还在提高。 项目简介: CameraCtrl,这是一个可以在文本到视频(T2V)模型中实现精准摄像机姿态控制的新工具。 在对摄像机轨迹进行精确参数化后,我们在 T2V 模型中训练了一个可随时加入使用的摄像机模块,而不影响其他组件的工作。 此外,我们还对不同数据集的影响进行了全面研究,发现具有不同摄像机角度和相似视觉风格的视频确实可以提高系统的可控性和适应性。 实验结果表明,CameraCtrl 在实现精确的领域适应摄像机控制方面表现卓越,这在利用文本和摄像机姿态输入来创造动态、个性化的视频叙事领域里是一大进步。 Getting it Right : Improving Spatial Consistency in Text to Image Models Getting it Right : Improving Spatial Consistency in Text to Image Models Hugging 和 英特尔发布

在 小宇宙note 阅读完整内容