CrabNote螃蟹笔记

海辛:如何搭建一个美食广告 Agent | 探索中

海辛:如何搭建一个美食广告 Agent | 探索中

海辛:如何搭建一个美食广告 Agent | 探索中 海辛:如何搭建一个美食广告 Agent | 探索中 Modified June 13, 2025 No access 13 00:00 No access 14 00:00 No access 15 00:00 No access 16 00:00 这是一种我觉得特别妙,但用言语说不出哪里妙的舒适感。 节奏的和谐, 视听的极致,就是音乐的可视化。 于是我开始想,像 M&S 这样有极致风格化的视觉审美: • 纯黑背景 + 高对比度打光; • 微距摄影与慢动作; • 几何美学与秩序感。 有没有可能用 AI agent 方式来进行制作? 人类天然理解节奏,因为我们一直生活在节奏里。 我们的呼吸是有节奏的,我们的心跳、步伐、说话、甚至情绪的起伏。 节奏不仅仅是音乐的专属,也是我们感知世界的重要方式。 那 AI 能理解节奏吗?AI 的世界里有节奏的感知吗? 1. 视频学习 & 模仿 我尝试用 Gemini 2.5 pro 分析了我制作的和几个 M&S 的视频,制作了一份分析报告。 然后让 GPT4.1 学习分析报告,制作一个关于“玛格丽特”的10s视频的分镜。 2. VEO3 fast 视频生成 我将 GPT4.1 的分镜,直接一字不改的复制到 VEO3 fast 进行生成,这是其产出的素材: No access 17 00:00 我个人感觉镜头设计的非常有 M&S 的味道,同时 VEO3 fast 的动态效果也很棒,虽然物理还不是 100% 的准确。 这是不是意味着, AI 对语义及生成素材的能力已经快要成熟了。 3. 人工剪辑 VEO3 直接生成的视频都是 8s 的,要 fit 进一个 10s 的视频,尤其是节奏的卡点,还需要人工的处理。 这是我帮 AI 最后剪辑出来的版本: No access 18 00:00 4. 下一步? 那么,我可以让剪辑也自动化吗? 我目前的思路是: 让视频画面的变化点自动对齐音乐的节奏点。 自动检测视频中 帧间差异最大点 (即帧与帧之间视觉内容变化最显著的点,通常对应镜头切换或场景变化)。 并将这些时刻与音频的节奏点(如鼓点、拍点、节拍)自动对齐,实现画面与音乐节奏的同步剪辑。 在 GPT 的帮助下,我找到了一个概念,叫 “帧差峰值” ,一些开源算法用这个概念来检查一段视频中的镜头切分。 其中最知名、最易用的就是 PySceneDetect. 那么,我是否可以用 PySceneDetect, 来检测一个镜头里的帧差峰值点,来找到这个镜头里的视觉卡点,然后去 match 音频的听觉卡点,即可完成卡点剪辑。 如果假设可行的话,这样我就能完成整个 M&S 风格美食视频的自动生成 agent. 期待!( ❦ω❦) 🔗 原文链接: https://mp.weixin.qq.com/s/d8PG8NEf... 原创 海辛 全民熊猫计划2025年06月13日 18:51 上海 https://mp.weixin.qq.com/s/d8PG8NEf... No access 13 00:00 No access 13 00:00 No access 14 00:00 No access 14 00:00 No access 15 00:00 No access 15 00:00 No access 16 00:00 No access 16 00:00 这是一种我觉得特别妙,但用言语说不出哪里妙的舒适感。 节奏的和谐, 视听的极致,就是音乐的可视化。 于是我开始想,像 M&S 这样有极致风格化的视觉审美: • 纯黑背景 + 高对比度打光; • 微距摄影与慢动作; • 几何美学与秩序感。 有没有可能用 AI agent 方式来进行制作? 人类天然理解节奏,因为我们一直生活在节奏里。 我们的呼吸是有节奏的,我们的心跳、步伐、说话、甚至情绪的起伏。 节奏不仅仅是音乐的专属,也是我们感知世界的重要方式。 那 AI 能理解节奏吗?AI 的世界里有节奏的感知吗? 1. 视频学习 & 模仿 我尝试用 Gemini 2.5 pro 分析了我制作的和几个 M&S 的视频,制作了一份分析报告。 然后让 GPT4.1 学习分析报告,制作一个关于“玛格丽特”的10s视频的分镜。 2. VEO3 fast 视频生成 我将 GPT4.1 的分镜,直接一字不改的复制到 VEO3 fast 进行生成,这是其产出的素材: No access 17 00:00 No access 17 00:00 我个人感觉镜头设计的非常有 M&S 的味道,同时 VEO3 fast 的动态效果也很棒,虽然物理还不是 100% 的准确。 这是不是意味着, AI 对语义及生成素材的能力已经快要成熟了。 3. 人工剪辑 VEO3 直接生成的视频都是 8s 的,要 fit 进一个 10s 的视频,尤其是节奏的卡点,还需要人工的处理。 这是我帮 AI 最后剪辑出来的版本: No access 18 00:00 No access 18 00:00 4. 下一步? 那么,我可以让剪辑也自动化吗? 我目前的思路是: 让视频画面的变化点自动对齐音乐的节奏点。 自动检测视频中 帧间差异最大点 (即帧与帧之间视觉内容变化最显著的点,通常对应镜头切换或场景变化)。 并将这些时刻与音频的节奏点(如鼓点、拍点、节拍)自动对齐,实现画面与音乐节奏的同步剪辑。 在 GPT 的帮助下,我找到了一个概念,叫 “帧差峰值” ,一些开源算法用这个概念来检查一段视频中的镜头切分。 其中最知名、最易用的就是 PySceneDetect. 那么,我是否可以用 PySceneDetect, 来检测一个镜头里的帧差峰值点,来找到这个镜头里的视觉卡点,然后去 match 音频的听觉卡点,即可完成卡点剪辑。 如果假设可行的话,这样我就能完成整个 M&S 风格美食视频的自动生成 agent. 期待!( ❦ω❦) 🔗 原文链接: https://mp.weixin.qq.com/s/d8PG8NEf... https://mp.weixin.qq.com/s/d8PG8NEf... 原创 海辛 全民熊猫计划2025年06月13日 18:51 上海 最近用 即梦 3.0 Pro 做了一个模仿 M&S 风格的草莓拿破仑视频。 效果我自己挺满意的。 M&S (Marks & Spencer) 的美食广告是我觉得业界做得最好的 ,堪称业界天花板: 它们把食物拍得像艺术品一样。 可惜,这个系列已经好多年没有更新了。 这个系列, 食材本身是图形 , 像是变成了会跳舞的音符、会律动的节拍器。每一帧都在和音乐对话, 视觉本身就成了节奏。 其实,这种“视觉有节奏”的感觉,对我来说就是视听表达结合在一起、能达到视听极致的必要条件。 让我想起来同样非常精彩的 Figma 2025 大会的开场片: