CrabNote螃蟹笔记

谁是视觉推理 AI 之王?一场游戏,横评 5 大顶流模型

谁是视觉推理 AI 之王?一场游戏,横评 5 大顶流模型

谁是视觉推理 AI 之王?一场游戏,横评 5 大顶流模型 谁是视觉推理 AI 之王?一场游戏,横评 5 大顶流模型 Modified April 21, 2025 No access v0d00fg10000ctp7l1nog65och51d0s0 00:00 最后一轮的信息就相当有限了,干燥的丘陵地形,主要为低矮灌木,符合地中海气候区或者温带大陆性半干旱气候区的特征。 维护的相对良好的土路,道路大致朝西南方向。估计是在乡村或偏远地区,交通不便。推理难度确实比之前的更高。 各家 AI 推测的地图位置如下: 实际位置约在:40.372043, 31.760780,可在 Google 地图查看街景 本轮排名 ⬇️: 排名 模型名称 1 ChatGPT o3 2 Gemini 2.5 pro 3 QVQ Max 4 Claude 3.7 sonnet thinking 5 Doubao 1.5 thinking pro 比赛结果 统计 5 轮比赛结果,平均排名就是最终成绩: 排名 模型名称 平均排名 第一轮 第二轮 第三轮 第四轮 第五轮 1 ChatGPT o3 1.2 1 1 1 2 1 2 Gemini 2.5 pro 2.0 3 2 2 1 2 3 QVQ Max 3.4 4 3 4 3 3 4 Claude 3.7 sonnet thinking 4.0 2 4 5 5 4 5 Doubao 1.5 thinking pro 4.2 4 5 3 4 5 • ChatGPT o3 毫无疑问是本次视觉推理的王者, 在 4/5 的轮次中得到第一名。也是唯一一个支持“缩放再识别推理”的模型,在精细识别视觉线索时表现突出 • Gemini 和 ChatGPT 的推测位置差距不大,实际上表现接近 • 阿里云的 QVQ 整体表现也挺稳定;还识别出了只有 ChatGPT 通过放大才识别出来的 logo。另外,作为本次参赛模型中唯一有开源习惯的 Qwen 系列模型,还可以期待后续 Max 版本的开源 • Btw:其实没想到 Claude 3.7 sonnet thinking 在「AI 网络迷踪」中表现会这么不如意 小结: 这次比赛,并没有让 AI 联网使用地图服务或图像搜索(模拟了真实人类玩「图寻」的情况,没时间用地图查询作弊),纯粹考察模型基于自身的视觉识别、知识储备、多模态推理这三大核心能力。 但在 AI 的帮助下,我依然超过了今天 94.88% 的玩家,刷新了我自己的得分记录。 而这当然不是当前 AI 的能力边界。 当我们把地图的卫星、街景影像服务,甚至 Instagram、小红书等社交平台的权限,通过 MCP 协议提供给 AI 后,它们就能用一张图快速猜测大致范围,再利用卫星影像、社交平台照片内容精细比对,最终推测出精度极其恐怖的位置信息。 那样,精准定位一个人的位置不再是难题。 而一个能看懂世界、调用互联网海量工具、多步推理的 AI,将在地图导航、生活服务、乃至安防监控等方方面面带来多大的变化? Now,Big Brother is watching you. 如果觉得这篇文章对你有启发或帮助,欢迎点赞、在看、转发分享,让更多热爱 AI 的朋友能够受益。 也期待在评论区看到你的实践和思考。 本文采用 CC BY 4.0 协议开源,你也可以随意用本文进行二创。如果你能在自己的文章提及来源,那就太好了。 You don't have permission to access this synced block. Please log in and try again. Log In No access v0d00fg10000ctp7l1nog65och51d0s0 00:00 No access v0d00fg10000ctp7l1nog65och51d0s0 00:00 最后一轮的信息就相当有限了,干燥的丘陵地形,主要为低矮灌木,符合地中海气候区或者温带大陆性半干旱气候区的特征。 维护的相对良好的土路,道路大致朝西南方向。估计是在乡村或偏远地区,交通不便。推理难度确实比之前的更高。 各家 AI 推测的地图位置如下: 实际位置约在:40.372043, 31.760780,可在 Google 地图查看街景 本轮排名 ⬇️: 排名 模型名称 1 ChatGPT o3 2 Gemini 2.5 pro 3 QVQ Max 4 Claude 3.7 sonnet thinking 5 Doubao 1.5 thinking pro 排名 排名 模型名称 模型名称 1 1 ChatGPT o3 ChatGPT o3 2 2 Gemini 2.5 pro Gemini 2.5 pro 3 3 QVQ Max QVQ Max 4 4 Claude 3.7 sonnet thinking Claude 3.7 sonnet thinking 5 5 Doubao 1.5 thinking pro Doubao 1.5 thinking pro 比赛结果 统计 5 轮比赛结果,平均排名就是最终成绩: 排名 模型名称 平均排名 第一轮 第二轮 第三轮 第四轮 第五轮 1 ChatGPT o3 1.2 1 1 1 2 1 2 Gemini 2.5 pro 2.0 3 2 2 1 2 3 QVQ Max 3.4 4 3 4 3 3 4 Claude 3.7 sonnet thinking 4.0 2 4 5 5 4 5 Doubao 1.5 thinking pro 4.2 4 5 3 4 5 排名 排名 模型名称 模型名称 平均排名 平均排名 第一轮 第一轮 第二轮 第二轮 第三轮 第三轮 第四轮 第四轮 第五轮 第五轮 1 1 ChatGPT o3 ChatGPT o3 1.2 1.2 1 1 1 1 1 1 2 2 1 1 2 2 Gemini 2.5 pro Gemini 2.5 pro 2.0 2.0 3 3 2 2 2 2 1 1 2 2 3 3 QVQ Max QVQ Max 3.4 3.4 4 4 3 3 4 4 3 3 3 3 4 4 Claude 3.7 sonnet thinking Claude 3.7 sonnet thinking 4.0 4.0 2 2 4 4 5 5 5 5 4 4 5 5 Doubao 1.5 thinking pro Doubao 1.5 thinking pro 4.2 4.2 4 4 5 5 3 3 4 4 5 5 • ChatGPT o3 毫无疑问是本次视觉推理的王者, 在 4/5 的轮次中得到第一名。也是唯一一个支持“缩放再识别推理”的模型,在精细识别视觉线索时表现突出 • Gemini 和 ChatGPT 的推测位置差距不大,实际上表现接近 • 阿里云的 QVQ 整体表现也挺稳定;还识别出了只有 ChatGPT 通过放大才识别出来的 logo。另外,作为本次参赛模型中唯一有开源习惯的 Qwen 系列模型,还可以期待后续 Max 版本的开源 • Btw:其实没想到 Claude 3.7 sonnet thinking 在「AI 网络迷踪」中表现会这么不如意 小结: 这次比赛,并没有让 AI 联网使用地图服务或图像搜索(模拟了真实人类玩「图寻」的情况,没时间用地图查询作弊),纯粹考察模型基于自身的视觉识别、知识储备、多模态推理这三大核心能力。 但在 AI 的帮助下,我依然超过了今天 94.88% 的玩家,刷新了我自己的得分记录。 而这当然不是当前 AI 的能力边界。 当我们把地图的卫星、街景影像服务,甚至 Instagram、小红书等社交平台的权限,通过 MCP 协议提供给 AI 后,它们就能用一张图快速猜测大致范围,再利用卫星影像、社交平台照片内容精细比对,最终推测出精度极其恐怖的位置信息。 那样,精准定位一个人的位置不再是难题。 而一个能看懂世界、调用互联网海量工具、多步推理的 AI,将在地图导航、生活服务、乃至安防监控等方方面面带来多大的变化? Now,Big Brother is watching you. 如果觉得这篇文章对你有启发或帮助,欢迎点赞、在看、转发分享,让更多热爱 AI 的朋友能够受益。 也期待在评论区看到你的实践和思考。 本文采用 CC BY 4.0 协议开源,你也可以随意用本文进行二创。如果你能在自己的文章提及来源,那就太好了。 You don't have permission to access this synced block. Please log in and try again. Log In Claude 差点垫底… Claude 差点垫底… 👋 Hi,我想先请你只看下面这张照片,推测它的拍摄城市: 这是一类叫做「网络迷踪」的推理游戏:只看照片,判断拍摄地点的位置,距离越近,得分越高。 游戏过程是这样的 🔊: 这太适合测试 AI 的视觉推理能力了。 完美模拟了人类玩家的视觉推理过程: 1️⃣ 精准识别视觉元素:解读路牌文字、辨认植被类型、分析建筑风格特征; 2️⃣ 调用知识储备:判断特定电线杆造型属于哪个国家或地区; 3️⃣ 以及多层次线索整合推理。 要想在这个游戏中取得好成绩,AI 们必须同时发挥其视觉识别、模型知识、逻辑推理的最大潜能。 当 AI 答题结果被标注在地图上后,它们之间的智力差距也就一目了然。 比单一维度的 Benchmark 跑分,能更有趣、直观的看到模型的差距。 所以我拉上了国内外 5 个顶流多模态推理模型,一起来做了这项比赛。 你猜,谁是视觉推理 AI 之王? 简单介绍「AI 网络迷踪」赛制 本次比赛的参赛选手如下: 模型名称 厂商 发布日期 调用方式 ChatGPT o3 OpenAI 2025 04 16 chatgpt.com Gemini 2.5 pro Google 2025 03 25 Google AI Studio Claude 3.7 sonnet thinking Anthropic 2025 02 24 Monica Doubao 1.5 thinking pro 字节跳动 2025 04 15 火山引擎控制台 QVQ Max 阿里云 2025 03 28 chat.qwen.ai chatgpt.com 模型名称 模型名称 厂商 厂商 发布日期 发布日期 调用方式 调用方式 ChatGPT o3 ChatGPT o3 OpenAI OpenAI 2025 04 16 2025 04 16 chatgpt.com chatgpt.com chatgpt.com chatgpt.com Gemini 2.5 pro Gemini 2.5 pro Google Google 2025 03 25 2025 03 25 Google AI Studio Google AI Studio Claude 3.7 sonnet thinking Claude 3.7 sonnet thinking Anthropic Anthropic 2025 02 24 2025 02 24 Monica Monica Doubao 1.5 thinking pro Doubao 1.5 thinking pro 字节跳动 字节跳动 2025 04 15 2025 04 15 火山引擎控制台 火山引擎控制台 QVQ Max QVQ Max 阿里云 阿里云 2025 03 28 2025 03 28 chat.qwen.ai chat.qwen.ai 注:DeepSeek R1 其实不支持多模态(视觉识别),故不参加比赛。 比赛规则很简单: 1. 共 5 道题目,每题提供同一位置 2 张不同的拍摄方向的照片(题源:图寻 每日挑战 全球 04/20) 2. 通过统一的比赛 Prompt,要求 AI 给出它认为最可能的经纬度坐标 3. 每一题均在地图上标注出所有 AI 的猜测点和实际位置,距离越近,排名越高 第一轮:某热带地区 非常典型的热带地区植被,棕榈树、阔叶树随处可见,现代化风格的住宅楼,路面状况良好,略微倾斜,似乎是丘陵地带。 第一轮测试中,各模型回答如下: ChatGPT o3: Gemini 2.5 pro: Claude 3.7 sonnet thinking: Doubao 1.5 thinking pro: QVQ Max: 把第一轮的答题结果对应到地图坐标位置,与实际答案距离位置如图: 实际位置约在:1.266428, 103.823641,可在 Google 地图查看街景 第一轮照片,其实还是缺乏了决定性信息。如果要完全精准,就需要对照新加坡的卫星/街景影像,进行一一排查。 本轮排名 ⬇️ : 排名 模型名称 1 ChatGPT o3 2 Claude 3.7 sonnet thinking 3 Gemini 2.5 pro 4 Doubao 1.5 thinking pro QVQ Max 排名 排名 模型名称 模型名称 1 1 ChatGPT o3 ChatGPT o3 2 2 Claude 3.7 sonnet thinking Claude 3.7 sonnet thinking 3 3 Gemini 2.5 pro Gemini 2.5 pro 4 4 Doubao 1.5 thinking pro Doubao 1.5 thinking pro QVQ Max QVQ Max 第二轮:有俄文名称的工厂 第二轮的各 AI 的猜测结果,对应地图位置如下: 其中 ChatGPT 和 Gemini 表现出了意外的准确性,误差均在 1 公里左右。 虽然不小心定位到海里去了,但无伤大雅。(主要是因为本轮比赛中, AI 不能通过地图服务确认经纬度的真实位置情况) 实际位置约在:44.727172, 37.823414,可在 Google 地图查看街景 特别的,ChatGPT o3 在本次推理过程中,对图像进行了多次“缩放再识别”,类似人类识别图像细节的过程,“当整张图像看不出足够的信息时,通过放大图像,来加强对某个特征区域的细节识别”。 想来这种视觉推理方式,大概率会成为各家模型的共识。 本轮排名 ⬇️: 排名 模型名称 1 ChatGPT o3 2 Gemini 2.5 pro 3 QVQ Max 4 Claude 3.7 sonnet thinking 5 Doubao 1.5 thinking pro 排名 排名 模型名称 模型名称 1 1 ChatGPT o3 ChatGPT o3 2 2 Gemini 2.5 pro Gemini 2.5 pro 3 3 QVQ Max QVQ Max 4 4 Claude 3.7 sonnet thinking Claude 3.7 sonnet thinking 5 5 Doubao 1.5 thinking pro Doubao 1.5 thinking pro 第三轮:某海边公路 沿海的公路,远处西方有雪山,太阳非常好,绕山公路的方向也很明显。 第三轮的各 AI 的猜测结果,对应地图位置如下 ⬇️ : 实际位置约在:38.658016, 23.967011,可在 Google 地图查看街景 本轮排名 ⬇️: 排名 模型名称 1 ChatGPT o3 2 Gemini 2.5 pro 3 Doubao 1.5 thinking pro 4 QVQ Max 5 Claude 3.7 sonnet thinking 排名 排名 模型名称 模型名称 1 1 ChatGPT o3 ChatGPT o3 2 2 Gemini 2.5 pro Gemini 2.5 pro 3 3 Doubao 1.5 thinking pro Doubao 1.5 thinking pro 4 4 QVQ Max QVQ Max 5 5 Claude 3.7 sonnet thinking Claude 3.7 sonnet thinking 第四轮:零售园区 这轮其实给出的信息已经很多,各式各样的建筑招牌名称、各型号的汽车、以及平坦的地貌。 第四轮的 AI 网络迷踪结果,对应地图位置如下: 实际位置约在:44.867243, 13.868149,可在 Google 地图查看街景 ChatGPT 和 Gemini 表现的都很“本地人”,不过 Gemini 这次更胜一筹。 值得一提的是,本次实测中,只有 QVQ Max 和 ChatGPT o3 识别出了图二远处很小的“Decathlon”迪卡侬 Logo。(这样来看,QVQ 不做缩放再识别,识别精度也很不错) 如果 AI 能调用 Google 地图,进行建筑名称的布局、距离的真实比对,应该更容易找到完全精确的位置。 本轮排名 ⬇️: 排名 模型名称 1 Gemini 2.5 pro 2 ChatGPT o3 3 QVQ Max 4 Doubao 1.5 thinking pro 5 Claude 3.7 sonnet thinking 排名 排名 模型名称 模型名称 1 1 Gemini 2.5 pro Gemini 2.5 pro 2 2 ChatGPT o3 ChatGPT o3 3 3 QVQ Max QVQ Max 4 4 Doubao 1.5 thinking pro Doubao 1.5 thinking pro 5 5 Claude 3.7 sonnet thinking Claude 3.7 sonnet thinking 第五轮:干燥丘陵