如何判断一张图片是否 AI 生成的

如何判断一张图片是否 AI 生成的如何判断一张图片是否 AI 生成的 Modified January 2, 2024 但AI不同。AI就好像一个皮下雇佣无数个画技参差不齐的画手的批皮营销号，总是各种画质质量胡乱上。时间久了自然因为画风画质不稳定而「疯狂掉粉」，让人「一眼看假」。在写实、CG和漫画风格间反复横跳的AIGC画作漫谈：我们为什么要鉴别AIGC 人的逻辑性当我们看的AI制品越来越多，找出的画面bug也渐渐归类。我们把这些判断的具体方法大致总结为「整体看光影，细节看结构」的技术要点。通过累积对AIGC画作分析的量，人们会在脑中自发形成一个「判断模型」。前面所提到的整体观感和细节结构等内容，会作为「语料」，训练出我们对作品的判断直觉。这往往会给我们带来一种「这一眼假啊」「一眼AI」的判断技能，但却很少能迅速总结出为什么。这时，我们对鉴别AIGC的认知，是「知其然，而不知其所以然」。随着我们进一步深究为什么我们能感受到画面不对经，我们会有一个逐渐明晰起来的感受——AI之所以AI，是由于其创作逻辑的非人感。也就是说，AI在作画过程中留下的各种马脚，之所以让人类觉察出「非我族类」的破绽，究其根本是AIGC画作的创作逻辑和人工画作的逻辑不同。从本质上分析，人类的绘画创作，是一个线性发展的过程。具体表现为，我们通常都是先学习线稿表达、再理解色彩搭配、随后加入光影表现等高级技巧，一步一个脚印地创作。较为初级的人类画手，可能在形体上把握不尽准确。但多半会认真地完成每一笔的刻画，笔触虽生硬但完整。天才在外，普通人很少能在掌握线条之前，就很大胆地使用光影和色彩。而AI，是以积累数据、扩散噪声、再降噪收束的路径来生图的。这个过程往往不是一个线性的有先有后的创作过程，而是一个计算猜测并筛选的螺旋迸进过程。这就导致AI作画经常会在同一张图中呈现出不同绘画级别的细节。比如线条还没整利索，色彩却能用得尽善尽美；比如前后景透视都够呛，但光影却能媲美哈苏hasselblad全彩相机。这显然是不太人类的。仿佛上面那个抄作业的不聪明学生，再次把作业抄串了行。有意思的是，有朋友在Talk中提问说，「人类也有画得不太对的，尤其在初学阶段，五官乱飞的奇行种尝试也不在少数。那这样的画作，会不会被误鉴为AI画的呢？”」在我们还在犹豫是否能从找茬的技术角度解释这件事的时候，另一位朋友回答说，「画家再怎么画也是（尽量）符合人对肢体相貌的审美追求逻辑的，而AI生成就缺乏人的逻辑性。” 人的逻辑性。这简直是一种一棍子打死也万万不讲道理的「排外性」。但当出现更为尽善尽美的、比人工绘图还要好的AI作品时，真正支撑我们能继续对这类AIGC作品「一眼打假」的，正是这种「是否符合人的逻辑性」的感性判断。人的逻辑，由眼看，由心定。这才是鉴别AIGC的「知其所以然」。 AI的互搏性当然，要培养出鉴赏AI的技能，多少还是需要我们训练训练自己的大脑模型的。那如果不善于此的朋友，想要判断眼前的作品是否是AI造物呢？ AI技术自己带来的造假难题，也该由AI自己的同僚互鉴打假来解决。现在已有不少网站在做这件事情，通过对大量的图片数据的抓取和分析，给出对画作属性的判断可能性。例如使用AI来鉴别AI绘图性质的网页：ILLUMINARTY（https://app.illuminarty.ai/）。但在测试过程中，有些结构严谨的真实摄影作品，反而会被识别为AI作图。这是一张真实的人类摄影作品，拍摄的是阳光照耀下流光溢彩的圣家堂，但ILLUMINARTY认为它是AI作品的可能性高达78.2% 这跟我们前面提到的，AI作画很难完成严谨真实的结构这一点，是相互矛盾的。鉴别的AI认为，过于严谨的图像不像是真实的人造产物。而画图的AI其实难以生成严谨的结构造型。这就是鉴定AI自身的逻辑算法，并不能像人类一样综合去考虑不符合人的逻辑的各种表现。多试几张，就能磕着瓜子看AI吵架了。甚至作长者摇头抚须状，长叹一声，「AI后生们，还有很长的路要走啊。」我们看完AI显眼包的快乐丢撵后，来聊聊「我们为什么要鉴别AIGC」？已经「知其然」，也大略「知其所以然」，而后终于能顺势讨论讨论「知何由以知其所以然」。鉴别AIGC的需求当我们开始考虑为什么要鉴别AIGC的时候，我们实质上已经站在了一个观察当下的社会角色对AI技术冲击的反应的视角。各方「何由」各异，鉴别AIGC的需求也就各不相同。技术出身的朋友谈为什么要鉴别AIGC。他们多是出于对AI产物的底层逻辑的追溯兴趣，会更多地关心AI作品的性质鉴别能不能通过数据检测等计算机手段来实现。进而能够应用于成熟的鉴别应用，创造收益。产业领域的朋友谈为什么要鉴别AIGC。作为AI技术冲击的首当其冲者，他们最先面对的就是AI加入到工作流后，劳工性质和收益比受到重新判定的挑战。资本们指着拿它当号角，降本增效，一键裁员。打工人们希望看清它甚至驾驭它，以求闪躲这追魂夺命的「被优化」命运。所以大家都铆足了劲去鉴别它的真伪，拉锯它在工作中代替的人力和效能。法律背景的朋友谈为什么要鉴别AIGC。参与到Talk中的律师朋友认为，鉴别AIGC是十分有意义的，它将直接影响未来有AI参与的一切作品的著作权法律判定。同时，著作权存在的意义是以法律笔戈为限，规避他人非法使用自己作品的风险。只有在发生侵权事件的基础上，追溯作品性质，才是有意义的。而在首例AIGC侵权案件悬而未决的当下，判定AI作品中的人的智力投入占比，成为了大家都在热议的重点。论及智力投入占比，就要讨论AIGC创作是否具有独创性？有的人把它类比为摄影，虽然是相机作为机器拍摄下影像。但仍然需要人付出取景、调设参数、后期处理等智力工序。AIGC过程中的设置提示词、调整模型参数和后期迭代图像等，与之类似。AI作画的结果不可控的特点，也和摄影出片的不可控因素十分相似。那摄影作品是人类公知层面上的具有独创性的作品，AIGC创作，是否也会沿着这条路线逐渐稳定下来？我们出于欣赏美好视觉作品的平和视角，那无论这个作品是人工绘制还是AI生成的，我们都乐意动动发财小手，为它点个赞。但当这个场景放到工作产出中，假设使用了AI生成的VI素材，会导致整个项目的劳务报价骤降40%，那鉴别AIGC，为自己的劳动成果验明正身，就是不可或缺的刚需了。再比如放在设计领域，可视化产出是一种交流刚需，设计师用它们来快速沟通灵感和方案。而如果在教育教学过程中，设计专业学生由于无差别地应用AIGC来替代手绘训练，那极有可能造成他们在需要快速表达的场景里，直接缺失这项技能。因此，教师也十分需要具备对AIGC鉴别的认知能力，要判断当前的教学场景是否适用于引入AI技术，要明晰学生在课程中的产出训练是为了培养何种能力，进而才能游刃有余地处理学生产出中AI成分的占比是否需要教育干预。我们聊了各个行业的场景和看法，更加肯定了一个观点，「工具本身是无属性的」。 AI 工具爆发至今，并没有应用行业上的壁垒。在我们尚未明确它的应用场景和约束条件的这一混沌时期，大家会理所应当地想要尽可能地使用它。于是横跨工作、兴趣、生活的方方面面，都有AI强势介入的趋势。但此时，边界未明的局限视角，也让我们很难在短时间内判别AI到底该在什么场景里用到什么样的程度才是最有益的。这个过程中，就难免出现诸多矛盾。随着工具的边界逐渐固定，人的鉴别能力和重新适应的生产力布局，也会带来边际效益的快速回弹。这时候，AI才能真的脱离妖魔化和泛神化，被更好地利用起来。彼时，我们期待一个从「人们吵吵嚷嚷」「AI互搏打架」「人与AI斗智斗勇」的群魔乱道场面中应运而生的AI蓬勃时代能够稳定向前，长足发展。「魔高一尺，道亦高一尺。」左右互搏才是天下武功延续之本。但AI不同。AI就好像一个皮下雇佣无数个画技参差不齐的画手的批皮营销号，总是各种画质质量胡乱上。时间久了自然因为画风画质不稳定而「疯狂掉粉」，让人「一眼看假」。漫谈：我们为什么要鉴别AIGC 人的逻辑性当我们看的AI制品越来越多，找出的画面bug也渐渐归类。我们把这些判断的具体方法大致总结为「整体看光影，细节看结构」的技术要点。通过累积对AIGC画作分析的量，人们会在脑中自发形成一个「判断模型」。前面所提到的整体观感和细节结构等内容，会作为「语料」，训练出我们对作品的判断直觉。这往往会给我们带来一种「这一眼假啊」「一眼AI」的判断技能，但却很少能迅速总结出为什么。这时，我们对鉴别AIGC的认知，是「知其然，而不知其所以然」。随着我们进一步深究为什么我们能感受到画面不对经，我们会有一个逐渐明晰起来的感受——AI之所以AI，是由于其创作逻辑的非人感。也就是说，AI在作画过程中留下的各种马脚，之所以让人类觉察出「非我族类」的破绽，究其根本是AIGC画作的创作逻辑和人工画作的逻辑不同。从本质上分析，人类的绘画创作，是一个线性发展的过程。具体表现为，我们通常都是先学习线稿表达、再理解色彩搭配、随后加入光影表现等高级技巧，一步一个脚印地创作。较为初级的人类画手，可能在形体上把握不尽准确。但多半会认真地完成每一笔的刻画，笔触虽生硬但完整。天才在外，普通人很少能在掌握线条之前，就很大胆地使用光影和色彩。而AI，是以积累数据、扩散噪声、再降噪收束的路径来生图的。这个过程往往不是一个线性的有先有后的创作过程，而是一个计算猜测并筛选的螺旋迸进过程。这就导致AI作画经常会在同一张图中呈现出不同绘画级别的细节。比如线条还没整利索，色彩却能用得尽善尽美；比如前后景透视都够呛，但光影却能媲美哈苏hasselblad全彩相机。这显然是不太人类的。仿佛上面那个抄作业的不聪明学生，再次把作业抄串了行。有意思的是，有朋友在Talk中提问说，「人类也有画得不太对的，尤其在初学阶段，五官乱飞的奇行种尝试也不在少数。那这样的画作，会不会被误鉴为AI画的呢？”」在我们还在犹豫是否能从找茬的技术角度解释这件事的时候，另一位朋友回答说，「画家再怎么画也是（尽量）符合人对肢体相貌的审美追求逻辑的，而AI生成就缺乏人的逻辑性。” 人的逻辑性。这简直是一种一棍子打死也万万不讲道理的「排外性」。但当出现更为尽善尽美的、比人工绘图还要好的AI作品时，真正支撑我们能继续对这类AIGC作品「一眼打假」的，正是这种「是否符合人的逻辑性」的感性判断。人的逻辑，由眼看，由心定。这才是鉴别AIGC的「知其所以然」。 AI的互搏性当然，要培养出鉴赏AI的技能，多少还是需要我们训练训练自己的大脑模型的。那如果不善于此的朋友，想要判断眼前的作品是否是AI造物呢？ AI技术自己带来的造假难题，也该由AI自己的同僚互鉴打假来解决。现在已有不少网站在做这件事情，通过对大量的图片数据的抓取和分析，给出对画作属性的判断可能性。例如使用AI来鉴别AI绘图性质的网页：ILLUMINARTY（https://app.illuminarty.ai/）。但在测试过程中，有些结构严谨的真实摄影作品，反而会被识别为AI作图。这跟我们前面提到的，AI作画很难完成严谨真实的结构这一点，是相互矛盾的。鉴别的AI认为，过于严谨的图像不像是真实的人造产物。而画图的AI其实难以生成严谨的结构造型。这就是鉴定AI自身的逻辑算法，并不能像人类一样综合去考虑不符合人的逻辑的各种表现。多试几张，就能磕着瓜子看AI吵架了。甚至作长者摇头抚须状，长叹一声，「AI后生们，还有很长的路要走啊。」我们看完AI显眼包的快乐丢撵后，来聊聊「我们为什么要鉴别AIGC」？已经「知其然」，也大略「知其所以然」，而后终于能顺势讨论讨论「知何由以知其所以然」。鉴别AIGC的需求当我们开始考虑为什么要鉴别AIGC的时候，我们实质上已经站在了一个观察当下的社会角色对AI技术冲击的反应的视角。各方「何由」各异，鉴别AIGC的需求也就各不相同。技术出身的朋友谈为什么要鉴别AIGC。他们多是出于对AI产物的底层逻辑的追溯兴趣，会更多地关心AI作品的性质鉴别能不能通过数据检测等计算机手段来实现。进而能够应用于成熟的鉴别应用，创造收益。产业领域的朋友谈为什么要鉴别AIGC。作为AI技术冲击的首当其冲者，他们最先面对的就是AI加入到工作流后，劳工性质和收益比受到重新判定的挑战。资本们指着拿它当号角，降本增效，一键裁员。打工人们希望看清它甚至驾驭它，以求闪躲这追魂夺命的「被优化」命运。所以大家都铆足了劲去鉴别它的真伪，拉锯它在工作中代替的人力和效能。法律背景的朋友谈为什么要鉴别AIGC。参与到Talk中的律师朋友认为，鉴别AIGC是十分有意义的，它将直接影响未来有AI参与的一切作品的著作权法律判定。同时，著作权存在的意义是以法律笔戈为限，规避他人非法使用自己作品的风险。只有在发生侵权事件的基础上，追溯作品性质，才是有意义的。而在首例AIGC侵权案件悬而未决的当下，判定AI作品中的人的智力投入占比，成为了大家都在热议的重点。论及智力投入占比，就要讨论AIGC创作是否具有独创性？有的人把它类比为摄影，虽然是相机作为机器拍摄下影像。但仍然需要人付出取景、调设参数、后期处理等智力工序。AIGC过程中的设置提示词、调整模型参数和后期迭代图像等，与之类似。AI作画的结果不可控的特点，也和摄影出片的不可控因素十分相似。那摄影作品是人类公知层面上的具有独创性的作品，AIGC创作，是否也会沿着这条路线逐渐稳定下来？我们出于欣赏美好视觉作品的平和视角，那无论这个作品是人工绘制还是AI生成的，我们都乐意动动发财小手，为它点个赞。但当这个场景放到工作产出中，假设使用了AI生成的VI素材，会导致整个项目的劳务报价骤降40%，那鉴别AIGC，为自己的劳动成果验明正身，就是不可或缺的刚需了。再比如放在设计领域，可视化产出是一种交流刚需，设计师用它们来快速沟通灵感和方案。而如果在教育教学过程中，设计专业学生由于无差别地应用AIGC来替代手绘训练，那极有可能造成他们在需要快速表达的场景里，直接缺失这项技能。因此，教师也十分需要具备对AIGC鉴别的认知能力，要判断当前的教学场景是否适用于引入AI技术，要明晰学生在课程中的产出训练是为了培养何种能力，进而才能游刃有余地处理学生产出中AI成分的占比是否需要教育干预。我们聊了各个行业的场景和看法，更加肯定了一个观点，「工具本身是无属性的」。 AI 工具爆发至今，并没有应用行业上的壁垒。在我们尚未明确它的应用场景和约束条件的这一混沌时期，大家会理所应当地想要尽可能地使用它。于是横跨工作、兴趣、生活的方方面面，都有AI强势介入的趋势。但此时，边界未明的局限视角，也让我们很难在短时间内判别AI到底该在什么场景里用到什么样的程度才是最有益的。这个过程中，就难免出现诸多矛盾。随着工具的边界逐渐固定，人的鉴别能力和重新适应的生产力布局，也会带来边际效益的快速回弹。这时候，AI才能真的脱离妖魔化和泛神化，被更好地利用起来。彼时，我们期待一个从「人们吵吵嚷嚷」「AI互搏打架」「人与AI斗智斗勇」的群魔乱道场面中应运而生的AI蓬勃时代能够稳定向前，长足发展。「魔高一尺，道亦高一尺。」左右互搏才是天下武功延续之本。武功如此，AI 也是如此。本篇介绍了一些通过画面风格、物品bug等细节，辨别图像是否是AI生成的若干方法。当然，就在我们完成这篇经验帖的同时，AI也在飞速地修正这些做图bug。每一分钟，这份帖子所提供的方法，可能都在失效。AI在不停学习…… 本篇介绍了一些通过画面风格、物品bug等细节，辨别图像是否是AI生成的若干方法。当然，就在我们完成这篇经验帖的同时，AI也在飞速地修正这些做图bug。每一分钟，这份帖子所提供的方法，可能都在失效。AI在不停学习…… 引入：名画造假大师我们曾经在小红书、B站等自媒体平台上发布了以「AIGC鉴别」为话题的图文，以真迹混同 AI 仿品的形式，让大家来判别哪张图才是列宾、穆夏等名家真实绘制的作品。在这场「鉴赏」中，我们发现—— 大家对「判断出哪幅图是AI搞的」这件事上，都有一种近乎直觉的感受。 “这个一眼AI。” 但如果进一步询问是怎么看出来的，多半很难迅速回答出一套章程，来描述或者解释为什么只需要「看一眼」，就能辨别真伪。所以我们系统地总结了「AIGC鉴别」经验帖。聊聊如何一眼盯真，两眼打假。列宾与穆夏伊利亚·叶菲莫维奇·列宾，是沙俄乌克兰的著名现实主义画家，巡回展览画派的主要代表人物。列宾创作了大量的历史画、风俗画和肖像画，其作品大多表现了人民的贫穷苦难及对美好生活的渴望。历史画风俗画阿尔丰斯·穆夏，其作品吸收了日本木刻对外形和轮廓线优雅的刻画，有着拜占庭艺术华美的色彩和几何装饰效果，以及巴洛克、洛可可艺术的细致而富于肉感的描绘。他的画面常由青春美貌的女性和富有装饰性的曲线流畅的花草组成。图为列宾肖像图为穆夏肖像图为列宾肖像图为穆夏肖像列宾、穆夏等艺术史上的著名画家的作品，因其画作风格鲜明突出，很适合用作AI生图的风格参考。我们挑选了列宾关于伏尔加河沿岸人文的主题油画进行AIGC延伸，基于他的真迹「伏尔加河上的纤夫」，让AI生成了「伏尔加河上的海盗」「伏尔加河上的商人」「伏尔加河上的帮工」等三幅列宾仿画。又挑选了穆夏的「遐想」「四季」等代表作，生成了共计12幅穆夏仿画。依赖艺术知识储备我们在鉴别过程中发现，如果只是单纯聚焦于把列宾真正描绘过的「纤夫」们从乌泱泱地挤在伏尔加河边上的「海盗、商人和帮工」的人堆里翻出来，又或是辨明穆夏到底亲自画过哪几位丰腴动人的美女，那得出结论的难度并不高。有的人根据对名画本身风格的了解，做出了选择；有的人能看懂画质与笔触的表现力，一眼识破。尤其对稍稍涉猎过艺术史与设计史论的朋友们来说，这完全是一种调用基础知识储备的操作。细节决定成败但当我们把鉴别和名家分开之后，只是单纯判断这幅作品是出自「人类」之手，还是出自AI算法。那鉴别的手段，就从名画知识储备和了解程度，变成了对画面内容的单纯判断。这时候，往往是「细节决定成败」。比如，在「伏尔加河上的帮工」这幅AI列宾中，人物主体的肢体明显存在异常。又比如，穆夏组中，只有真迹才能表现出穆夏所创作的商业招贴画中严谨连续的背景花纹和顺次排列的底纹文字信息。经验：哪些bug出卖了AI？虽然「一只手上能长7根手指」这种大bug，早在去年冬天，就随着 AIGC 的深度学习进化，变成了迅速消失的老黄历。但AI在飞速迭代和学习过程中，仍然无法避免地保留了一系列独属于 AI 的画面 bug 特征。虽然「一只手上能长7根手指」这种大bug，早在去年冬天，就随着 AIGC 的深度学习进化，变成了迅速消失的老黄历。但AI在飞速迭代和学习过程中，仍然无法避免地保留了一系列独属于 AI 的画面 bug 特征。 1. AI是文盲 AI作画很难画出具有明确意义的字符信息第一眼——字符信息无意义 AI作画很难画出具有明确意义的字符信息第一眼——字符信息无意义这源于 AIGC 的底层逻辑基于diffusion扩散模型，它就仿佛一个手握万千题库（图像语料），但从来没上过人类学校的转校生。它只能根据提示词给自己布置一个大略的模糊画面，然后通过「扩散」来广泛参考手里掌握的各种人类作品，重组并降噪，从而得到一幅崭新的画作。但它并不能理解题库中的东西有什么意义。图为AIGC假装写了字的招牌图为AIGC大概糊弄的纹样符号图为AIGC假装写了字的招牌图为AIGC大概糊弄的纹样符号因此，就会出现「看不懂学霸写了啥答案，所以照着那样子画了个鬼画符上去糊弄一下」的学渣操作。这种操作逃得过「扫一眼」，但绝对经不起老师再看第二眼。 2. AI学不好解剖 AI作画很难正确表现人造物品的结构第二眼——人造物品错结构 AI作画很难正确表现人造物品的结构第二眼——人造物品错结构 AI对饰品等人造物的塑造上，只能呈现出一种「大概齐整」的感觉，但细看是无法表现出符合造物本体应有的结构的。同样的情况也出现在机械、房屋等人造物的结构表现上。图为AIGC的“粗制”耳环：结构不对称，非标准几何图为AIGC盖的一准会塌房的建筑图为AIGC老是造不明白的机械结构图为AIGC的“粗制”耳环：结构不对称，非标准几何图为AIGC盖的一准会塌房的建筑图为AIGC老是造不明白的机械结构衣物褶皱在AI作画中也是一大破绽。无论是手绘画作和摄影作品，人们都会力求尽量真实地展现衣褶的走势。而AI作画对衣褶的处理，常是不符合服装材料应有的物理走势的。它对「衣褶」的理解仍然建立在：我抄的所有作业中都说这个地方要有重叠的线条和层次，那我也要有吧的模仿中。当然，仿道亦得高手，AI目前已经能在第一眼视觉印象中，塑造较为合理的结构了。这需要我们进一步放大画面去查证物品结构细节。 3. AI喜欢猫头鹰头猫头鹰 AI作画间或出现画面内容交叠第三眼——画面内容瞎糊弄 AI作画间或出现画面内容交叠第三眼——画面内容瞎糊弄 AI在有人物、物品、环境等多种需要表现的画面内容时，有时会出现手忙脚乱全放上的操作。这时候就难免出现人物物品混一起、你缺胳膊我多腿、前后景难舍难分等内容交叠情况。在这种甭管有啥菜通通摆上来的AI做饭中，经常出现物品的质感不符合人的真实感受、不同的元素被折中表现在了一个物体上、等等。人物的发丝和后景的花朵交融到了一起被识别成为了花瓣的呆毛人物的发丝和后景的花朵交融到了一起被识别成为了花瓣的呆毛说猫毛谁是树叶猫头猫头鹰说猫毛谁是树叶猫头猫头鹰 4. AI喜欢啥都抄一点 AI作画的画质画风偶尔会蹦迪波动 AI作画的画质画风偶尔会蹦迪波动我们会称呼人类画师为小白、高手、太太、巨匠。这越来越「大」的称呼，也代表了越画越好的画师，其作品质量大多是稳定向上地持续发展着。

在小宇宙note 阅读完整内容