快讯｜欧盟《人工智能法案》，已通过谈判

快讯｜欧盟《人工智能法案》，已通过谈判 快讯｜欧盟《人工智能法案》，已通过谈判 Modified December 10, 2023 📣 原创 于梦圆 于梦圆Lawyer 2023 12 09 16:17 发表于北京 https://mp.weixin.qq.com/s/1twwNp9g5SPaitzZQ7dzhQ 面对在新的一年选举活动前达成协议的压力，在经历了在布鲁塞尔为期三天，长达37个小时的谈判后，来自欧盟27个成员国的谈判代表终于在当地时间2023年12月8日（也就是昨天），通过了这项《人工智能法案》，该法案仍需经历12 24个月的立法程序方可生效。 一、关于欧盟《人工智能法案》欧盟一直是全球最领先的人工智能监管体系建立者之一，2018年，欧盟建立人工智能高级专家小组，着手起草《人工智能法案》，2021年，欧盟发布《人工智能法案（草案）》，2023年6月，欧洲议会通过了《人工智能法案（草案）》，昨天，欧盟谈判代表投票通过了《人工智能法案》。 与此同时，美国国会在经历数月的听证会、研讨会后，至今仍处于人工智能立法的早期阶段。本周，参议院发表声明，华盛顿将采取一种更加宽松的方式，鼓励人工智能在美的技术发展。 此前，奥特曼曾遍访世界各国首脑，游说各国政府淡化人工智能监管，并曾声称，若欧盟《人工智能法案》监管过严，将有可能退出欧洲市场。 二、欧盟《人工智能法案》要点解读 1、风险等级与分级管理欧盟《人工智能法案》开创性地提出了“分级管理”的监管思路，根据目前流出的信息，欧盟《人工智能法案》将AI产品划分为四个风险等级，每个风险等级都规范了具体应用类别，以及相应的监管措施：a. 不可接受的风险（完全禁止）b. 高风险（投放前严格管控，履行安全评估义务，活动记录可追溯）c. 有限风险（透明义务）d. 极低风险（不做干预）这一部分非常重要，也在草案发布后几经修改，正式文件发布后，我们将进一步拆分解读。2、通用模型限制与开源模型豁免 尽管受到了以法国为首的反对，此次谈判最终还是确定了欧盟对于大型、强大的通用模型的部分限制，包括但不限于：通用模型公司必须起草技术文件；遵守欧盟版权法；对训练数据做详细说明；构成“系统性风险”的通用模型的额外审查等。（约等于为OpenAI量身定做） 同时，为争取法国与德国的支持，《法案》最终也通过了对于开源模型的广泛豁免。3、责任主体的细分《法案》进一步将“经营者”拆分为“提供者、授权代表、分销商、进口商、部署商”等主体，明确了在不同风险下，各类经营者应当具体承担何种义务。 4、高额罚款不遵守规定的公司，将被处以最高3500万欧元或全球营业额7%的罚款。 5、本次谈判的主要分歧点本次谈判的主要分歧点在于，是否应该允许执法部门使用面部识别或其它类型的生物识别技术来实时/回顾性地识别人员身份。 这一点在此前公布的《人工智能法案（草案）》中，被列为“不可接受的风险”而被严格禁止，在此次谈判中，该条款最终因打击儿童性犯罪与恐怖袭击等恶性案件的理由而得到部分豁免。 三、《法案》将对我国AI监管产生何种影响？ 我国与欧盟对于人工智能立法的工作一直以来处于“齐头并进”的态势，遥遥领先于其余各国，双方的立法理念也不难看出有共通之处，尤其体现在风险分级管理、高风险项目的“备案”、“评估”、“透明”等原则，均在《生成式人工智能服务安全基本要求》、《人工智能法1.0（专家意见稿）》等相关法律法规中已有所体现，此次欧盟的《人工智能法案》也必将对我国人工智能立法工作具有重要参考意义。 同时，如果AI项目有意拓展欧洲市场，由于针对不同市场重新训练特有模型的效率不高，将因“木桶原理”而不得不根据欧盟《人工智能法案》而对产品进行调整。四、总结监管过严，则技术发展不畅，监管过松，则乱象丛生。但监管势在必行，毕竟技术侵染的土壤后留下的烂摊子，最终依然是政府出面收场。 马老师曾经说过，战胜AI最好的办法是先掌握AI，关注监管动态，是为了稳步跑赢落在最后的那个人，为此你可以关注这个公众号，还可以扫码添加我的微信，找我喝个咖啡。 📣 原创 于梦圆 于梦圆Lawyer 2023 12 09 16:17 发表于北京 https://mp.weixin.qq.com/s/1twwNp9g5SPaitzZQ7dzhQ 原创 于梦圆 于梦圆Lawyer 2023 12 09 16:17 发表于北京 https://mp.weixin.qq.com/s/1twwNp9g5SPaitzZQ7dzhQ 面对在新的一年选举活动前达成协议的压力，在经历了在布鲁塞尔为期三天，长达37个小时的谈判后，来自欧盟27个成员国的谈判代表终于在当地时间2023年12月8日（也就是昨天），通过了这项《人工智能法案》，该法案仍需经历12 24个月的立法程序方可生效。 一、关于欧盟《人工智能法案》欧盟一直是全球最领先的人工智能监管体系建立者之一，2018年，欧盟建立人工智能高级专家小组，着手起草《人工智能法案》，2021年，欧盟发布《人工智能法案（草案）》，2023年6月，欧洲议会通过了《人工智能法案（草案）》，昨天，欧盟谈判代表投票通过了《人工智能法案》。 与此同时，美国国会在经历数月的听证会、研讨会后，至今仍处于人工智能立法的早期阶段。本周，参议院发表声明，华盛顿将采取一种更加宽松的方式，鼓励人工智能在美的技术发展。 此前，奥特曼曾遍访世界各国首脑，游说各国政府淡化人工智能监管，并曾声称，若欧盟《人工智能法案》监管过严，将有可能退出欧洲市场。 二、欧盟《人工智能法案》要点解读 1、风险等级与分级管理欧盟《人工智能法案》开创性地提出了“分级管理”的监管思路，根据目前流出的信息，欧盟《人工智能法案》将AI产品划分为四个风险等级，每个风险等级都规范了具体应用类别，以及相应的监管措施：a. 不可接受的风险（完全禁止）b. 高风险（投放前严格管控，履行安全评估义务，活动记录可追溯）c. 有限风险（透明义务）d. 极低风险（不做干预）这一部分非常重要，也在草案发布后几经修改，正式文件发布后，我们将进一步拆分解读。2、通用模型限制与开源模型豁免 尽管受到了以法国为首的反对，此次谈判最终还是确定了欧盟对于大型、强大的通用模型的部分限制，包括但不限于：通用模型公司必须起草技术文件；遵守欧盟版权法；对训练数据做详细说明；构成“系统性风险”的通用模型的额外审查等。（约等于为OpenAI量身定做） 同时，为争取法国与德国的支持，《法案》最终也通过了对于开源模型的广泛豁免。3、责任主体的细分《法案》进一步将“经营者”拆分为“提供者、授权代表、分销商、进口商、部署商”等主体，明确了在不同风险下，各类经营者应当具体承担何种义务。 4、高额罚款不遵守规定的公司，将被处以最高3500万欧元或全球营业额7%的罚款。 5、本次谈判的主要分歧点本次谈判的主要分歧点在于，是否应该允许执法部门使用面部识别或其它类型的生物识别技术来实时/回顾性地识别人员身份。 这一点在此前公布的《人工智能法案（草案）》中，被列为“不可接受的风险”而被严格禁止，在此次谈判中，该条款最终因打击儿童性犯罪与恐怖袭击等恶性案件的理由而得到部分豁免。 三、《法案》将对我国AI监管产生何种影响？ 我国与欧盟对于人工智能立法的工作一直以来处于“齐头并进”的态势，遥遥领先于其余各国，双方的立法理念也不难看出有共通之处，尤其体现在风险分级管理、高风险项目的“备案”、“评估”、“透明”等原则，均在《生成式人工智能服务安全基本要求》、《人工智能法1.0（专家意见稿）》等相关法律法规中已有所体现，此次欧盟的《人工智能法案》也必将对我国人工智能立法工作具有重要参考意义。 同时，如果AI项目有意拓展欧洲市场，由于针对不同市场重新训练特有模型的效率不高，将因“木桶原理”而不得不根据欧盟《人工智能法案》而对产品进行调整。四、总结监管过严，则技术发展不畅，监管过松，则乱象丛生。但监管势在必行，毕竟技术侵染的土壤后留下的烂摊子，最终依然是政府出面收场。 马老师曾经说过，战胜AI最好的办法是先掌握AI，关注监管动态，是为了稳步跑赢落在最后的那个人，为此你可以关注这个公众号，还可以扫码添加我的微信，找我喝个咖啡。