本文将从欧盟AI法案核心内容入手,分析其与新能源汽车行业的关联性,探讨该法案对中国新能源汽车出口及本地化生产的法律影响。
一、 欧盟《人工智能法案》(AI法案)概述
(一)该法案由欧盟委员会(European Commission)于2021年4月21日提出,并在2024年3月13日通过欧洲议会(European Parliament) 审议。最终,该法案于2024年8月2日正式生效,并设定了不同阶段的实施时间表,最早的一部分条款将于2025年2月2日开始适用,所有高风险AI系统的合规要求则将在2027年8月2日全面生效。
(二)AI法案的目标
AI法案的主要目标包括为确保AI系统的安全性和透明度,特别是在人类健康、安全、基本权利和环境方面,防止AI滥用。促进AI的创新和发展,鼓励企业在合规框架下进行AI研发,避免因过度监管抑制创新,增强公众对AI的信任。通过设立明确的AI安全和道德标准,减少社会对AI技术的不信任感。同时维护欧盟的数字主权,减少对非欧盟AI技术的依赖,并确保AI系统符合欧洲的价值观和法律体系。
(三) AI法案的核心监管框架
AI法案采用基于风险的分级监管模式,根据AI系统对社会和个人权利的潜在影响,将其划分为四个风险等级,并适用不同的监管要求。
(1)不可接受风险(Unacceptable Risk)
此类AI系统被认为对社会构成严重威胁,因此在欧盟境内全面禁止。主要包括:基于生物特征进行个人分类(如种族、宗教、政治倾向识别);用于工作场所或教育机构的情绪识别技术;社会信用评分系统(如类似于政府级别的社会信用体系);公共场所的实时远程生物识别系统(除特定执法场景外);旨在隐性操控人类行为的AI系统。
(2)高风险(High Risk)
此类AI系统对社会具有重大影响,因此需要严格的合规要求。包括:关键基础设施(能源、电网、交通控制系统);医疗健康(如AI辅助医疗诊断、疾病预测);招聘与人力资源管理(如自动筛选候选人、面试评估系统);执法与司法(如犯罪预测分析、AI审判辅助工具);边境管理(移民审查系统、人脸识别出入境管理);教育与职业培训(如AI评分系统、学术录取筛选)。
(3)受限风险(Limited Risk)
此类AI系统对社会影响较小,但仍需符合透明度要求。如聊天机器人(Chatbots),企业必须向用户明确告知其为AI交互,而非真人。AI生成的深度伪造内容(Deepfakes)必须明确标注“AI生成”以避免误导公众。推荐系统(如新闻推荐、视频推荐、社交媒体算法)等应赋予用户选择权,允许关闭个性化推荐。
(4)低风险(Minimal Risk)
此类AI系统对社会影响极低,欧盟对此类系统不施加额外监管。如电子邮件垃圾邮件过滤器;音乐、电影、书籍推荐系统。
二、 AI法案对新能源汽车行业的影响
欧盟《人工智能法案》将对新能源汽车行业,特别是智能网联汽车和自动驾驶技术产生重大影响。新能源汽车的核心竞争力之一是智能化和自动化技术,包括自动驾驶系统、智能座舱、驾驶辅助、车联网等,而这些技术通常涉及AI算法,因此受到AI法案的直接监管。
尽管目前尚未有车企明确因《欧盟人工智能法案》而对技术路线进行全面调整的公开声明,但已经开始为未来的监管做一些应对举措。例如,大众汽车集团(Volkswagen Group)已建立人工智能治理框架,用以评估其高级驾驶辅助系统(ADAS)和自动驾驶模块的风险等级,以符合AI法案的要求;梅赛德斯-奔驰(Mercedes-Benz)为响应法案对“可解释性”的强调,公司正在开发具备可解释性的AI驾驶辅助系统,确保其决策过程清晰可追溯;宝马(BMW)已对其所有AI支持系统进行内部合规审查,确保其系统的风险分类及合规程度符合欧盟现行及即将施行的法规。
新能源汽车中的AI应用主要涉及以下几个方面:
1.自动驾驶系统(Autonomous Driving)
L2+级别及以上的自动驾驶技术均涉及AI决策系统,如深度学习、计算机视觉、强化学习等。
技术实现方式:
环境感知技术:基于激光雷达(LiDAR)、摄像头、毫米波雷达等传感器,采集道路、障碍物、行人等信息。
路径规划与决策系统:通过机器学习与深度强化学习算法对交通环境做出路径规划和行驶决策。
控制系统:将高阶感知与决策结果转化为具体车辆操作指令(如加速、制动、转向)。
为何被列为高风险?
根据AI法案附录III,自动驾驶属于“管理个人出行和行为的重要系统”,涉及交通安全、生命健康风险,一旦算法判断失误将导致严重后果,因而属于高风险AI系统,须满足如下合规义务:
实施基本权利影响评估(Fundamental Rights Impact Assessment)
建立透明可解释机制
保留系统日志与运行记录
强化人工监督(human oversight)
2. 智能网联系统(V2X, Vehicle-to-Everything)
智能网联系统包括智能导航、AI语音助手、智能驾驶辅助(ADAS)等功能。
技术实现方式:
V2V/V2I通信:车辆与其他车辆(V2V)或基础设施(V2I)之间实时数据交换,如交通信号、事故预警。
车载智能终端:实时接入云平台,进行远程故障诊断、OTA升级等操作。
智能语音与车载AI助手:通过自然语言处理(NLP)和语音识别为驾驶者提供交互功能。
为何被列为高风险?
若系统设计包含对行为的预测、语音/图像数据的采集与分析、对驾驶员生理状态的监控,则可落入AI法案第6条第2款及附录III第2、6、7类所列的高风险情形,特别是在:
生物识别
个体状况评估
情绪识别与行为干预
3. 智能安全系统(AI-Enhanced Safety Systems)
包括AI识别驾驶员疲劳、危险感知、碰撞预警等。
技术实现方式:
驾驶员监测系统(DMS):通过人脸识别、眼动追踪等方式判断驾驶员疲劳、注意力分散等状态。
AI碰撞预警与主动制动系统(AEB):基于图像识别与深度学习判断碰撞风险并自动采取制动措施。
乘客识别与舱内行为检测:识别乘客人数、是否系安全带、儿童是否留在车内等行为。
为何被列为高风险?
这些系统通常涉及生物识别数据处理与关键场景中的自动决策能力,构成对生命安全的直接影响,因此根据附录III第1类(生物识别识别)、第2类(关键基础设施)、第7类(安全部件)被视为高风险系统。
4. AI驱动的数据分析与优化(AI-based Analytics & Optimization)
主要用于优化电池管理系统(BMS)、预测性维护等。
技术实现方式:
能耗优化算法:通过AI实时分析驾驶行为、地理环境等因素优化能耗与续航。
电池健康管理系统(BMS):使用机器学习模型对电池寿命与性能进行预测与管理。
预测性维护:基于车辆使用数据预测部件故障与维护时间。
为何可能被归入高风险?
虽然此类AI系统多数不涉及直接控制行为,但一旦被应用于安全相关的场景,如电池热失控预测、制动系统预警等,将被归类为**“作为产品安全组成部分的高风险AI系统”**(附录III第1条、第7条)。此类系统的准确性直接关系到人身与财产安全,受到严格监管。
三、AI法案对中国新能源汽车出口与在欧建厂的挑战
1.欧盟市场准入门槛提高。中国新能源汽车若想进入欧盟市场,必须符合AI法案对高风险AI系统的合规要求,否则可能被禁止销售。例如,搭载L3及以上自动驾驶功能的车型,需要通过额外的合规审核,并可能面临延长的上市周期。
2.供应链和数据监管风险。AI法案要求所有高风险AI系统的数据处理和存储必须遵守欧盟数据保护法规(GDPR),这可能会影响中国新能源汽车企业的数据跨境传输策略。如果某些关键软件或AI模块在中国开发但未通过欧盟合规审查,可能会影响整车的出口。
3.增加企业合规成本。中国车企在出口至欧盟前,需建立AI合规体系,确保AI算法符合欧盟透明度、可解释性和安全性标准,这将增加企业的研发和合规成本。
4.推动本地化运营。中国车企可能需要在欧洲设立研发中心或AI实验室,以便更好地满足欧盟的合规要求。与本地合作伙伴(如欧洲自动驾驶企业)建立合资或技术合作关系,可能成为符合AI法案的有效途径。
四、未来新能源汽车行业如何应对AI法案的挑战?
面对AI法案带来的监管挑战,新能源汽车企业可采取以下应对措施:
1.建立AI合规管理体系。设立专门的AI伦理与合规部门,确保产品符合欧盟法规;开展AI风险评估和影响分析,避免使用“不可接受风险”的AI功能。
2.优化数据处理策略。采用数据本地化存储策略,确保欧盟市场的数据处理符合GDPR规定。对AI算法透明度进行优化,提高决策的可解释性,以满足欧盟监管要求。
3.加强与欧盟机构合作。与欧盟汽车监管机构、AI审查机构合作,确保AI产品能顺利进入市场。同时与欧洲本地AI企业和学术机构建立合作,提升本地合规能力。
4.推动欧盟本地化制造。AI法案可能促使中国车企在欧洲设立制造和研发基地,以减少跨境数据合规的难度。
5.提升AI安全性和可解释性。采用符合欧盟标准的AI伦理原则,确保AI系统不会带来隐私风险或安全威胁。开发更透明、可解释的自动驾驶和智能系统,以符合AI法案的技术标准。
参考:
https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:52021PC0206
https://www.europarl.europa.eu/news/en/press-room/20240308IPR20404
https://eur-lex.europa.eu/resource.html?uri=cellar:f23eec7c-a3f7-11eb-9585-01aa75ed71a1.0001.02/DOC_1&format=PDF
https://assets.kpmg.com/content/dam/kpmg/cn/pdf/zh/2023/06/china-s-new-energy-vehicles-in-europe.pdf
https://www.fxiaoke.com/crm/information-70994.html
https://m.thepaper.cn/newsDetail_forward_29317997