今天是Olina陪你的第3231天
第2061章
Olina
持续日更
努力的创业者
陪你一起在路上
前几天，欧盟议会批准了世界上第一套针对AI的监管法案。据欧盟议会官方网站介绍，议会批准了《人工智能法案》，该法案于2023年12月与成员国谈判达成一致，并在欧洲议会议员中以523 票赞成、46票反对、49票弃权的结果获得通过。
据了解，该法案的目标是保护人们的基本权利免受高风险人工智能的影响，同时促进创新，让欧洲成为人工智能领域的领导者。
欧洲议会主席Roberta Metsola（罗伯塔·梅索拉）称该法案具有开拓性，将促进创新的同时保障人们的基本权利。监管规则获批后，罗伯塔·梅索拉在其个人社交媒体账号上表示，“人工智能已经成为我们日常生活的一部分。现在，这也将成为我们立法的一部分。”
事实上，面对生成式人工智能的浪潮，欧洲在AI监管方面一直走在前列。欧盟高级官员介绍，这套法案于2021年就首次提出，2022年底OpenAI推出ChatGPT以来，其类似人类的能力令世界惊叹。为了应对生成式人工智能的挑战，欧盟一直在加紧通过新法律，以保护公民免受技术飞速发展可能带来的风险，同时也促进欧洲大陆在该领域的创新。
记者了解到，该获批人工智能法案根据风险类别，将技术分为“不可接受”“高”“中”“低”四个级别。风险越高，需要遵守的要求就越严格。例如，高风险的AI提供商在向公众提供服务之前，必须进行风险评估并确保其产品符合法律，违反规定的公司可能会被处以750万欧元至3500万欧元（820万美元至3820万美元）不等的罚款，具体金额取决于侵权类型和公司规模。
除此以外，法案还严格禁止使用AI进行预测性警务、使用生物识别信息推断个人种族和宗教、在公共场所进行实时面部识别（特殊执法情况例外，但警方在部署任何人工智能之前必须获得司法部门的批准）。
许多人士对法案表示欢迎，认为该法案是国际AI监管的一个重要里程碑，可以为其他国家提供参考与借鉴。不过，此前也有包括德国、法国等在内的欧盟国家担心来自政府部门的“扼杀性监管”可能会阻碍欧洲在科技领域与美国的AI公司竞争，拖慢技术发展进程。值得注意的是，德国和法国目前拥有Aleph Alpha和Mistral AI等全球领先的人工智能初创公司，这些公司被认为是欧洲与其他国家在人工智能领域开展竞争的希望。
据了解，该法案在通过最终检查并获得欧洲理事会的认可后，预计将于今年5月立法会结束时生效，从2025年起实施。这为AI企业留了一些时间窗口。公共政策专家马克·弗格森在接受媒体采访时表示，该法案的通过只是一个开始，企业需要与立法者密切合作，以了解随着自身技术不断发展，该法案的实施将给企业带来什么影响。
人工智能的定义与法案适用范围
《人工智能法》为人工智能的开发、市场投放（placing on the market）、交付使用（putting into service）和使用，以及通用式人工智能模型的市场投放，制定了统一的法律框架，旨在防范人工智能可能引发的有害影响，并同时推动人工智能的发展和创新。
《人工智能法》的适用对象较为广泛，包括人工智能系统的提供者、部署者、分销商、进口商和授权代表，以及通用式人工智能模型的提供者。当相关企业通过建立在欧盟之外的人工智能系统向欧盟境内提供的产品或服务涉及使用人工智能技术的，或者其产品的输出内容可能在欧盟境内被销售、使用的，均会落入《人工智能法》的监管范畴。但不同主体的适用情形又有所不同，其中以“提供者”适用情形最广。
“提供者”的概念相对宽泛，既包括开发人工智能系统或通用式人工智能模型的一方，又包括拥有人工智能系统或通用式人工智能系统并打算以自己名义将该系统投放市场或投入使用的一方。
对于提供者而言，只要（1）人工智能系统/通用式人工智能模型；（2）人工智能系统/通用式人工智能模型输出；或（3）经营场所，择一位于欧盟内，提供者均将受到《人工智能法》的监管。
《人工智能法案》第3条将人工智能定义为一种或多种技术和方法开发的软件，其能够影响交互环境的输出（如内容、预测、建议或决策），实现人为指定的特定目标。
该定义范围较为广泛，可能涵盖大量传统上不被视为人工智能的软件，不利于人工智能的发展和治理。因而，当前版本将人工智能定义限缩为“基于机器学习或逻辑和知识的系统”，旨在以不同的自主性水平运行，并且为了明确或隐含的目标，可以影响物理或虚拟环境的预测、建议或决策等输出。同时，删除了附件一和欧盟委员会修改人工智能定义的授权。《人工智能法案》虽未涉及生成式人工智能，但ChatGPT的出现使得立法者在修正案中增加了通用人工智能和基础模型的相关定义，并要求生成式人工智能遵守额外的透明度要求，如披露内容来源、设计模型禁止非法生成。
《人工智能法案》具有域外效力，适用于所有人工智能系统的提供商和部署者（无论是在欧盟还是在第三国建立的）以及所有分销商和进口商、提供商的授权代表，在欧盟建立或位于欧盟的某些产品的制造商，以及健康、安全或基本权利因使用人工智能系统而受到重大影响的欧盟数据主体。
基于风险识别的人工智能分级监管框架
《人工智能法》以风险识别为核心，建立了一套针对人工智能的分级监管框架，将人工智能系统分为不可接受的风险、高风险、有限风险和低风险四个级别，并针对不同级别的人工智能系统量身定制了不同的监管措施。
不可接受的风险
不可接受的风险由《人工智能法》第五条明确罗列，其判定依据为人工智能系统是否对人类安全、生存或权利构成显著威胁，例如利用潜意识扭曲个人或群体行为，在公共场所使用实时远程生物识别系统，通过社会行为或人格特征对自然人进行评分导致其遭受不公待遇等。
根据《人工智能法》的相关规定，企业不得在欧盟范围内提供或使用具有不可接受的风险的人工智能系统，否则将被处以最高3500万欧元或上一财年全球营业额最高7%的罚款（以较高者为准）。
高风险
高风险人工智能系统是指对于人类的健康、安全及基本权利构成重大损害风险的系统。
高风险人工智能系统是《人工智能法》的重点监管对象，《人工智能法》为其规定了一套严格的全流程风险管理措施，违反相关规定将被处以最高1500万欧元或上一财年全球总营业额3%的罚款（以较高者为准）。
高风险人工智能系统采用清单制，由《人工智能法》附件三作详细列举。如果企业认为自己虽落入附件三所载的关键领域和用例范围，但不具备高风险，则可向成员国监管机构提交一份说明，由监管机构作出进一步判定。
有限风险
根据《人工智能法》，有限风险包括以下四类：与人类互动的系统、生成合成类系统、情绪识别系统、不属于不可接受风险的生物特征分类系统，以及深度伪造系统。
《人工智能法》对于有限风险人工智能的监管要求也相对有限，主要集中在透明度义务方面。
低风险
低风险顾名思义风险程度低，典型示例包括允许自由使用AI的电子游戏、垃圾邮件过滤器等。对于低风险，由于其对用户权利和公共安全的影响轻微，该法案并未予以特殊干预。
人工智能的一般原则
人工智能的一般原则具体包括：
人类代理和监督：人工智能系统的开发和使用必须作为服务于人类的工具，尊重人类尊严、个人自主性和功能，并由人类适当控制和监督；
技术稳健性和安全性：人工智能的开发和部署应最大限度地减少意外和意外的损害，确保在出现意外问题时的稳健性以及在恶意第三方试图改变人工智能系统性能而非法使用时的弹性；
隐私和数据保护：人工智能系统必须按照现有的隐私和数据保护规则开发和使用，同时处理在质量和完整性方面符合高标准的数据保护规则；
透明度：人工智能系统的开发和使用方式必须允许适当的可追溯性和可解释性，让人类意识到他们在与人工智能系统进行通信或互动，并适当地告知用户人工智能的能力和局限性以及受影响之人享有的权利；
非歧视和公平：人工智能系统的开发和使用必须包括不同参与者，促进平等使用、性别平等和文化多样性，同时避免欧盟或国家法律禁止的歧视性影响和不公平偏见；
社会和环境福祉：人工智能系统应以可持续和环保的方式开发和使用，让所有人受益，同时监测和评估对个人、社会和民主的长期影响。
欧盟意图通过《人工智能法案》建立人工智能监管全球标准，进而使欧洲在国际智能竞争中取得优势地位。《人工智能法案》为处理人工智能系统制定了相对合理的规则，在一定程度上可以避免歧视、监视和其他潜在危害，特别是在与基本权利相关的领域。例如，《人工智能法案》列出了禁止人工智能的某些用途，公共场所的面部识别便是其一。
此外，其将确定减轻风险的控制措施整合到可能出现风险的业务部门中，能够帮助各组织了解人工智能系统的成本效益，开展合规（自我）审查明确责任和义务，最终自信地采用人工智能。但同时，《人工智能法案》在风险分级、监管力度、权利保护与责任机制等方面亦有缺陷，如其采用的是横向立法，试图把所有人工智能都纳入监管范围，而未深入考量人工智能之间的不同特性，可能会导致相关风险防范措施面临无法执行的问题。
人工智能法案之外，更加有趣的话题是，一种新的世界分工已经出现：在某一新兴领域，美国首先负责创新、中国将这种创新付诸于实践应用，而欧盟则首先立法。欧洲总是试图建立一种防御机制，防止人类滥用新型科技工具。


这种情况在此前的电动车领域已有显现。特斯拉首先将电动车推向世界（特斯拉比比亚迪更早量产电动车），随后中国数以百家的电动车公司应运而生，蔚来、理想、小鹏汽车这些后来者大有超越特斯拉之势，而欧盟则对电池、碳足迹追踪等等制定了最为详细的法律法规。


现在人工智能领域这一情况似乎又有重复：OpenAI点燃了全球对通用型人工智能的热情，而中国的BAT等诸多科技公司都已经推出了人工智能大模型产品，如今欧盟对人工智能制定了框架性的法律规则。


“这和三个地区的环境、制度和人文都有关系。”一位创业者的理解是：美国推崇创新，社会鼓励创新、包容失败，这种文化环境吸引了全球的人才，并为创新提供了肥沃的土壤。尤其对于颠覆性的、需要长期投入的创新有着绝对痴迷的追求，让创业者们和风险投资家们将这种追求付诸于实践，完成从0到1的过程。其制度上的灵活性和创新能力，能够适应变化的形势，不断调整和优化科技政策，保持创新体系的活力。


中国庞大的市场和用户群体为创新技术提供了广阔的试验场。企业和创新者能够根据市场需求快速调整和优化创新产品，实现从概念到实际应用的快速转变。不仅如此，中国拥有联合国产业分类中所列的全部工业门类，形成了从原材料加工到成品制造的完整产业链。这种全产业链的优势使得中国能够在全球供应链中发挥关键作用，尤其在应对突发事件（如疫情）时，能够快速调整和响应。由此，凭借供应链优势、巨大的单一市场和对应用场景的深入研究，中国用户往往能够获得一项新技术在全球范围内最快和最好的用户体验。


而欧盟则是“一个更为理性的地区”，他们希望更缓慢、但更正确地使用新科技工具。欧洲在立法方面具有强烈的前瞻性，倾向于主动制定规则来应对新技术可能带来的挑战和机遇，而不是被动应对。这种理念使得欧盟能够在新技术发展初期就介入立法，以法律形式规范技术发展和应用。并且，通过在新技术领域的立法，欧盟往往能够推动全球标准的制定。由于欧盟市场的规模和影响力，其他国家和地区可能会参考或采纳欧盟的法规标准，从而在全球范围内产生“布鲁塞尔效应”。


回到人工智能本身，欧盟的AI法案也仅仅是为全球建立的普适性的标准，未来各国一定会制定更为适合本国的法律法规。但是如果“美国创新、中国应用、欧盟立法”这一看似合理的世界分工形成，或许将会推动人类更为合理地进步。
点击下方您感兴趣的蓝色文字：
3·15晚会上的黑套路你中招了吗？
小米汽车，会是你的选择么？
Dior事件后马面裙卖疯了
说点击下方 “在看”
能让运气变得更好哦～
继续阅读
阅读原文