正式报名 | 人工智能治理专家认证CAIGP™课程
  • 时间：4月20—21日（周末两天）
  • 形式：线下为主、线上同步
  • 费用：早鸟价（2024年4月10前付款）6800元，三人以上团购价单独询价
  • 地址：上海市静安区江场三路250号16号楼5层
  • 咨询：138 1664 6268，[email protected]
  • 扫描二维码索取报名表，并于4月10日前缴费
来源：EU Ombudsman官网
简评：前两天欧盟委员会被EDPS认定使用Microsoft 365违反数据保护法并责令整改，现在又被EU Ombudsman询问其使用AI进行决策的情况。
欧盟对公权力的监督做得还真不错。
背景知识：欧盟监察员（EU Ombudsman，以下简称“监察员”）是负责调查欧盟机构行政不当行为的机构，旨在确保欧盟机构在行使职权时遵守法律和公平原则，维护欧盟机构的透明度和公正性，以增强公众对欧盟决策过程的信任。监察员接受来自欧盟公民、企业和其他组织的投诉，并进行独立调查，现任监察员为Emily O'Reilly。
一、概述[1]
监察员已致函欧洲委员会，询问其如何在决策中如何使用AI。
监察员指出，尽管AI的快速发展可以提高工作的质量和效率，但其在准确性、潜在偏见、可解释性以及人类监督方面带来了重大挑战。其还强调，公共行政部门必须确保AI仅协助人类进行决策，而不是取代人类。
监察员对委员会的问题集中在三个特定领域的AI使用：
-公众反馈分析
-发现可能违反欧盟竞争规则的行为
-处理投诉
关于这些领域，其询问了委员会有关任务自动化、如何使用AI进行决策、如何确保使用AI进行决策的透明性及可问责性。
监察员要求委员会在2024年6月14日之前回复。
二、信函原文[2]
尊敬的欧盟委员会主席，
AI所带来的快速发展将对公共行政部门产生巨大的影响。AI系统已经在开发或引入过程中，以帮助公共行政部门提高其所提供服务的质量和效率。除分类和排序、翻译和编辑以及研究等任务外，AI还将通过分析数据甚至提出解决方案或政策选项，在更复杂的决策中发挥作用。
当涉及到直接影响公众的决策时，AI在结果的准确性、潜在偏见、可解释性以及人类监督方面也带来了重大挑战。
因此，欧盟行政部门应以透明方式引入AI，并允许进行充分的审查。公众应该能够验证行政部门已经进行了适当的尽职调查，部署AI的决定涉及了所有相关方，并且已经建立了基于经验审查这些AI系统使用的程序。同样至关重要的是，欧盟机构确保AI支持其执行任务，而不是在影响公民的决策中完全取代他们。到目前为止，这些均是欧洲监察员网络成员在检查国家层面AI使用时遇到的问题。
在此背景下，我决定启动一项战略性倡议，收集欧洲委员会（作为最大的欧盟机构）如何应用AI进行决策以及在工作中使用类似先进信息技术的信息。该倡议还旨在提高人们对确保在引入、实施和监控这项技术决策过程中对可问责性的认识。
欧盟委员会最近发布了一份关于“欧盟委员会中的人工智能”的通讯。[3] 其中，委员会分享已部署AI系统的重要信息，还表示正在进一步开发和测试相关AI系统。我非常欢迎向公众提供更多信息的第一步努力。
在我看来，委员会概括性描述的三个系统对于公众享受良好行政权利的重要性：
- 公众反馈分析：似乎这项工具可能让欧盟公民更有效地向委员会传达他们对预期政策提案的看法，我对此表示欢迎。同时，我想了解更多关于委员会如何评估并计划解决部署此类工具可能带来的潜在风险，例如对欧盟特定政策选项支持程度感知的操纵行为。
- 竞争案件管理：这个工具旨在提高委员会发现对欧盟内部市场影响最大的竞争规则违规行为的能力。同时，委员会需要保护其调查不受任何错误、偏见的影响，以及保护相关人士的程序性权利。
- 投诉处理：如您所知，我们处理对于委员会的违规处理投诉相关的投诉。（编者注：有点绕，大概意思就是民众可以去监察员那边投诉委员会违规处理投诉等违规行为）我非常想了解委员会计划如何确保防止“自动化偏见”，以免投诉处理人员过度信任AI提出的解决方案。确保每一项投诉都由人类决策者以足够的关注来处理，不应因为自动化而错误决策。
委员会在自动化方面已经拥有丰富经验，并计划在工作中大幅扩展AI工具的使用。如您回复本信函时，能更详细地描述目前计划的公众反馈分析、竞争案件管理和投诉处理工具的功能，我将不胜感激。
同时，如果能提供委员会打算如何确保引入和监控这些应用程序使用的透明性和可问责性的信息也将非常有帮助（具体问题详见附件）。
我希望能在2024年6月14日之前收到委员会对相关问题的回复。我还想安排我的调查团队与委员会代表进行讨论，以解决上述问题中的一些额外疑问。我希望这次会议能在2024年6月或7月举行。
鉴于此战略性倡议的目标之一是提高欧盟行政部门如何使用或计划在其工作和决策中使用AI的透明度，我计划公开您的回复。但是，如果您认为回复中的某些信息是机密的，请明确标记，并尽可能将其包含在一个单独的附件中。
如果您需要关于这一倡议的任何进一步信息或澄清，请与负责的调查官Michał Krajewski先生联系。
此致，
Emily O'Reilly
欧洲监察员
于斯特拉斯堡，2024年3月15日
三、具体问题
附件
技术功能和任务自动化
1) 委员会计划用于分析公众反馈、竞争案件管理和支持投诉处理的工具将有哪些具体功能？这些工具将执行哪些特定任务，以及它们将如何支持人类的决策？
2) 使用这些工具对享受良好行政权利可能产生的普遍风险是什么，如何解决这些风险？
如何使用AI进行决策
3) 委员会将如何决定使用这些工具？由哪个内部机构做出决策（例如，是否会涉及委员会全体委员）？委员会将如何决定批准使用这些工具的程序？
使用AI进行决策的透明度
4) 这些工具的哪些信息已被公开？委员会是否计划公开更多信息？
5) 委员会是否已经咨询或计划咨询任何其他欧盟机构或欧盟行政部门之外的利益相关者（例如，代表特定群体利益的团体、民间社会组织、更广泛的公众咨询）关于这些AI工具的引入或进一步开发？
使用AI工具的可问责性
6) 在这些AI工具的使用过程中（通常情况以及个别案例）的透明度和可解释性如何？
7) 人类决策者如何切实验证这些工具的输出？
8) 委员会是否会定期监控这些工具的实际应用情况，以及委员会内部哪些实体将监督这一点？
四、引注
[1] https://www.ombudsman.europa.eu/en/news-document/en/183633
[2] https://www.ombudsman.europa.eu/en/opening-summary/en/183503
[3] https://commission.europa.eu/system/files/2024-01/EN%20Artificial%20Intelligence%20in%20the%20European%20Commission.PDF
学习数据合规，必买DPOHUB年卡
继续阅读
阅读原文