人工智能治理专家认证CAIGP™培训课程
Certifitied Artificial Intelligence Governance Professional
CAIGP聚焦如何根据全球新兴法律和标准开发、集成和部署可信AI系统。课程包括AI技术、全球法律框架、全生命周期风险管理及国际标准、可信审查最佳实践等主题。
如果您希望报名培训，或有合作意向？请加微信！
请说明姓名+单位
法国国家信息与自由委员会（以下简称“CNIL”）对亚马逊法国物流公司（AMAZON FRANCE LOGISTIQUE，以下简称“亚马逊”）处以3200万欧元罚款，原因是该公司被指控过度监控其仓库员工，并其行为数据保存时间超过必要时限。
该公司还因未经告知使用视频监控且安全措施不到位而被罚款。
亚马逊在向BBC发表的声明中表示，CNIL的调查结果“事实不准确”，并称其做法是“行业标准”。
一、要点
亚马逊管理着亚马逊集团在法国的大型仓库，负责接收和存储物品，然后为客户准备发货包裹。每位仓库员工都会被配发一个扫描器，以实时记录其被分配特定任务的完成情况（如货架上的存储或取下物品，整理或打包等）。
员工的每次扫描都会生成数据记录，这些数据被储存并用于计算指标，以提供有关每位员工的质量、生产率以及摸鱼时长的信息。
在媒体报道了公司在其仓库的做法后，CNIL进行了多次调查，还收到了员工的多项投诉。
CNIL认为监控员工活动和绩效的系统超过必要限度，尤其是出于以下原因：
  • 采用了跟踪员工扫描器非活动时间的指标。CNIL裁定，建立如此精确测量工作中断检测系统是非法的，可能导致员工对每次休息或中断进行解释。
  • CNIL裁定，建立检测物品扫描速度过快的系统是超出必要性的。基于物品被迅速扫描会增加出错风险的原则，一个指标测量了物品是否在前一次扫描后不到1.25秒内被扫描。
  • CNIL还认为保留系统收集的所有数据以及由此产生的统计指标，对所有员工和临时工，为期31天，是远超必要限度的。
CNIL并未质疑亚马逊业务压力巨大及其高绩效目标，可以证明实施扫描器系统来管理其业务的合理性。
然而，CNIL认为保留所有这些数据及由此产生的统计指标总体上是不符合比例原则的。
因此，CNIL对亚马逊处以3200万欧元的罚款。
为确定罚款金额，CNIL特别考虑到使用扫描仪处理员工数据的方式与传统的活动监控方法不同，因为它们的规模之大、详实程度之高以及持续性，对员工工作进行非常密切、详细地监控。
这种系统对所有使用扫描仪执行的任务都进行了密切监视，从而使员工不断承受压力，涉及人数众多（数千人）。
CNIL还认为通过这种计算机监控对员工施加的限制直接促成了公司的经济收益，并使其在在线销售市场中具有竞争优势。
CNIL裁定亚马逊法多处违反GDPR，具体如下。
二、库存及订单管理有关违规行为
该公司使用扫描仪收集的员工活动和绩效指标来实时管理其仓库中的库存和订单。
（一）未遵守数据最小化原则（GDPR第5.1.c条款）
库存和订单管理过程可分为多个任务（接收物品、存储库存、准备和发送订单），并且还依赖于对每个员工的管理，以在必要时为他们提供协助（辅导）或在必要时重新分配任务。
然而，CNIL认为，在实时提供员工协助或重新分配任务时，无需访问员工过去一个月内使用扫描仪收集的每一个细节的质量和生产力指标。CNIL指出，监管人员已经可以依赖实时报告的数据来识别员工可能遇到的需要辅导的困难，或者在活动高峰期间重新分配员工到任务中。因此，CNIL认为，除了实时数据之外，例如每周聚合数据即可满足管理需求。
（二）未确保合法处理（GDPR第6条）
CNIL认为，公司所处理以下三个指标是非法的：
  • "Stow Machine Gun"指标，在员工扫描上一个物品后不到1.25秒内扫描下一个物品时，会发出错误信号；
  • "idle time"指标，标志着扫描仪在十分钟或更长时间内闲置的时段；
  • "latency under ten minutes"指标，标志着扫描仪在一到十分钟之间中断的时段。
尽管CNIL不质疑对每位员工的处理情况和状况进行精确监控以确保仓库的服务质量和安全性的必要性，但CNIL仍然指出，不能基于合法利益（legitimate interest）处理这三个数据指标，因为它导致了对员工的目标进行过度监控。
首先，处理“Stow Machine Gun”指标意味着可以不断监视员工的每次存储，精确到秒，并且如果员工整理得太快，就会被认定存在错误。
其次，使用“闲置时间”和“十分钟内的延迟”指标可以不断监视员工扫描仪在工作中断的任何时间，即使是很短的时间（不到十分钟或超过十分钟）。
然而，CNIL指出，该公司已经可以访问大量实时指标，包括个体和聚合指标，以实现其在仓库中质量和安全性的目标。
CNIL还指出，处理这两个指标意味着员工在任何时候都有可能需要证明他正在中断扫描仪，即使只是很短的时间。
根据实施情况，相关数据处理被认为是过度的。
三、员工评估有关违规行为
该公司还使用员工活动和绩效数据以及扫描仪收集的指标来规划其仓库的工作，每周评估员工并进行培训。
（一）未遵守数据最小化原则（GDPR第5.1.c条款）
CNIL认为，仓库的工作时间表以及员工的评估和培训不需要访问员工在过去一个月内使用扫描仪提供的每一个数据和统计指标的所有详细信息。
CNIL认为，每周汇总的员工统计数据，足以评估员工对任务的掌握程度并组建相关团队。同样，这些统计数据提供了员工绩效的概览，足以评估和确定培训需求或监测员工的进展。
最后，CNIL认为，监控员工的实际工作、评估或培训他们的目标无法正当化记录员工超过十分钟的不工作时间。
（二）
未遵循充分告知和透明度的义务（GDPR第12条和第13条）

CNIL发现，直到2020年4月，该公司的临时工人未被适当告知相关信息，因为该公司未确保在使用扫描仪收集其个人数据之前向他们提供隐私政策。
四、视频监控有关违规行为
（一）未遵循充分告知和透明度的义务（GDPR第12条和第13条）

CNIL指出，员工及外部访客均未被适当地告知视频监控系统使用的相关信息，因为GDPR第13条所要求的相关告知信息既没有在公告栏上提供，也没有在其他媒体或文件中提供。
（二）未遵守确保个人数据安全的义务（GDPR第32条） 
CNIL指出，视频监控软件的访问并不足够安全，因为访问密码缺乏复杂度，访问账户被多名用户共享。
这种安全缺陷的积累使得对相关视频查阅行为的追踪、回溯、审计、问责变得更加困难。
学习数据合规，必买DPOHUB年卡
“人工智能治理公益翻译小组”志愿者
#目标#通过翻译全球人工智能法律、案例及标准，为中国人工智能立法提供支持。
#愿景#建立人工智能治理共建共享平台，相互赋能，让思想火花肆意碰撞。
#申请#请将“姓名+单位+职位+英语水平”等发送到微信号：heguilvshi
请说明姓名+单位+职位+英语水平
继续阅读
阅读原文