人工智能治理专家认证CAIGP™培训课程
Certifitied Artificial Intelligence Governance Professional
CAIGP聚焦如何根据全球新兴法律和标准开发、集成和部署可信AI系统。课程包括AI技术、全球法律框架、全生命周期风险管理及国际标准、可信审查最佳实践等主题。
如果您希望报名培训，或有合作意向？请加微信！
请说明姓名+单位
今年1月1日起，《未成年人网络保护条例》（以下简称《条例》）正式施行，未成年人在网络世界的安全、健康成长被进一步纳入法治视野。其中第三章明确规定，禁止任何组织和个人对未成年人实施网络欺凌行为，要求网络产品和服务提供者建立健全网络欺凌行为的预警预防、识别监测和处置机制，并明确了网络产品和服务提供者发现危害或者可能影响未成年人身心健康信息的处置措施和报告义务。
当平台被用户利用实施针对未成年人的网络欺凌，平台是否应承担连带侵权责任？网络平台的审核注意义务、社会责任边界又该如何厘定？上海市松江区人民法院（以下简称松江区人民法院）近日审理了这样一起涉未成年人网络欺凌的民事案件，判决平台承担相应的侵权责任。
案情回顾
2022年夏天，24岁的无业游民李某在网上结识了还在读初中的小梅（本文人物均为化名）。两人网恋后，在李某诱骗下，小梅多次与对方进行了视频裸聊，过程中李某通过录屏、截屏获取了小梅裸照、视频。
2022年末，因发生矛盾小梅要求分手。李某便将部分裸照及视频发布在某网络视频APP，并扬言要发给她的同学，以此威胁小梅继续与其保持恋爱关系。涉案照片、视频在该平台公开发布数日，收到点赞30+、评论60+。小梅因此受到很大刺激，长时间惧怕外界，深深厌学，社工介入为其提供了心理疏导。
平台传播情况
小梅家长得知此事后立即向公安机关报案。李某随即被抓获案发。后经人民法院审理，李某因犯寻衅滋事罪，被判处有期徒刑一年三个月。虽然李某已受到刑事处罚，但小梅一家人后来得知涉案照片、视频仍以“仅自己可见”的形式留存于李某该网络平台的账号后台， 而当他们致电平台要求删除时，客服以“该信息已不处于公开状态，无法删除”为由拒绝。
出于人身安全考虑、为避免二次伤害，2023年10月，小梅作为原告、其父母作为法定代理人向松江区人民法院提起民事诉讼，要求李某和该网络视频APP运营主体某科技公司作为被告连带承担删除侵权视频及文字、并向小梅书面赔礼道歉等侵权责任，松江区检察院支持起诉。
被告李某对小梅提出的诉讼请求均无异议，同意某科技公司对其账户内的侵权信息作删除处理。
被告某科技公司则辩称，本案被诉的侵权行为由被告李某独立实施，其作为中立的网络服务提供商既没有参与，对李某发布的涉案照片、视频亦不明知或应知，不应承担侵权责任。
审理中，被告某科技公司经法官释明，对被告李某账户进行永久封禁，清除所有视频内容，并对其注册账户的手机号作出永久禁入平台处理。
被告账户被封禁
人民法院裁判
人民法院经审理认为，被告李某将裸照及视频公开发布在网络平台，并针对小梅发布侮辱、威胁言论，网络欺凌行为情节严重，已构成寻衅滋事罪，显然构成侵害小梅隐私权，被告李某应当承担侵权责任。
人民法院同时指出，被告某科技公司对于被告李某的侵权事实构成“应当知道”，却未做处理，应当承担连带责任。被告作为网络平台，对于避免其用户发布的信息侵害未成年人权益，尤其涉及色情等严重侵权信息应负有更高的注意义务。涉案信息明显侵权，审核难度较低，且已公开发布数天，发现该信息并非难事，尤其对于某科技公司这样全国知名的头部网络短视频平台，应具备充分的审核、信息管理能力及技术可能性。但被告不仅未能审核阻止，甚至任由其在平台留存数天，未做任何处置，最终李某“看到有很多人看，自己有点害怕了”，主动转为“仅自己可见”。平台的不作为显然不符合社会对其平台管控能力的预期。
由于被告某科技公司审理中已自行删除涉案信息，近日，松江区人民法院对本案作出了一审判决：被告李某、被告某科技公司承担侵权责任，分别向小梅书面赔礼道歉。
为保护更多遭受侵害却因担心信息泄露而“不敢诉、不愿诉”的“小梅”们，松江区人民法院与松江区人民检察院于近期会签、实施了上海市首份《关于加强相关民事诉讼案件未成年人个人信息和隐私保护的实施意见》，从信息保护、隐私保护、程序保密等方面，对相关民事诉讼案件未成年当事人隐私保护制定了详细的规范指引，以消除受害人家庭顾虑。本案审理中，严格落实了上述《实施意见》相关要求，依法不公开审理，对涉案未成年当事人身份信息进行最大程度屏蔽等处理，依法依规维护未成年当事人合法权益。
法官说法
闫  理
松江区人民法院
民事审判庭
二级法官
一、网络用户利用网络服务实施侵权行为的，网络平台何时需担责？
根据相关法律规定，分别有以下两类情形：
一是“避风港”规则中的“通知—取下”程序，网络服务提供者接到通知后，未及时采取必要措施，就扩大的损失与网络用户承担连带责任。
二是网络服务提供者知道或者应当知道网络用户利用其网络服务侵害他人民事权益，未采取必要措施的，与该网络用户承担连带责任。
 “通知规则”和“知道规则”在司法适用上是并列关系。即被侵权人如能举证证明网络服务提供者对侵权行为“知道”，可以不发出侵权通知，直接要求网络服务提供者承担《民法典》第1197条规定的侵权责任；如果被侵权人认为其无法举证证明网络服务提供者具有过错，可以根据《民法典》第1195条发出侵权通知。
二、如何认定网络服务提供者“知道或者应当知道”？
《信息网络规定》第6条归纳了认定网络服务提供者“知道或者应当知道”的7种判断因素，包括网络服务提供者是否对侵权网络信息作出处理，应当具备的管理信息的能力，所提供服务的性质、方式及其引发侵权的可能性大小，采取预防侵权措施的技术可能性及其是否采取了相应的合理措施，该网络信息侵害民事权益的类型及明显程度，网络信息的社会影响程度或者一定期间浏览量等。
司法实践中绝非机械性适用上述规则，而是根据个案情况具体认定，满足一个或几个核心因素即可认定网络服务提供者应知其网络用户侵害他人民事权益。
三、全社会共奔赴、对未成年人网络欺凌说“不”！
网络欺凌是指利用数字技术进行的欺凌。侵权人通常会发布负面信息、捏造的事实等于社交媒体、即时通讯、游戏等网络平台，目的是利用网络羞辱、刺激受害者。此类行为具有隐秘性、反复性与传播性。由于行为发生在网络空间，预防与控制难度较大，且未成年人无论作为欺凌者或被欺凌者，都较难识别、控制行为的“边界”与“程度”。随着技术不断迭代，未成年人网络保护已成为一项社会性系统工程，除了司法力量的后端保护，更需要家庭、学校、网络服务提供商等网络全流程相关方的共同努力。
对于家长与学校，除了加强对孩子身心发展状况的关注外，还要提高自身与孩子两代人的网络素养和网络法治意识，合理规划学生在家、在校期间的网络使用时长，提升对网络信息的获取、分析判断能力，在尊重孩子自主权的同时便于及时发现隐患、合理干预。
对网络平台而言，应依法履行针对未成年人的网络保护义务，应进一步利用好技术、管理能力，建立健全未成年人网络保护合规制度体系，为祖国美好未来创造清朗网络环境。
法条链接
一、《中华人民共和国民法典》
第一千一百九十七条　网络服务提供者知道或者应当知道网络用户利用其网络服务侵害他人民事权益，未采取必要措施的，与该网络用户承担连带责任。

二、《最高人民法院关于审理利用信息网络侵害人身权益民事纠纷案件适用法律若干问题的规定》
第六条　人民法院依据民法典第一千一百九十七条认定网络服务提供者是否“知道或者应当知道”，应当综合考虑下列因素：
（一）网络服务提供者是否以人工或者自动方式对侵权网络信息以推荐、排名、选择、编辑、整理、修改等方式作出处理；
（二）网络服务提供者应当具备的管理信息的能力，以及所提供服务的性质、方式及其引发侵权的可能性大小；
（三）该网络信息侵害人身权益的类型及明显程度；
（四）该网络信息的社会影响程度或者一定时间内的浏览量；
（五）网络服务提供者采取预防侵权措施的技术可能性及其是否采取了相应的合理措施；
（六）网络服务提供者是否针对同一网络用户的重复侵权行为或者同一侵权信息采取了相应的合理措施；
（七）与本案相关的其他因素。
▴ 向上滑动查看更多 ▴
来源丨上海市松江区人民法院
文字：闫理、杨程
责任编辑：蒋梦娴

来自“上海高院”公众号
学习数据合规，必买DPOHUB年卡
“人工智能治理公益翻译小组”志愿者
#目标#通过翻译全球人工智能法律、案例及标准，为中国人工智能立法提供支持。
#愿景#建立人工智能治理共建共享平台，相互赋能，让思想火花肆意碰撞。
#申请#请将“姓名+单位+职位+英语水平”等发送到微信号：heguilvshi
请说明姓名+单位+职位+英语水平
继续阅读
阅读原文