科技伦理（审查）委员会：如何设立？

如您希望下载PDF版本，请点击文末“阅读原文”获取。

引言

如我们在《人工智能（AI）：科技伦理治理走起》一文中所述，我国科学技术部会同教育部、工业和信息化部、国家卫生健康委等十部门联合印发的《科技伦理审查办法（试行）》（以下简称“《科技伦理审查办法》”）正式在法律法规层面明确了我国的科技伦理审查体系，该办法已于2023年12月1日开始施行。在人工智能领域，阿里巴巴早在2022年9月就已设立科技伦理治理委员会，其核心成员分别来自阿里研究院、达摩院、法务合规、阿里人工智能治理与可持续发展研究中心以及相关业务板块，同时，该委员会还引入了外部视角和监督，聘请七位来自科技、法律、公共管理、哲学等领域的专家组成独立的顾问委员会，为规则制定和伦理审查提供咨询建议[1]；而百度则于2023年10月正式成立科技伦理委员会，该委员会汇集了各领域专家力量，同时引入权威外部视角和监督，通过专项研讨和评估等方式，确保AI技术和应用符合法律标准和伦理规范[2]。算法模型的研发、应用企业均相继迈出了在实践层面落实科技伦理治理监管要求的脚步，从设立科技伦理（审查）委员会入手，逐步完善针对人工智能技术研发和应用的科技伦理治理体系。

以下，我们梳理了科技伦理（审查）委员会的设立和运行相关的问题，供行业内的企业参考：

什么单位需要设立科技伦理（审查）委员会？

根据《科技伦理审查办法》第四条，从事生命科学、医学、人工智能等科技活动的单位（包括高等学校、科研机构、医疗卫生机构、企业等），研究内容涉及科技伦理敏感领域的，应设立科技伦理（审查）委员会。其他有科技伦理审查需求的单位可根据实际情况设立科技伦理（审查）委员会。

根据上述规定，对于高等学校、科研机构、医疗卫生机构、企业等单位，同时满足下述两项时，需设立科技伦理（审查）委员会：（1）从事生命科学、医学、人工智能等科技活动；（2）研究内容涉及科技伦理敏感领域。然而，关于何为“科技伦理敏感领域”，我国目前的法律法规并未作出明确规定。

值得注意的是，根据《科技伦理审查办法》第五十三条，地方、相关行业主管部门可按照本办法规定，结合实际情况制定或修订本地方、本系统的科技伦理审查办法、细则等制度规范；科技类社会团体可制定本领域的科技伦理审查具体规范和指南。目前，我国部分地区的政策文件在《科技伦理审查办法》的基础上，进一步明确了应履行科技伦理（审查）委员会设立义务的单位范围，例如：根据《海南省科技伦理治理实施方案》[3]，“从事生命科学、医学、人工智能等重点领域科技活动或研究内容涉及科技伦理敏感领域的单位，应根据需要设立综合性或单一领域方向的科技伦理（审查）委员会”；根据广东省人民政府发布的《关于加强科技伦理治理的实施方案》[4]，“从事生命科学、医学、人工智能等重点领域科技活动单位，应设立科技伦理（审查）委员会”。

基于前序监管现状，至少对于生命科学、医学、人工智能的企业，可以考虑将组建科技伦理（审查）委员会的工作提上日程。

是否可以委托其他单位的科技伦理（审查）委员会开展伦理审查？

根据《科技伦理审查办法》第五十三条，如满足下述任何一种情形，单位可以书面委托其他满足要求的科技伦理（审查）委员会开展伦理审查：（1）单位科技伦理（审查）委员会无法胜任审查工作要求；（2）单位未设立科技伦理（审查）委员会；（3）无单位人员开展科技活动的。

尽管《科技伦理审查办法》确立了委托审查机制，关于该等机制的适用范围以及具体的操作方式（例如单位资助非本单位的研究人员开展科技活动或以其他间接方式参与科技活动是否属于“无单位人员开展科技活动”；受委托开展科技伦理审查的科技伦理（审查）委员会是否需满足特殊要求；某一设立科技伦理（审查）委员会的单位是否可以接受多个关联公司的委托开展科技伦理审查），仍有待主管部门出台相关规定，我们将持续关注。

如何设立科技伦理（审查）委员会？

1. 设立条件

根据《科技伦理审查办法》第七条、第八条，组建科技伦理（审查）委员会至少需要符合下述条件：

在专业背景方面，委员会委员应当包含具备相关科学技术背景的同行专家，以及伦理、法律等相应专业背景的专家组成，应具备相应的科技伦理审查能力和水平，科研诚信状况良好；

在人数方面，委员会委员的人数应不少于7人，其中应当包括主任委员1人，副主任委员若干；

在其他方面，委员会应当有不同性别和非本单位的委员，民族自治地方应有熟悉当地情况的委员。

除满足前述人员组成要求以外，为确保科技伦理（审查）委员会独立开展伦理审查工作，单位还应当为科技伦理（审查）委员会提供相应的工作条件，包括为委员会配备专（兼）职工作人员、办公场所、专门经费等等。

值得注意的是，为了促进科技伦理（审查）委员会建设标准的规范化和统一化，根据《科技伦理审查办法》第四十一条，国家将推动建立科技伦理（审查）委员会认证机制。即，未来，科技部可能会就科技伦理（审查）委员会认证机制发布详细的政策和指南，其中可能会进一步细化关于科技伦理（审查）委员会的设立要求。

2. 设立流程

根据《科技伦理审查办法》，我们将科技伦理（审查）委员会的设立流程归纳如下：

值得注意的是，根据《科技伦理审查办法》第五十四条，相关行业主管部门对本领域科技伦理（审查）委员会设立或科技伦理审查有特殊规定且符合本办法精神的，从其规定；本办法未作规定的，按照其他现有相关规定执行。此前，国家卫健委联合教育部、科技部和国家中医药局曾发布《涉及人的生命科学和医学研究伦理审查办法》[5]对于涉及人的生命科学、医学的科技研究[6]的伦理审查要求进行规定。结合前序《科技伦理审查办法》的规定，我们理解，对于涉及人的生命科学、医学的科技研究，《科技伦理审查办法》和《涉及人的生命科学和医学研究伦理审查办法》将同时适用，且后者可能将作为行业的特殊规定优先适用。就伦理审查委员会的设立流程而言，在《科技伦理审查办法》的基础之上，《涉及人的生命科学和医学研究伦理审查办法》还要求从事涉及人的生命科学、医学的科技研究的机构在伦理审查委员会设立之日起3个月内向本机构的执业登记机关/上级主管部门进行备案，并在国家医学研究登记备案信息系统上传信息。因此，对于涉及人的生命科学、医学的科技研究的人工智能技术研发和应用单位（例如AI医学影像、AI医疗机器人、临床决策支持系统（CDSS）的研发和应用单位）而言，在完成《科技伦理审查办法》项下的科技伦理（审查）委员会的设立流程以外，还应按照《涉及人的生命科学和医学研究伦理审查办法》的要求，进行相应的登记、备案。

科技伦理（审查）委员会有哪些职责？

根据《科技伦理审查办法》第五条，科技伦理（审查）委员会应当履行下述职责：

1. 制定完善科技伦理（审查）委员会的管理制度和工作规范

《科技伦理审查办法》第六条对于科技伦理（审查）委员会应当制定的管理制度和工作规范予以列举，其中包括：章程；审查、监督、保密管理、档案管理等制度规范；工作规程；利益冲突管理机制。

结合《科技伦理审查办法》第八条，我们理解前述管理制度和工作规范应至少涵盖针对委员会委员的下述要求：

遵纪守法：遵守我国宪法、法律、法规和科技伦理有关制度规范及所在科技伦理（审查）委员会的章程制度；

履行审查职责：按时参加科技伦理审查会议，独立公正发表审查意见；

保密：严格遵守保密规定，对科技伦理审查工作中接触、知悉的国家秘密、个人隐私、个人信息、技术秘密、未公开信息等，未经允许不得泄露或用于其他目的；

避免利益冲突：遵守利益冲突管理要求，并按规定回避；

参加培训：定期参加科技伦理审查业务培训；

其他：完成委员会安排的其他工作。

2. 提供科技伦理咨询，指导科技人员对科技活动开展科技伦理风险评估

在某些场景下，科技人员可能难以评估特定的科技活动的风险，而无法判断是否需要针对该等科技活动进行科技伦理审查。此时，科技伦理（审查）委员会应当提供相关的咨询，指导科技人员对科技活动开展科技伦理风险评估。我们理解，该项职责是对常态科技活动中的复杂伦理问题提供咨询意见，相较于科技伦理审查职责而言，该项职责更类似一种铺垫性的、导入性的工作。为了减少重复性工作，科技伦理（审查）委员会可以汇总在科技伦理咨询过程中科技人员关注的共性问题，并形成伦理审查申请指南、伦理审查指南等指南文件供科技人员参考。

3. 开展科技伦理审查，按要求跟踪监督相关科技活动全过程

《科技伦理审查办法》对于科技伦理（审查）委员会进行科技伦理审查的审查范围、审查程序以及审查内容等均进行了较为明确的规定（见《人工智能（AI）：科技伦理治理走起》）。值得注意的是，除在科技活动开展前对于科技活动进行事前的科技伦理审查以外，对于审查批准的科技活动，科技伦理（审查）委员会还应进行跟踪审查，跟踪审查间隔一般不超过12个月；科技伦理（审查）委员会有权根据跟踪审查需要要求科技活动负责人提交相关材料，并在必要时作出暂停或终止科技活动等决定；跟踪审查的主要审查内容如下：

科技活动实施方案执行情况及调整情况；

科技伦理风险防控措施执行情况；

科技伦理风险的潜在变化及可能影响研究参与者权益和安全等情况；

其他需要跟踪审查的内容。

4. 对拟开展的科技活动是否属于《需要开展伦理审查复核的科技活动清单》范围作出判断

如我们在《人工智能（AI）：科技伦理治理走起》一文中所述，人工智能相关科技活动除需由科技伦理（审查）委员会进行伦理审查以外，由于还可能落入《需要开展伦理审查复核的科技活动清单》范围，极有可能还需在地方或相关行业主管部门组织成立的复核专家组进行伦理审查复核；而科技伦理（审查）委员会应负责判断人工智能相关的科技活动是否纳入前述清单管理、是否需要在复核专家组进行伦理审查复核。

针对“具有舆论社会动员能力和社会意识引导能力的算法模型、应用程序及系统的研发”、“面向存在安全、人身健康风险等场景的具有高度自主能力的自动化决策系统的研发”等纳入清单管理的科技活动类型，目前我国法律法规并未明确相应的判断标准，因此，现阶段，我们理解科技伦理（审查）委员会可以参考《信息技术人工智能风险管理能力评估》（T/CESA 1193—2022）等人工智能领域社会团体制定的科技伦理风险评估相关规范和指南以及人工智能伦理相关国际标准（详情可见国家人工智能标准化总体组等编制的《人工智能伦理治理标准化指南》[7]所列出的人工智能伦理相关国际标准清单）判断人工智能领域科技活动是否纳入前述清单管理。

5. 组织开展对委员的科技伦理审查业务培训和科技人员的科技伦理知识培训

一方面，科技伦理（审查）委员会应当围绕科技伦理审查业务、科技伦理审查知识组织开展对于委员的定期培训，确保委员能够准确把握科技伦理工作正确方向。另一方面，科技伦理（审查）委员会还应当对参与科技活动的科技人员开展科技伦理知识培训，培训的内容可以包括相关法律法规、部门规章、科技伦理审查相关知识等等。

6. 受理并协助调查相关科技活动中涉及科技伦理问题的投诉举报

根据《科技伦理审查办法》第四十六条，对科技活动中违反科技伦理规范、违背科技伦理要求的行为，任何单位或个人有权依法向科技活动承担单位或地方、相关行业主管部门投诉举报。若举报者向科技活动承担单位本身提起投诉举报，科技伦理（审查）委员会应当受理；若举报者地方、相关行业主管部门投诉举报，科技伦理（审查）委员会则应当协助调查。

7. 按照主管部门要求进行登记、报告，配合地方、相关行业主管部门开展涉及科技伦理审查的相关工作

我们将《科技伦理审查办法》规定的科技伦理（审查）委员会的登记和报告义务梳理如下：

目前，各单位的科技伦理（审查）委员会可通过国家科技管理信息系统公共服务平台[8]进行前述登记和报告。

科技伦理（审查）委员会将承担哪些法律责任？

在法律责任方面，《科技伦理审查办法》第四十八条对于科技伦理（审查）委员会、委员的法律责任进行了原则性规定：科技伦理（审查）委员会、委员有下列行为的，由有管辖权的机构依据法律、行政法规和相关规定给予处罚或者处理，如造成财产损失或者其他损害的、构成犯罪的，还应依法承担相应民事、刑事责任：（1）弄虚作假，为科技活动承担单位获得科技伦理审查批准提供便利；（2）徇私舞弊、滥用职权或者玩忽职守的；（3）其他违反本办法规定的行为。

科技部此前发布的《科学技术活动违规行为处理暂行规定》[9]对于科学技术活动咨询评审专家开展有关科学技术活动过程中出现的违规行为的处理进行规定。其中，“科学技术活动评审专家”是指为科学技术活动提供咨询、评审、评估、评价等意见的专业人员，我们理解科技伦理（审查）委员会委员落入前述“科学技术活动评审专家”的范畴。结合前述《科技伦理审查办法》关于“由有管辖权的机构依据法律、行政法规和相关规定给予处罚或者处理”的规定，我们理解在科技伦理（审查）委员会委员存在《科学技术活动违规行为处理暂行规定》规定的下述违规行为的情况下，可能受到当地科学技术行政部门（即科技厅）采取的警告、责令限期整改、约谈、一定范围内或公开通报批评、记入科研诚信严重失信行为数据库等处理措施：

采取弄虚作假等不正当手段获取咨询、评审、评估、评价、监督检查资格；

违反回避制度要求；

接受“打招呼”“走关系”等请托；

引导、游说其他专家或工作人员，影响咨询、评审、评估、评价、监督检查过程和结果；

索取、收受利益相关方财物或其他不正当利益；

出具明显不当的咨询、评审、评估、评价、监督检查意见；

泄漏咨询评审过程中需保密的申请人、专家名单、专家意见、评审结论等相关信息；

抄袭、剽窃咨询评审对象的科学技术成果；

违反国家科学技术活动保密相关规定。

针对科技伦理（审查）委员会需要准备哪些制度文件？

结合《科技伦理审查办法》的规定，可以考虑从章程和工作制度两个模块构建科技伦理（审查）委员会的制度体系，具体而言：

1. 章程

章程是科技（审查）伦理委员会设立时最重要的文件之一，是规范委员会内部组织和活动的基本规则。一般而言，科技（审查）伦理委员会章程应当包括如下内容：（1）总则；（2）组织结构；（3）职责权限；（4）审查程序。在条款设计方面，可以参考一般公司章程的体例，结合科技伦理审查的特点（例如科技伦理审查依据的基本原则、根据科技伦理风险等级针对性适用不同的科技伦理审查程序等等），起草章程中的具体内容。

2. 科技（审查）伦理委员会工作制度

科技（审查）伦理委员会工作制度一般用于指导和约束委员会委员的具体行为，科技（审查）伦理委员会可以根据实际管理和工作需要，对于章程中的原则性要求进行细化。对于科技（审查）伦理委员会而言，基于《科技伦理审查办法》的要求，应当尤其关注保密以及利益冲突方面的制度建设，可考虑制定的工作制度包括：

保密和隐私保护制度；

利益冲突管理制度；

组织管理制度；

独立顾问聘任制度；

财务管理制度人员培训制度；

文档管理制度。

结语

《科技伦理审查办法》为科技伦理（审查）委员会的组建和运行提供了较为清晰完整的框架和指导。然而，我们也注意到，对于许多人工智能领域的企业而言，科技伦理（审查）委员会的设立并非易事；同时，科技伦理风险评估标准、人工智能伦理规范等科技伦理治理所依托的实体性规范仍有待有关行业的主管部门、社会团体进行研究和制定。在未来，我们将持续关注科技伦理审查相关的法律法规、行业标准和实践，我们也期待以担任委员/独立顾问、提供法律咨询、与监管部门对接等多种方式参与企业科技伦理（审查）委员会的组建和运行，为企业完善科技伦理治理体系保驾护航。

向下滑动阅览

脚注：

[1] 详见下述链接：http://www.sh.chinanews.com.cn/kjjy/2022-09-02/102917.shtml。

[2] 详见下述链接：https://company.cnstock.com/company/scp_gsxw/202311/5154028.htm。

[3] 2023.01.06 发布并实施。

[4] 2023.05.09 发布并实施。

[5] 2023.02.18 发布并实施。

[6] 根据《涉及人的生命科学和医学研究伦理审查办法》第三条，本办法所称涉及人的生命科学和医学研究是指以人为受试者或者使用人（统称研究参与者）的生物样本、信息数据（包括健康记录、行为等）开展的以下研究活动：（一）采用物理学、化学、生物学、中医药学等方法对人的生殖、生长、发育、衰老等进行研究的活动；（二）采用物理学、化学、生物学、中医药学、心理学等方法对人的生理、心理行为、病理现象、疾病病因和发病机制，以及疾病的预防、诊断、治疗和康复等进行研究的活动；（三）采用新技术或者新产品在人体上进行试验研究的活动；（四）采用流行病学、社会学、心理学等方法收集、记录、使用、报告或者储存有关人的涉及生命科学和医学问题的生物样本、信息数据（包括健康记录、行为等）等科学研究资料的活动。

[7] 链接如下：人工智能伦理治理标准化指南.pdf （aipubservice.com）。

[8] 平台链接如下：https://service.most.gov.cn/index/；相应操作说明链接如下：https://service.most.gov.cn/help/index.html?click=reg。

[9] 2020.07.17 发布，2020.09.01 实施。

本文作者

张逸瑞

合伙人

知识产权部

[email protected]

业务领域：知识产权、数字资产管理交易和战略运营

张逸瑞律师的主要执业领域为一般知识产权业务、科技成果转化、数据和其他数字资产的交易与战略管理。张逸瑞律师尤其擅长元宇宙、人工智能、机器人等前沿高科技产业的法律事务，对于高科技领域有深入的研究和长期的经验，她长期为诸多高科技领域的客户提供综合服务，包括科技成果转化架构搭建(技术出资、技术转让、横向技术联合、纵向技术许可等多种模式)、产学研用一体化、科研人才引进规划、技术秘密风险防范、创新商业模式等。