近日，国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布《生成式人工智能服务管理暂行办法》（以下称《办法》），自2023年8月15日起施行。国家互联网信息办公室有关负责人表示，出台《办法》，旨在促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。
来源：中央网络安全和信息化委员会办公室网站
释放哪些监管信号
近年来，生成式人工智能技术快速发展，为经济社会发展带来新机遇的同时，也产生了传播虚假信息、侵害个人信息权益、数据安全和偏见歧视等问题，如何统筹生成式人工智能发展和安全引起各方关注。出台《办法》，既是促进生成式人工智能健康发展的重要要求，也是防范生成式人工智能服务风险的现实需要。
北京师范大学法学院博士生导师、中国互联网协会研究中心副主任吴沈括表述，出台的《办法》在三个方面尤为突出：
一是强调了AIGC的分类分级管理机制
，突出了针对不同风险类型后续引入相关监管机制的思路；
二是注重AIGC产业生态的培育
，特别是关于算力资源共享以及预训练公共数据平台的建设问题；
三是办法强调了国内外的交流合作
，在适用范围上，针对境外、境内提供服务以及不向境内提供服务的业务类型做了区分，明确了办法的适用范围。

《办法》还提到，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。
在业界尤为关注的算力方面，《办法》也提及，推动生成式人工智能基础设施和公共训练数据资源平台建设。促进算力资源协同共享，提升算力资源利用效能。推动公共数据分类分级有序开放，扩展高质量的公共训练数据资源。鼓励采用安全可信的芯片、软件、工具、算力和数据资源。
在服务商准入方面，《办法》还提到，对于外商投资生成式人工智能服务的，应当符合外商投资相关法律、行政法规的规定。
对于生成内容的真实可靠性问题，相比此前的《征求意见稿》，《办法》的说法有了一定调整。
此外，《办法》还提到对于网信、发展改革、教育、科技、工业和信息化、公安、广播电视、新闻出版等部门，要依据各自职责依法加强对生成式人工智能服务的管理。
对于未成年人的保护，《办法》的内容也进行了着重强调。此前《征求意见稿》提到，采取适当措施防范用户过分依赖或沉迷生成内容；此次《办法》则更新为，采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务。
在围绕对于生成式人工智能的监督方面，《办法》还提到，有关主管部门依据职责对生成式人工智能服务开展监督检查，提供者应当依法予以配合，按要求对训练数据来源、规模、类型、标注规则、算法机制机理等予以说明，并提供必要的技术、数据等支持和协助。
对于个人隐私、商业秘密等保护，《办法》中有多条涉及相关内容，例如参与生成式人工智能服务安全评估和监督检查的相关机构和人员对在履行职责中知悉的国家秘密、商业秘密、个人隐私和个人信息应当依法予以保密，不得泄露或者非法向他人提供等等。
生成式人工智能挥别“野蛮生长”
狂飙半年的生成式人工智能系上了“安全带”。以ChatGPT为代表的生成式人工智能的出现，意味着人工智能正式从1.0时代迈入2.0时代。创新工场董事长兼CEO李开复曾断言，AI 2.0是绝对不能错过的一次革命，它会是一个平台级别的趋势，超过移动互联网10倍。彭博行业研究曾在报告中预计，ChatGPT将给生成式人工智能市场带来为期十年的繁荣，市场规模将以42%的速度扩张。
抓住这一轮历史机遇至关重要。《办法》明确提及，鼓励生成式人工智能技术在各行业、各领域的创新应用，生成积极健康、向上向善的优质内容，探索优化应用场景，构建应用生态体系。为此，《办法》也为生成式人工智能服务划出了诸多“红线”。
此外，提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。在信息安全方面，提供者应对使用者的输入信息和使用记录应当依法履行保护义务，不得收集非必要个人信息，不得非法留存能够识别使用者身份的输入信息和使用记录，不得非法向他人提供使用者的输入信息和使用记录等。
国家网信办表示，《办法》提出国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。
北京市社会科学院副研究员王鹏表述，《办法》对于什么是生成式人工智能、哪些行为合法、哪些行为违法等做出了明确的界定，有利于解决现实问题，也更有利于行业的规范发展。另外，《办法》也充分体现了我国对于人工智能，尤其是生成式人工智能鼓励、支持和引导的态度。整体来说，《办法》对于我国人工智能行业，包括基础研发、垂直落地应用以及相关生态的形成都是有利的。
推动新一代人工智能创新发展
《办法》规定了安全评估、算法备案、投诉举报等制度，明确了法律责任。国家网信办有关负责人指出，生成式人工智能服务的发展与治理需要政府、企业、社会、网民等多方参与，共同促进生成式人工智能健康发展，让生成式人工智能技术更好地造福人民。
不久前召开的中共中央政治局会议指出，要重视通用人工智能发展，营造创新生态，重视防范风险。北京、上海、深圳、成都等多个城市积极围绕人工智能产业出台政策规定，抢占新一代人工智能创新发展高地。
数据显示，到2030年，我国人工智能核心产业规模有望超过1万亿元，带动相关产业规模超过10万亿元，推动劳动生产率提高20%以上。当前，我国人工智能产业发展也存在一些问题。比如，在人工智能原创算法和开源系统领域存在短板，高端芯片、关键部件、高精度传感器等产业基础薄弱，高水平人才不足等。对此，需整体提升人工智能科技创新能力，持续推进人工智能产业生态培育，加快推动人工智能人才队伍建设等，推动人工智能快速迭代升级。
强化资源统筹，筑牢人工智能科技创新底座。发挥新型举国体制优势，引导和组织优势力量打好关键核心技术攻坚战，在人工智能领域实现高水平科技自立自强。整合不同区域创新资源，打通“硬件—系统—产业”全链条，构建分工明确、优势互补的人工智能创新生态系统，提升我国人工智能产业的整体影响力。
建立包容审慎的监管机制。建立健全保障人工智能健康发展的法律法规和伦理道德框架。通过公开透明的人工智能动态监管体系，对人工智能算法设计、产品开发和成果应用全流程开展依法依规、包容审慎监管。围绕网络安全、数据安全、科技伦理、就业促进等领域建立风险防范机制，坚持安全和发展并重。强化人工智能行业和企业自律，引导人工智能产业健康发展。
来源：央视财经、央视新闻、第一财经、人民日报、光明网、中国青年报、人民网、第一财经、北京商报
编辑 | 杨一萍
校对 | 袁海鸣
｜中经传媒智库  CBJTHINKTANK  原创文章｜
往期推荐
智库焦点 | 超预期！新增信贷明显回升，最新金融数据释放了哪些信息？
你有在看吗↓
继续阅读
阅读原文
关键词
生成式人工智能
信息
生成式人工智能服务
个人信息
依法