随着以ChatGPT为代表的大模型技术不断突破，人工智能迎来了新的发展阶段，开始从“专用”智能向“通用”智能演进，正在带动人类社会向智能化跃迁。基于大模型打造的人工智能系统不断成熟，已经可以理解人类语言、创作高质量的数字内容，日益成为人们日常生产生活中的重要“助手”。未来，随着大模型的迭代升级或新技术范式的出现，人工智能系统的自主性和通用性毫无疑问将进一步增强，其对于人类文明的影响将越来越大。
站在当下通用人工智能曙光初现的重要节点，考虑到技术演进不断加速的大背景，探索如何让人工智能与人类价值对齐，不仅十分必要，也愈发紧迫，是事关人工智能乃至人类文明持续发展的重要命题。为深入推动相关工作，中国信息通信研究院人工智能创新中心（筹）拟依托中国人工智能产业发展联盟（AIIA）发起成立“人工智能价值对齐伙伴计划”（Deep Alignment），致力于广泛联合业界专家，系统推进人工智能价值对齐研究，确保人工智能安全可信的发展。
工作介绍
人工智能价值对齐伙伴计划成立后拟开展以下几方面工作：
01
体系化开展人工智能价值对齐研究
梳理人工智能价值对齐要求，从数据、算法技术、对抗测试等维度系统梳理价值对齐方法，整理相应案例，输出《人工智能价值对齐操作指南》（拟）研究报告。
02
推进人工智能价值对齐评估体系和技术工具研发等工作
凝聚共识形成价值对齐体系，丰富面向大模型典型应用场景的价值对齐评估数据库，建设相应的评估技术工具和平台等。
现征集伙伴计划首批成员单位，并将于近期举行成立仪式。欢迎各行业专家积极参与。
报名方式
请有意向加入AIIA“人工智能价值对齐伙伴计划”的单位，于2023年11月7日前，扫描下方二维码填写报名信息。
联系人：
白入文   15501202911
           [email protected]
呼娜英   15321699969
           [email protected]
刘   硕  13426019405
           [email protected]
关于中国人工智能产业发展联盟：
中国人工智能产业发展联盟（简称AIIA）是在国家发改委、科技部、工信部、网信办指导下，由中国信息通信研究院等单位发起的行业组织，立足于搭建全球化的人工智能生态合作平台，支撑政府决策，推进技术创新与应用落地，促进我国人工智能产业有序发展。AIIA现有成员单位850余家，计划于年底召开理事会和全会，敬请期待！
继续阅读
阅读原文