大模型的沃土在真实的行业场景中。
文丨猎云精选 ID：lieyunjingxuan
作者丨邵延港
大厂正在大模型战场激战，而腾讯却认为不能操之过急。在百度、阿里、商汤等互联网和人工智能厂商们发布大模型后，腾讯终于公布了其大模型进展，但与通用大模型不同的是，腾讯此次打算将自己擅长的事情做到极致。
6月19日，腾讯云在国家科技传播中心召开行业大模型及智能应用技术峰会上，首次公布腾讯云行业大模型研发进展，依托腾讯云TI平台打造行业大模型精选商店，为客户提供MaaS一站式服务，助力客户构建专属大模型及智能应用。
来源：腾讯云
腾讯集团高级执行副总裁、云与智慧产业事业群CEO汤道生表示：“就模型而言，比起通用大模型，企业更需要针对具体行业的大模型，并结合企业自身的数据进行训练和精调，以打造出更实用的智能服务。”
大模型掀起AI浪潮，行业参与者也在不断探索其商业化可能性。腾讯云发现产业场景则是大模型的最佳练兵场。腾讯云副总裁、腾讯云智能负责人、优图实验室负责人吴运声认为，依托腾讯云的高性能计算、行业大模型能力，以及腾讯多年深耕产业互联网积累的行业经验，腾讯希望为客户和伙伴，打造一站式的行业大模型精选商店，加速大模型在产业领域的创新实践。
基于各个产业场景的多样性和复杂程度，具体的行业大模型最终将展现出丰富的个性。腾讯MaaS服务也将催生出行业大模型生态。
大模型的普惠应用
大模型的发展，对数据和算力产生了巨大的挑战，也加大了企业应用大模型的成本。AI新纪元下，比起通用大模型，企业更需要针对具体行业的大模型，并结合企业自身的数据进行训练和精调，以打造出更实用的智能服务。企业对提供的专业服务要求高且容错性低，因此使用的大模型必须具备可控、可追溯和可修正的特点，并经过反复充分地测试。
企业在应用大模型时，常常面临计算资源少、数据质量差、投入成本高、专业经验少等挑战。对企业在大模型应用实践的路径探索，吴运声表示，腾讯云将通过TI平台，面向客户全面输出MaaS能力，可以满足客户模型预训练、模型精调、智能应用开发等多样化需求，让客户可根据自身业务场景需求，定制不同参数、不同规格的专属模型。
此外，汤道生称，大模型最终要在真实场景落地，要达到理想的服务效果，往往需要把企业自身的数据也用起来。因此，腾讯云推出了推出基于TI平台的行业大模型精调解决方案。
据了解，腾讯云TI平台行业大模型精调解决方案，具备完整大模型精调工具链，支持客户加入自己独有的场景数据，进行精调训练，客户可根据自身业务场景需求，定制不同参数、不同规格的专属模型。
值得注意的是，腾讯云打造了一站式行业大模型精选商店，内置多个高质量行业大模型，涵盖金融、传媒、文旅、政务、教育等多个行业场景。兼容支持多模型训练任务，企业可以按需取用。
腾讯云以文旅场景为例进行现场演示：通过加入文旅行业垂直场景数据、接入文旅客户API接口后，大模型不仅可以为用户制订细致的旅行攻略，提供非常人性化的服务体验，也让智能客服系统，实现服务商业化的闭环。未来，随着更多高质量数据的增加，模型的精调效果还会更好。
目前，腾讯云已经携手传媒、文旅、金融、政务、教育等行业的头部企业，在十余个行业探索了超50个行业大模型的应用解决方案。在此基础上，企业不仅可以加入独有的场景、数据，快速精调生成专属模型；也可根据业务场景需求，按需定制不同参数、规格的模型服务。
汤道生认为，企业所需要的是在实际场景中真正解决了某个问题，而不是在100个场景中解决了70%-80%的问题。有行业针对性的行业大模型，对与企业智能化升级更具有普惠价值。
腾讯云MaaS加速行业大模型落地
与发布通用大模型产品相比，腾讯云则直接跨越至大模型的行业应用环节。主要是通用大模型的训练数据主要来自公开数据集或网络数据，对于特定行业的专业领域知识了解有限。此外，通用大语言模型的训练需要大量计算资源和漫长的训练周期，同时，安全和合规也是必要的考量因素。
从腾讯云MaaS全景图可以看到，腾讯云加大了大模型基础设施建设。
来源：腾讯云
在技术底座方面，今年4月14日，腾讯云发布新一代HCC高性能计算集群，采用最新一代星星海自研服务器，搭载NVIDIA H800 TensorCoreGPU，基于自研网络、存储架构，带来3.2T超高互联带宽、TB级吞吐能力和千万级IOPS。实测结果显示，新一代集群算力性能较前代提升3倍。
此外，腾讯云即将推出向量数据库（Tencent Cloud VectorDB），源自腾讯集团每日处理千亿次检索的向量引擎（OLAMA），单索引支持10亿级向量规模，更适用于AI运算、检索，数据接入AI的效率也比传统方案提升10倍。
在平台层面，腾讯云TI平台内置多个高质量行业大模型，涵盖金融、传媒、文旅、政务、工业等多个行业场景，企业可以结合自身场景数据可按需定制精调，也可以根据自身需求开展多模型训练任务，大幅降低大模型应用门槛。用户也可以通过TI平台以及模型的私有化部署、权限管控和数据加密等方式，让企业用户在打造模型与使用模型时都更放心。
同时，腾讯云TI平台提供完善的大模型工具链，包括数据标注、训练、评估、测试和部署等全套工具。同时，由TI-ACC升级的“太极Angel”提供更优的训练和推理加速能力。在传统CV、NLP算法模型的基础上，新增了对大模型的训练和推理加速能力，通过异步调度优化、显存优化、计算优化等方式，相比行业常用方案性能提升30%+。
再次，TI平台沉淀了从“业务分析、数据处理、大模型选择”到“模型评测”的一体化完整方法论，同时支持MLOps的体系及工具，保障客户需求的顺利交付。
腾讯ToB新引擎
在腾讯一季度财报电话会上，腾讯公司总裁刘炽平就表示，腾讯对AI一直有所布局，AI 及大模型对于腾讯整个业务来说是一个增长的扩大器。如今，腾讯云MaaS将成为腾讯ToB业务的新增长极。
基于腾讯云MaaS的能力，腾讯的腾讯企点、腾讯会议、腾讯云AI代码助手等三大SaaS应用全面智能升级。
新一代的腾讯企点智能客服，基于行业模型，结合客户业务需求进行训练与精调，客服机器人可以提供更精准、更详细的回答，甚至调用业务系统来提供实时数据。对比上一代智能客服的机械回答，用户体验有很大的提升。
腾讯会议即将推出覆盖会议全流程场景的智能小助手。通过简单自然的会议指令，协助用户进行日程安排、会管、会控等一系列操作。会后可以自动生成智能总结摘要，还能基于智能录制的能力，帮助用户高效回顾，提升用户开会和信息流转效率。值得注意的是，腾讯会议基于行业大模型的智能录制功能，已经以付费的形式面向会员、商业版和企业版用户全量开放。
新一代AI代码助手，用AI加持来重塑开发体验和团队能力，让开发者通过全新的人机协作，达到高效创作。AI代码助手支持多种编程语言和主流开发框架、以及常用开发环境；覆盖开发关键流程，包括沟通、编码、排错、评审和调优，高效承接机械性工作，释放开发者时间和精力来专注代码创作，实现开发全面加速。同时也可以基于正负反馈，不断训练调优代码生成过程，实现工具持续改进。
不过，行业大模型需要“大模型”更懂行业，才能更易落地。未来要拓展更多行业大模型的应用时，行业生态不可避免。
来源：腾讯云
在6月19日的发布会上，腾讯云联合来自金融、文旅、传媒、政务、教育等数十个行业的22家客户正式启动行业大模型共建合作，未来将依托腾讯云领先的行业大模型能力，构建垂直行业模型及应用。并携手17家生态伙伴共同发起了“腾讯云行业大模型生态计划”，致力于共同推进大模型在产业领域的创新和落地。
在行业大模型标准体系方面，腾讯云联合中国信通院共同启动了“行业大模型标准体系及能力架构”研究，该研究涵盖模型行业能力、模型工程化性能、模型算力网络、模型安全可靠等方面，未来将为行业大模型的建设和应用提供完备的能力和标准体系。
生态共建是AI发展的有效路径。汤道生表示，“今天，我们再一次站在数字科技革命的奇点上，大模型只是开端，AI与产业的融合，将绽放出创造力的未来。”
（首图来源：猎云网）
- END -
你“在看”我了吗？
继续阅读
阅读原文