作者 | Lucien  
AI 大模型与 GenAI 重塑软件的大趋势下,软件会发生哪些本质的变化?如果“所有软件都值得用 AI 重做一遍”,那么该如何重做?
将在 2024 年 6 月 14-15 日举办的 ArchSummit 架构师峰会 上,邀请到了华为云架构与设计部首席架构师马会彬老师来会议上演讲,他将分享华为云“AI 原生应用引擎”的架构与实践话题,从 GenAI 重塑软件的本质变化、以及 AI 原生的概念与内涵解剖,分享华为云 AI 原生应用引擎的架构设计、及实践思考。
在正式演讲之前,InfoQ 采访了马会彬老师,请他提前剧透关于 AI 原生应用开发的内容,希望对大家有帮助。
InfoQ:您认为在 AI 大模型与 GenAI 重塑软件的大趋势下,软件行业会发生哪些本质性的变化?如何理解 AI 对软件行业带来的颠覆式创新和技术驱动力?
马会彬:以大模型为核心的 GenAI 技术所带来的“创造能力”、“推理能力”以及“交互能力”,都是之前的经典 AI 或者经典软件无法实现的,这就为软件这种数字基础设施带来了颠覆式的变革机会;此外,以大模型为核心的 GenAI 也预示着极强的通用 AI(AGI)技术趋势,而且相关技术的进展可以说是日新月异的,尤其是来自以下几方面的技术驱动:1)以 Embedding(语义向量)为代表的技术,解决了万物智能的通用表示问题;2)以 Transformer 架构为代表的技术,解决了 AI 模型的通用架构问题;3)以 Scaling Law 为代表的技术,解决了算力摩尔定律向智能摩尔定律、以及场景泛化摩尔定律的变换;4)以 LLM OS 为代表的系统抽象,解决了通用 AI 计算架构的问题;
由此可以判定,从 AI 大模型走向通用人工智能(AGI)将不仅仅是一种技术趋势,而是一种可见的确定性的未来,而这种变化,必将对软件行业带来颠覆式的创新。
InfoQ:从业务视角和技术视角来看,为何认为所有软件都值得用 AI 重做一遍?在 AI 原生应用的概念演变中,业务需求与技术手段的关系发生了怎样的变化?
马会彬:对软件产业来说,可以分别从需求方与供给方两个维度来理解;从需求方来看,GenAI 对企业价值创造与价值变现的全流程、以及员工的生产力工具,都将带来积极的重大变化,尤其是在智能客服、智能营销、智能研发、智能办公等领域。另外,从供给方来看,GenAI 对软件的技术架构、软件工程体系、软件的交互设计、以及软件的商业模式,也将带来根本性的革新。
InfoQ:您如何定义 AI 原生架构及 AI 原生应用?在实践中,AI 原生架构和传统架构有何区别?
马会彬:行业目前对 AI 原生有几种不同的称呼,譬如:AI First、AI Native、AI Oriented Programming 等,简单 AI 原生或 AI 原生应用就是指以 AI 大模型为底座、以生成式架构为核心的一种新应用,也可以说 AI 原生应用就是指应用价值主要来自 AI 大模型的一类应用。传统应用更多以算法、数据结构、逻辑编程为特点,而 AI 原生应用的特点则是以生成式 AI 大模型为基础,以 Prompt 提示词为业务输入,以生成式内容为结果,因此也可以称传统应用为“构成式架构”、而 AI 原生应用为“生成式架构”。
InfoQ:对于 AI 原生架构的概念和内涵,您能详细解释一下吗?AI 原生架构如何与现有的软件架构相区别和结合?
马会彬: 对于 AI 原生架构,一定程度上可以参照业界对云原生架构的概念定义来理解。云原生(Cloud Native)是指构建、运行、管理基于云环境、利用云环境、适应云环境而发展起来的新的软件系统实践范式,包括具备微服务架构、弹性伸缩、分布式、高可用、多租、自动化运维等关键特征的架构实践,以及与之匹配的全功能团队并高度协作的组织实践、采用微服务实现持续交付的工程实践等。
那么,AI 原生(AI Native)可以定义为构建、运行、管理基于 AI 大模型、并适应 AI 大模型的应用而发展起来的软件系统实践范式,以这种范式构建的应用就称为 AI 原生应用。AI 原生的软件新范式,包括 AI Native 的软件架构实践、AI4SE 的软件工程实践,以及面向 AI 编程的组织实践,从而实现存量软件的 AI 重塑、以及孵化新的 AI Native 超级应用。
InfoQ:在 AI 重塑存量软件方面,您认为有哪些方式和演进路径?在实践中,如何将 AI 技术应用于现有的存量软件中?
马会彬:AI 并不是取代存量软件,而是增强存量软件的功能或者改进存量软件的使用体验。大概有四种方式:
  • 存量软件的某个模块被 AI Native 的模块替代;
  • 存量软件增加 AI 模块来提升、改善能力及体验;
  • 存量软件在交互上被 AI Agent 类应用接管;
  • 存量软件在软件工程上采用 AI4SE 的生成方式,来提升软件开发过程的效率及质量。
这里最著名的例子是微软的 Office Copilot。
InfoQ:您提到的新的 AI 原生超级应用是指什么?这些超级应用与传统应用相比有何优势和特点?
马会彬:随着大模型能力的快速提升,未来可能会出现两类 AI 原生的超级应用。一类是类似 MidJourney 这样的全新的 AIGC 应用;另一类是类似 ChatGPT / Notion AI 这样的新超级入口应用。与传统应用相比,AI 原生的超级应用能够适应的场景更多、功能更广,体验更佳,在开发过程和模式上更多以数据、算力、模型驱动,因此从价值上看应用的价值绝大部分来自于 AI 大模型,业界有说法认为至少 50% 以上;这就与传统应用以产品经理、开发工程师为主的开发模式,形成本质上的差异。
InfoQ:您能介绍一下华为云 AI 原生应用引擎的架构设计和实践思考吗?在实践中,该引擎的主要技术特点和应用场景是什么?
马会彬:华为云 AI 原生应用引擎来自华为公司自身的 AI 应用实践,属于华为云“经验即服务,让优秀得以复制”战略落地的一个实例。华为公司 +AI 的实践历程起始于 2005 年,从最初的商业智能、到场景 AI、普惠 AI(内部也称 AI 1.0),走到 2022 年的生成式 AI(内部也称 AI 2.0);与 AI 1.0 相比,AI 2.0 在内部也称为是“经验主义”的革命,可以将公司在过去二三十年中持续累积的大量研发代码、专业知识、标准规范等,训练成特定的 AI 大模型,进而服务于上层的业务场景、提供丰富的 AI 技能、超越预期的效果、以及接近人的普适性,从而为生产力提升、生产方式的转变,以及交付模式的变化,带来颠覆性的变化。华为云 AI 原生应用引擎基于华为自身的实践经验及资产积累,是基于华为云的一个云服务化产品实现,定位就是从企业 CIO 视角及应用开发者视角,辅助选好、用好、管好大模型,以及基于大模型实现业务场景和 AI 应用的快速开发与创新。
InfoQ:从 CIO 的视角来看,AI 原生应用落地面临的主要挑战和需求是什么?在 AI 原生应用的落地过程中,如何满足企业 CIO 的需求?
马会彬:从 CIO 视角看大模型与 AI 原生应用落地主要面临 6 大挑战:
  • 模型很多、如何选择最匹配、最适合的;
  • 如何提升模型在场景落地上的智能效果;
  • 如何建立 IT 部门与业务部门之间 AI 应用构建的协同关系;
  • 如何准备高质量数据,帮助 AI 理解业务;
  • 如何建立完善的风险保障机制,保障 AI 落地的安全可信;
  • 如何平衡、优化大模型带来的成本与效益;
华为云 AI 原生应用引擎正是针对这 6 大挑战,基于华为自身的实践经验和生态资产积累,构筑产品功能和竞争力。
InfoQ:华为内部在 AI 原生应用落地方面的实践经验有哪些?在实践中,华为是如何克服挑战,取得成功的?
马会彬:华为在大的 IT 变革上都是采取自顶向下的方式,首先在公司层面成立了专业的生成式 AI 的变革组织,来统一制定相关的规范和策略,基于此明确建立:一套标准方法、一个 AI 平台、N 类 AI 应用;其次是确定数据治理规范、数据集资产与 AI 应用场景的对应及适配;最后是选择合适的业务场景,从小范围试点逐渐到大规模推广的过程。因此,从自身实践,不仅仅是孵化了一个 AI 平台产品,也包括了 AI 应用落地的统一架构、统一规范、业务实施方法论等知识资产,这些“经验资产”都可以基于华为云来服务更广泛的客户。
InfoQ:华为云如何赋能 AI 原生应用创新?其架构和实践方面有哪些特点?在推动 AI 原生应用创新过程中,华为云的主要贡献和作用是什么?
马会彬:简单可以归纳为三点:1)华为云 AI 原生应用引擎,提供一站式 AI 应用开发、运行与管理等;2)基于内外部生态沉淀的丰富行业 AI Know-How 和 AI 资产;3)定义 AI 原生应用的参考架构和最佳实践经验。在过去,华为云引领了云原生 2.0 的技术推广,我们也希望与生态伙伴、开发者一起再次引领 AI 原生应用、从理念到实践的推广,助力 AI 大模型从技术创新走向生产场景落地。
活动推荐
2024 年 6 月 14-15 日在深圳举办的 ArchSummit 架构师峰会 上,我们邀请了 CNCF、顺丰集团、腾讯、百度等企业的专家来演讲。会议上还设置了大模型、架构升级等专题,如果你感兴趣来会议上听演讲,欢迎进入 ArchSummit 会议官网,查看详细的会议内容。
会议现已进入 8 折早鸟购票阶段,可以联系票务经理 17310043226 , 锁定最新优惠。扫描上方二维码添加大会福利官,免费领取定制福利礼包。
继续阅读
阅读原文