↑点击上方蓝色字关注硅谷高创会~
北京时间今天凌晨四点,英伟达(NVIDIA) 2024年GTC大会正式开启,作为英伟达 2024 的开年大戏,身着标志性皮夹克的万亿富豪黄仁勋站在舞台中央,平静地甩出继 H100、A100 后的又一系列“核弹”级超级芯片。
在过去 10 年里,英伟达将 AI 推进了大约一百万倍,远超摩尔定律,或者说英伟达正在书写自己的迭代定律。从芯片算力到 AI 落地,从汽车制造到医疗物流,英伟达在自身进步的同时,也推动了各行各业发展。
通过为包括OpenAI、Meta等人工智能企业提供包括H200、H100、A100等不同规格的GPU,英伟达一跃成为全球市值增速最快的企业之一,也因此被外界称之为人工智能时代的”卖水人“。
(图源网络)
01
全球最强 AI 芯片诞生
发布会上,黄仁勋宣布英伟达将推出用于万亿参数级生成式AI的NVIDIA Blackwell架构。搭载Blackwell技术,英伟达将推出B200和GB200系列芯片。
(黄仁勋展示Blackwell和Hopper架构GPU对比,左边为Blackwell架构的B200芯片)
Blackwell B200 并不是传统意义上的单一 GPU,它由两个 Blackwell GPU + 一个 Grace CPU 芯片组合而成,并通过 10 TB/s NV-HBI(Nvidia 高带宽接口)连接,以确保每一颗芯片能够单独运行。
因此,B200 实际上拥有 2080 亿个晶体管,能够提供高达 20 petaflops 的 FP4 算力,其中的两个 GPU 与单个 Grace CPU 相结合的 GB200,可以为 LLM(大语言模型)的推理提升 30 倍的工作效率。GB200 的性能也将大幅提升,在具有 1750 亿个参数的 GPT-3 LLM 基准测试中,GB200 的性能是 H100 的 7 倍,而它的训练速度是 H100 的 4 倍。更重要的是,与 H100 相比,它可将成本和能耗降低 25 倍。
此前,英伟达的 AI 处理器 H100 尽管十分畅销,然而每块 H100 的峰值功耗高达 700 瓦,超过了普通美国家庭的平均功耗,专家预测,随着大量 H100 被部署,其总功耗将与一座美国大城市不相上下,甚至超过一些欧洲小国。
黄仁勋说,训练一个 1.8 万亿参数模型之前需要 8000 个 Hopper GPU 和 15 兆瓦的功率,如今 2000 个 Blackwell GPU 就可以做到这一点,而功耗仅为 4 兆瓦。
Blackwell B200 GPU 的彪悍性能,从能耗方面也能完美体现。采用了最新 NVLink 互联技术的 B200,支持相同的 8GPU 架构和 400GbE 网络交换机,在性能大幅提升的同时,可以做到与上一代 H100/H200 相同的峰值能耗(700W)。
(图源网络)
另外一点值得注意的是 FP4 算力。黄仁勋表示在过去的 8 年里,AI 算力提升了一千倍,其中最为关键的改进是第二代 Transformer 引擎,通过 FP4 算力使计算、带宽和模型大小得到了显著提升。相较于 AI 常用的 FP8 算力,B200 的 2 个计算芯片让其性能达到了 H100 的 2.5 倍,每个 Blackwell 架构下的芯片算力要比上代 Hopper 芯片高出了 25%。
英伟达高级科学家 Jim Fan 称全新的 Blackwell B200 GPU 是「新的性能野兽。」
(图源网络)
黄仁勋同时宣布了谷歌、微软、亚马逊等公司与Blackwell平台进行合作。
此外,黄仁勋提到,比亚迪将采用英伟达下一代智能汽车芯片Thor。比亚迪同时将使用英伟达基础设施进行自动驾驶模型训练,以及英伟达Isaac来设计/模拟智能工厂机器人。
02

全面升级软件服务

市场正在升温,硬件和软件方面的竞争都在加剧。在本次 GTC 中,英伟达不仅通过新的硬件创新来应对竞争,还展示了其 AI 软件战略如何帮助确定其在该领域的领导地位,以及未来几年将如何发展。
黄仁勋在演讲中宣布了英伟达在AI软件领域的新进展——
NIM微服务
。这一全新的服务模式,将彻底改变软件开发的方式。未来,开发者可能不再需要逐行编写代码,而是通过与AI的交流,调动一系列NIMs来完成训练和应用部署。英伟达的愿景是成为AI软件的“晶圆厂”,为全球开发者提供最强大、最高效的AI生产容器。

(图源网络)
Omniverse云平台的更新,为数字孪生技术带来了新的可能。黄仁勋强调,英伟达的目标是通过完全保真、完全数字化的方式模拟整个产品,从而扩大计算规模。这种全新的仿真工具,不仅能够提升产品设计的效率,还能够在虚拟环境中测试和优化产品性能。
(图源网络)
老黄表示英伟达已经推出了数十种企业级生成式 AI 微服务,企业可以使用这些服务在自己的平台上制作应用程序,同时保留对其知识产权的完全所有权和控制权。他也表示,英伟达表示正认真考虑从根本上重新设计整个底层软件堆栈,希望借 AI 之力为人类生成更优质的代码。之所以会有这样的想法,原因非常简单:几十年来,整个世界一直受制于围绕 CPU 发展出的传统计算框架,即由人类编写应用程序以检索数据库中准备好的信息。
黄仁勋在发布会上指出,“我们今天的计算方式,首先需要确定信息是由谁编写、由谁创建的,也就是要求信息先要被记录下来。”
英伟达的 GPU 为加速计算开辟出一条通往算法化计算的新路,可以依托创造性推理(而非固有逻辑)来确定相关结果。
03

机器人技术的新突破

在具身智能领域,英伟达宣布了名为GR00T的项目,旨在推动机器人和具身智能的突破性工作。Project GROOT 是一个人形机器人模型,英伟达与 Jetson Thor 一起生产,Jetson Thor 是一款 SoC,也是 Nvidia Isaac 的升级版。英伟达表示,GROOT 机器人将理解自然语言并模仿人类动作来学习灵活性。Jetson Thor 运行基于 Blackwell 的 GPU,可在 8 位数据处理中提供 800 teraflops 的 AI 性能。
老黄透露,由该平台驱动的机器人将被设计为能够理解自然语言并模仿机器人的动作,观察人类行为。这使 GROOT 机器人能够快速学习协调性、灵活性和其他技能,以导航、适应现实世界并与之互动——并且绝对不会导致机器人叛乱。
“为通用人形机器人构建基本模型是我们当今人工智能领域能够解决的最令人兴奋的问题之一,”老黄说。“这些使能技术正在融合在一起,使世界各地领先的机器人专家能够在人工通用机器人领域取得巨大飞跃。
(图源网络)
英伟达GTC 2024大会为我们展示了一个由AI技术驱动的未来世界。从算力的飞跃到软件服务的革新,从数字孪生到具身智能,英伟达正以其强大的技术实力和前瞻性的视野,引领我们进入一个充满无限可能的新时代。让我们拭目以待,英伟达将如何继续推动AI技术的发展,为全球带来更多创新和变革。
硅谷高创会起源于硅谷,深耕中国,布局全球,成立至今已有13年,历年大会持续致力于成为汇通全球创新资源的开放性平台,促进全球各国、 社会各界间的友好交流合作,从而推动科技进步,助力社会发展。硅谷高创会已为超过1000家中美科技企业提供出海一站式服务,创业咨询,投融资对接,培训等会员服务,成功打造了最具影响力的企业创新服务的生态圈,致力于协助传统企业转型升级,破局出海。我们希望,通过对信息的挖掘、整合、分析,打通出海企业信息壁垒,帮助企业理解出海,实践出海。
硅谷高创会将于5月17日开展走进标杆企业参访活动,将前往北京,参访知名互联网企业(小米/联想/京东,三选二)的创新管理,欢迎扫码联系工作人员报名。
报名可享如下权益:
1、成为硅谷高创加速营超级会员(价值3000元,1年期,可享看百节大咖课(含硅谷等国际一线大咖付费闭门课程回放)、项目路演回放等权益;购买平台其他课程时还可享受9折优惠
2、享有线下会员专属“私想会”2次,线下面对面拓展人脉,融入高端圈层
👇扫码即可报名硅谷高创会2024标杆企业考察(共12期)
报名可享如下权益:
1、获得工信部工业文化发展中心颁发的结业证书
2、成为硅谷高创俱乐部认证会员(价值2万元,1年期),享有投融资服务,商业对接服务等一站式赋能服务,参与项目闭门路演、线下私想会、加入全球高端圈层等权益。
3、硅谷高创会拥有实际帮助企业落地的经验,可为企业提供公司注册,场地,财务,政策支持申请等一系列的服务。
硅谷高创会将于2024年4月29日—5月7日带领企业家/青年领袖前往奥马哈、硅谷、纽约三地亲临“投资界春晚”,与全球5万投资者齐聚奥马哈,与股神巴菲特面对面!参与本次商务考察团,就能与巴菲特公司的股东、合作伙伴、全球顶级投资机构、全球顶级对冲基金、银行家、VC/PE机构和高净值精英、企业家交流,撬动几百万几千万甚至亿级的资源!更有机会与股神巴菲特面对面提问,获得股神亲自解答!
点击蓝字链接或者扫码即可报名/咨询:
硅谷高创会出品:巴菲特股东大会VIP团,投资界年度“朝圣”盛典,硅谷-奥马哈-纽约三地深度考察
End
联系我们>>
|点击关注我们 👇 记得星标|
“专精特新”报名及合作事宜>>
工业和信息化部工业文化发展中心主办,北京高创汇智科技有限公司承办,北京大兴国际机场临空经济区管理委员会联合承办,北京大兴区投资促进服务中心支持,共同开展的“专精特新”企业创新特训营第一期在北京大兴成功举办!

欢迎各位朋友扫码添加工作人员微信(备注专精特新合作/报名),报名下一期“专精特新”企业创新特训营或成为城市事业合伙人
继续阅读
阅读原文