全局智算 眼见为实
智算,一个热得不能再热的话题。但是对于大多数人来说,可能只闻其名,不见其形。如果你对智算也充满好奇与期待,那么不妨和我一起,来一次说走就走的智算沉浸式体验,现在就开启一场“桐乡之旅”!
在桐乡,由宁畅打造的首个AI算力栈“NEX AI Lab”已经正式开放预约试用,集群管理系统、问答机器人、自然语言训练、图像识别、推荐系统、情感分析模型、文本生成图像等智算体验项目应有尽有。宁畅CTO赵雷揭秘,NEX AI Lab由于集成了加速计算节点、全闪存存储节点,可为GPT、LLaMA、Stable Diffusion等AI模型提供多元场景应用优化支持,其强大的全局AI能力,所见即所得。
NEX AI Lab看似横空出世,实则是宁畅基于“全局智算”的规划与战略构想,在背后运筹帷幄。
从公司成立以来,宁畅在每年开年的时候都会为接下来一个阶段的发展“定调”。从定制化、服务器专家到冷静计算,再到如今的全局智算,在明确的战略指导之下,宁畅还会制定一套清晰的执行策略与落地想法。在桐乡成功落地的NEX AI Lab,就是全局智算最佳的代言人。
庖丁解牛,赵雷结合其AI算力栈,解析了宁畅的全局AI能力。由下至上,宁畅的全局智算能力由六个层面构成。
第一层,AI硬件资源层。在这一层,除了必须具备的对最新CPU\GPU的支持、强大的存储能力以及高性能网络以外,宁畅最引以为豪的就是其领先的全栈液冷方案,可以实现多种交付形态的灵活组合。特别值得一提的是,宁畅B8000液冷整机柜服务器采用电、液、网三路全盲插设计,部署周期相较传统方式提升30倍。根据不同客户不同应用阶段的需求,宁畅还可以提供风冷或风冷+液冷的过渡性解决方案。
第二层,AI集群设计层。集群设计并不像人们想象的那样,只是将海量的硬件进行简单地连接或堆叠,而是要针对不同客户的实际应用场景,先分析整个业务运行的特征和系统的量化需求,然后再提供包括微架构、网络、存储、AI模型特征等在内的系统化的方案。
第三层,AI算子优化层。这一层是AI集群调优和交付的关键所在。为了更好地降本增效,宁畅提供了整体的AI算子自优化能力,且优化工作不是单点,而是AI全栈优化,从而有效地减少了模型执行时间,降低了资源的消耗,同时提高了能效比,使得AI应用能够在有效的资源上高效运行。
最新评论
推荐文章
作者最新文章
你可能感兴趣的文章
Copyright Disclaimer: The copyright of contents (including texts, images, videos and audios) posted above belong to the User who shared or the third-party website which the User shared from. If you found your copyright have been infringed, please send a DMCA takedown notice to [email protected]. For more detail of the source, please click on the button "Read Original Post" below. For other communications, please send to [email protected].
版权声明:以上内容为用户推荐收藏至CareerEngine平台,其内容(含文字、图片、视频、音频等)及知识版权均属用户或用户转发自的第三方网站,如涉嫌侵权,请通知[email protected]进行信息删除。如需查看信息来源,请点击“查看原文”。如需洽谈其它事宜,请联系[email protected]。
版权声明:以上内容为用户推荐收藏至CareerEngine平台,其内容(含文字、图片、视频、音频等)及知识版权均属用户或用户转发自的第三方网站,如涉嫌侵权,请通知[email protected]进行信息删除。如需查看信息来源,请点击“查看原文”。如需洽谈其它事宜,请联系[email protected]。