WAIC “探宝” | 这块高颜值加速卡,终于藏不住了
2023 WAIC
这两天,有“AI春晚”之称的
世界人工智能大会
在上海世博展览馆召开
这种行业盛会,小编我怎么能错过
出!发!
一走进展馆,就有9道光柱“冲天而起”。惊,怎么,是小当家做好饭了吗?定睛一看,原来是本届大会评选的九大“镇馆之宝”。
镇馆之宝
每一个看起来,都是超酷黑科技。其中就有我们的当家法宝:Graphcore® C600 IPU处理器PCIe卡。
走进Graphcore(拟未)的展台,这里有正在进行中的展台演讲,有生成式AI模型现场演示。
展台一角人头攒动,我奋力挤进去,顺利地找到了传说中的镇馆之宝。
之前没有人告诉我C600这么好!看!啊!
在初次见面的冲击过去之后,我发现这块加速卡不止于高颜值。
这款主打推理,兼做训练的产品支持FP8浮点运算,是行业中率先引入FP8的产品之一。它可以提供FP8浮点运算560 TFLOPS的强大AI计算能力,让推理结果瞬息而至,快速响应用户需求。
C600已经成功支持15亿参数的GPT2-XL,推理延时已经达到1 ms/token。这种强力的“推背感”,让我在三十多度的高温里,体会到了一种,风驰电掣,呼啸而过的清凉感觉。
C600还入围了2023 SAIL奖TOP30榜单。
这块小小的加速卡中,凝聚着许多先进技术。
C600的性能优势主要来自其独特的基于SRAM的近存计算架构。C600是在Graphcore经典的Wafer-on-Wafer MK2 IPU的基础上,增加了用于低精度和混合精度AI的FP8。
去年3月,Graphcore推出了世界上第一款3D Wafer-on-Wafer处理器——Bow IPU。Graphcore通过封装实现了性能及功耗比的进一步提升,为处理器的发展提供了工艺之外封装道路上的又一新实践。
为了帮助AI从业者真正实现模型落地,Graphcore还推出了PopTransformer和PopRT等许多工具,帮助AI从业者应对模型部署挑战。
古人说,世之奇伟、瑰怪,非常之观,常在于险远,非有志者不能至也。
这次探宝之旅如此,科技的发展也是如此。
这次探宝之旅圆满结束
以后的AI“探宝”之旅中
还希望能和更多志同道合的小伙伴们一起
携手共拟智能未来
Graphcore中国官网
Graphcore官方微信
Graphcore微博创新社区
Graphcore知乎创新社区
最新评论
推荐文章
作者最新文章
你可能感兴趣的文章
Copyright Disclaimer: The copyright of contents (including texts, images, videos and audios) posted above belong to the User who shared or the third-party website which the User shared from. If you found your copyright have been infringed, please send a DMCA takedown notice to [email protected]. For more detail of the source, please click on the button "Read Original Post" below. For other communications, please send to [email protected].
版权声明:以上内容为用户推荐收藏至CareerEngine平台,其内容(含文字、图片、视频、音频等)及知识版权均属用户或用户转发自的第三方网站,如涉嫌侵权,请通知[email protected]进行信息删除。如需查看信息来源,请点击“查看原文”。如需洽谈其它事宜,请联系[email protected]。
版权声明:以上内容为用户推荐收藏至CareerEngine平台,其内容(含文字、图片、视频、音频等)及知识版权均属用户或用户转发自的第三方网站,如涉嫌侵权,请通知[email protected]进行信息删除。如需查看信息来源,请点击“查看原文”。如需洽谈其它事宜,请联系[email protected]。