千亿美元的AI芯片市场,2023年火得滚烫,现阶段的AI芯片,根据技术架构种类来分,主要包括GPGPU、FPGA、以 VPU、TPU 为代表的ASIC、存算一体芯片。
根据其在网络中的位置,AI 芯片可以分为云端AI芯片 边缘和终端AI芯片
云端主要部署高算力的AI训练芯片和推理芯片,承担训练和推理任务,例如智能数据分析、模型训练任务等;
边缘和终端主要部署推理芯片,承担推理任务,需要独立完成数据收集、环境感知、人机交互及部分推理决策控制任务。
根据其在实践中的目标,可分为训练芯片推理芯片
目前,寒武纪、平头哥等1.0时代玩家,现已成为优质AI算力芯片上市公司;2.0时代涌现的非上市AI算力芯片公司如壁仞科技、登临科技、天数智芯等在产品端持续发力;3.0时代,千芯科技、亿铸科技等初创公司正在存算一体这一架构上寻求突破。
目前,多数AI芯片公司布局边缘侧、中心侧偏小算力场景,例如智慧安防、智慧城市、智慧医疗等应用场景;壁仞科技、平头哥、亿铸科技能够覆盖边缘侧、中心侧偏大算力场景;在新一批初创企业中,亿铸科技做出大胆的尝试,试图用存算一体架构去做大算力场景。
故,按照架构以及应用场景分类,呈现出以下AI算力芯片中游厂商全景图:
近年来,国内厂商训练芯片产品硬件性能不断取得突破,但与市场主流英伟达A100产品仍存在一定差距:
以燧原云邃T20产品为例,其32位单精度浮点性能达32TFLOPS,高于A100的19.5TFLOPS,且在功耗上更具优势,但内存宽带不足A100的1/3,在应对机器学习和深度学习的带宽需求上仍有差距。
AI推理芯片,国产有望追平
目前,寒武纪、燧原、昆仑芯等国内厂商产品已具备与市场主流的Tesla T4 正面竞争能力:其能效比为1.71TOPS/W,与T4的1.86TOPS/W差距较小。
ChatGPT火爆来袭,引发AI产业巨浪,国产AI芯片正迎来3.0时代;在3.0时代,更适配大模型的芯片架构将崭露头角,同时系统级创新将成为未来的发展趋势,抢先下注的厂商将先吃到ChatGPT带来的红利。
资料来源:https://mp.weixin.qq.com/s/Ioq-g3TRBJdHVwN83X3h0w
申明:感谢原创作者的辛勤付出。本号转载的文章均会在文中注明,若遇到版权问题请联系我们处理。
推荐阅读
更多架构相关技术知识总结请参考“架构师全店铺技术资料打包”相关电子书(41本技术资料打包汇总详情可通过“阅读原文”获取)。
全店内容持续更新,现下单“架构师技术全店资料打包汇总(全)”包含服务器基础知识全解(终极版)存储系统基础知识全解 pdf及ppt版本,后续可享全店内容更新“免费”赠阅,价格仅收249元(原总价439元)。
温馨提示:
扫描二维码关注公众号,点击阅读原文链接获取架构师技术全店资料打包汇总(全)电子书资料详情

继续阅读
阅读原文