新智元报道  

编辑:白峰、鹏飞
【新智元导读】并行计算是一切高性能计算,也是AI算力指数级爆发的基础。AI、ML、量子计算、生物计算等等前沿技术应用,都依靠并行计算做支撑。新冠肺炎突发,高性能计算、人工智能等先进计算技术的应用在病毒研究及疫情防控中发挥了重要作用。随着近期“新基建”大潮的助推,未来几十年并行计算将真正迎来“黄金时代”。「新智元急聘主笔、高级主任编辑,添加HR微信(Dr-wly)或扫描文末二维码了解详情。

并行计算的由来

1946 年,世界上第一台通用计算机“ENIAC”在美国宾夕法尼亚大学诞生。
1959 年到 1964 年间设计的计算机一般被称为第二代计算机。大量采用了晶体管和 印刷电路。计算机体积不断缩小,功能不断增强,可以运行 FORTRAN 和 COBOL。
1964 年到 1972 年的计算机一般被称为第三代计算机。大量使用集成电路,典型的 机型是 IBM360 系列。1972 年以后的计算机习惯上被称为第四代计算机。基于大规模集成电路,及后来的超大规模集成电路。
1976 年,Cray-1,第一台商用超级计算机问世。集成了 20 万个晶体管,每秒进行 1.5 亿次浮点运算。
进入本世纪,并行计算得到飞速发展。由于单处理机的计算速度不断提高,并行计算机的体系结构趋于成熟,数据传输网络的标准化和传输速率的大幅提升,使得并行计算机的研制周期逐渐缩短。
并行计算擅长建模、模拟、理解真实复杂的现象,可以节省时间和花费、解决更复杂的问题,更好的发挥底层硬件的计算能力。
我国并行算法研究始于物理学家,接着中科院物理所的王鼎盛、生物物理所的陈润生、中国科大的陈国良、软件所的孙家昶、计算所的孙凝晖等科研人员成立了一个研究并行算法和并行软件的小组,这个小组引领了国内并行算法和并行软件研究,为我国并行计算的发展奠定了基础。若干年后,这个不到十人的跨学科小组出了四位院士。

院士李国杰:未来几十年是并行计算的黄金时代

中国工程院院士李国杰表示,下一个十年将出现一个全新计算机架构的“寒武纪”大爆发, 学术界和工业界计算机架构师将迎来一个激动人心的时代。
最近的新冠疫情让我们得到很多启示,疫苗与抗病毒新药研制涉及复杂的数学模型,必须借助数值方法应用并行计算求解,并行处理技术将在对抗病毒中发挥不可替代的作用。
并行计算现在已经处在一个全新的时代。2017 年获得图灵奖的计算机体系结构大师 Hennessey 和 Patterson 指出,无论是在指令级处理的技术还是多核处理技术,通用处理器固有的低效率和缩放比定律、摩尔定律的终结,使得处理器架构师和设计者已经不太可能在通用的处理器上再保持显著的性能改进。
“计算机体系结构的改进、创新必须和并行算法、并行软件的改 进创新同步进行,越是高层的改进得到的性能和效率的提高越大。不管是突破摩尔定律还是冯•诺依曼瓶颈,都必须跨层次进行。未来几十年是并行计算的黄金时代!”
科院“先导杯”并行计算应用大奖赛启动,助力并行计算生态建设
随着疫情逐渐消退,“新基建”成为推动经济发展、促进产业升级、科技进步的重要角色,也对我国并行计算软件和应用生态带来诸多挑战。如中科曙光总裁历军所言,我国在计算硬件设施领域位居世界前列,但在计算软件生态、软件应用能力及人才培养方面,与先进国家存在不小差距。
中国工程院院士李国杰介绍,目前,我国大型科学计算的应用软件基本依靠进口。我国超算经费用于应用软件开发的比例不足 10%,美国相应的投入资金约为中国的 6 倍。
首届中国科学院“先导杯”并行计算应用大奖赛在 3 月 25 日正式启动,大赛设置基础算法、人工智能、应用三个赛道,旨在突破计算机软件环境与学科应用等方面的瓶颈,选拔及培育高水平的技术交叉型人才,建立和完善中国并行计算产业生态,让大数据中心、大计算中心等“新基建”能够更好的发挥作用。
继续阅读