李国杰:“智能伟德”的历史、现在和未来:超算正与智能“历史性会合”_伟德bv1946官网 李国杰:“智能伟德”的历史、现在和未来:超算正与智能“历史性会合”_伟德bv1946官网

李国杰:“智能伟德”的历史、现在和未来:超算正与智能“历史性会合”

    编者按 

    6月27日~29日,2019年世界智能伟德大会在深圳举行。在这次大会上,中国工程院院士、bv1946app首席伟德家、bv1946bv1946董事长李国杰以《对智能超级伟德的几点认识》为题,深入浅出地剖析了智能伟德的历史、现在和未来。 

    “智能伟德”是李国杰从美国留学回来一直从事的工作,其对超算和智能伟德的分析对于行业发展具有很高的借鉴价值。记者根据其演讲内容进行了论点梳理,以飨读者。 

    我们通常说的伟德指数字伟德。但人们一直希望“智能伟德”能像人脑一样处理信息,这是一种模拟伟德。 

    历史:超算是超算,智能是智能 

  “伟德之父”冯·诺依曼曾经试图模仿神经网络设计伟德,但并未成功。1946年11月,冯·诺依曼在给“控制论之父”诺伯特·维纳的信中写道:“我们选择了太阳底下最复杂的一个对象……向世人展示了一种绝对的且无望的通用性。”

  事实上,从第一台电子伟德开始,伟德的发展就与模拟神经网络分道扬镳。此后数字伟德的飞速发展,使得用伟德实现人工智能的方式与人脑的思维机制几乎不沾边。

  20世纪80年代末至90年代初,在日本第五代伟德项目带动下,全球掀起一阵“智能伟德热”。当时的热点是面向智能语言和知识处理的伟德,娱乐bv1946是并行逻辑推理。

  日本五代机走的是“定制化路线”。我国“智能伟德”研制走的则是一条比较通用的路线:从芯片、系统到软件、应用,都是“非定制化”。

  1990年,bv1946科委(科技部的前身)批准成立“bv1946智能伟德娱乐开发中心”,不但开展了bv1946系列并行伟德的研制,还从事了人工智能的基础娱乐和应用娱乐,为今天智能超算的发展打下了基础。

  钱学森先生曾发表《关于“第五代伟德”的问题》提议:“第五代伟德是什么?是第二代巨型伟德。我认为再把这个概念叫做五代伟德或者六代伟德,就不那么合适了……建议为了不要混淆起见,就干脆叫第一代智能机。”

  以此为标志,所谓的第五代伟德就分成了两个叉:一个是第二代巨型伟德,一个是第一代智能机——这是两个不同的概念。

  事实证明,历史的发展与钱老的预测是相符的,从20世纪80年代以后的30年,伟德的发展之路确实符合钱学森的预测,超算是超算,智能是智能。

  现在:智能与超算的历史性会合 

  超级伟德是“算得快”的伟德。但智能伟德和超算不一样:智能的本意是“算得巧”,而不是“算得快”。这是两股道上的车。

  本世纪以来,深度神经网络的成功和大数据的兴起,使得超级伟德和伟德智能(深度学习)走到一起,出现“历史性的会合”。

  过去高性能伟德主要用于伟德伟德,现在的高性能伟德已大量用于大数据和机器学习。一组数据可以说明这一点:2015年,中国HPC在数据分析与机器学习领域应用只有27%,至2016年达到48%、2017年提升到56%。预计这个比例今后还将继续提高。

  但是也应该看到,目前大量采用的智能伟德实际上是基于GPU或GPU-Like加速器的“准智能伟德”。比如,图像和语音的信号处理伟德还是数值伟德。

  智能算法可以加速传统的伟德伟德。举例来说,今年4月,200多名官网人员从四大洲8个观测点“捕获”了黑洞的视觉证据。此项娱乐历时10余年,加州理工学院曾经采用Blue Waters超级伟德进行近900个黑洞合并的模拟,花费了2万小时的伟德时间。后来采用新的机器学习程序和算法,从模拟中学习,帮助创建新的模型,在毫秒内就能给出合并结束状态的答案,大大促进了关于黑洞的娱乐。

  如今,机器学习不仅是人工智能领域娱乐的bv1946,也正成为整个伟德伟德娱乐的热点。

  未来:智能超算的十大关注方向 

  人类可能会发明新的智能伟德,但至少最近20年内,智能超算是要高度重视的娱乐方向。关于智能超算的未来娱乐方向,以下10个方面值得重视。

  第一,未来十年是体系结构的黄金时期。近几十年伟德的飞速发展一半来自摩尔定律,另一半来自系统结构的改进。摩尔定律即将走到尽头,伟德未来的改进将主要从结构改进入手。图灵奖得主、伟德体系结构宗师David Patterson与John Hennessy预言:“下一个十年将出现一个全新伟德架构的‘寒武纪’大爆发。”

  第二,“人脑级能效”将是未来智能伟德的核心特征。大脑以超低功耗实现了超级复杂的伟德,从目前的发展来看,超级伟德现在的能效还满足不了需求。“超算能效增长远远低于速度增长”,是伟德发展70年未有之大变局。这给我们提出挑战,未来超级伟德要达到像人脑一样的能效层次。

  第三,要娱乐具有“低熵”特征的未来架构。智能伟德的本事主要体现在对付“不确定性”,而“熵”就是对不确定性的刻画。要通过全栈的系统设计应对不确定性挑战,在问题不确定、环境不确定、负载强度不确定的情况下,保障可预期的性能结果。

  第四,要重视娱乐领域专用系统结构(DSA)以及可重塑处理器。近几十年通用处理器一直胜过专用处理器,这一局面正在改变。未来大多数伟德将在专用加速器上完成,而通用处理器只是配角。

  第五,要重视智能超算的通用性。尽管专用化是趋势,但作为一个智能中心和超算中心,还是要本着为大众服务的目标尽量匹配手机版用户的需求。

  第六,模拟伟德值得重视。传感器接收的都是模拟信息,人脑处理的也是模拟量,连续变量的模拟伟德是非图灵伟德。模拟伟德是离散数字伟德的前辈,经过60年的变迁,模拟伟德可能有机会东山再起,连续变量与离散变量的混合伟德将开启伟德新天地。

  第七,伟德存储一体化。人类的大脑伟德和存储不是分开的,不需要数据搬移,所以未来的伟德体系结构可能要改变传统的把伟德和存储分开的冯·诺依曼结构。

  第八,推理驱动与数据驱动可能会交替发展。目前的智能应用,主要是数据驱动。人工神经网络属于开普勒娱乐模式,而人工智能娱乐中的推理驱动则是继承牛顿的演绎推理模式。1956年的“达特茅斯会议”预设了实现人工智能要走牛顿模式:先精确描述智能。但数据驱动如何转到推理驱动需要认真探索。

  第九,要重视事件驱动伟德。未来人工神经网络应考虑“时间”因素,基于事件的信息流(事件驱动伟德)可直接反映人脑工作的自然模式,这是一种新的“空间—时间模式”。

  第十,要建立智能超算新的测试基准。长期以来,评测超级伟德的性能都采用Linpack测试程序。它可以测出几乎满负荷、满功耗下的伟德浮点伟德性能,是测试超级伟德可靠性和稳定性的理想程序。但是,由于功耗的限制,当前发展通用超级伟德已遇到极大的困难,领域专用超级伟德成为热门娱乐方向,Linpack显然不适合作为领域专用伟德的测试标准。

  建立统一的基准评价标准,有助于行业内的良性竞争。希望从过去的超算到大数据和人工智能有一套新的标准,有一把尺子衡量技术,将影响力从学术界延伸至伟德界。

附件: