华为轮值董事长徐直军在发布会上表示:华为自2018年10月发布AI战略以来,稳步而有序地推进战略执行、产品研发及商用进程。昇腾910、MindSpore的推出,标志着华为已完成全栈全场景AI解决方案(Portfolio)的构建,也标志着华为AI战略的执行进入了新的阶段。
昇腾910,算力最强AI处理器
徐直军此次正式发布的AI芯片是昇腾910,属于Ascend-max系列。在2018华为全联接大会上已经发布了其技术规格。
实际测试结果表明,在算力方面,昇腾910完全达到了设计规格,即:半精度(FP16)算力达到256 Tera-FLOPS,整数精度(INT8)算力达到512 Tera-OPS;重要的是,达到规格算力所需功耗仅310W,明显低于设计规格的350W。
徐直军表示:昇腾910总体技术表现超出预期,作为算力最强AI处理器,当之无愧。我们已经把昇腾910用于实际AI训练任务。比如,在典型的ResNet50网络的训练中,昇腾910与MindSpore配合,与现有主流训练单卡配合TensorFlow相比,显示出接近2倍的性能提升。
面向未来,针对不同的场景,包括边缘计算、自动驾驶车载计算、训练等场景,华为将持续投资,推出更多的AI处理器,面向全场景持续提供更充裕、更经济、更适配的AI算力。
MindSpore,全场景AI计算框架
徐直军还发布了全场景AI计算框架MindSpore。
能否大大降低AI应用开发的门槛,能否实现AI无处不在,能否在任何场景下确保用户隐私得到尊重和保护,这些都与AI计算框架息息相关。
为此,2018华为全联接大会上,华为提出,AI框架应该是开发态友好(例如显著减少训练时间和成本)和运行态高效(例如最少资源和最高能效比),更重要的是,要能适应每个场景包括端、边缘和云。
经过近一年的努力,全场景AI计算框架MindSpore在这三个方面都取得了显著进展。
全场景支持,是在隐私保护日渐重要的背景下,实现AI无所不在越来越基础的需求,也是MindSpore的重要特色。
针对不同的运行环境,MindSpore框架架构上支持可大可小,适应全场景独立部署。MindSpore框架通过协同经过处理后的、不带有隐私信息的梯度、模型信息,而不是数据本身,以此实现在保证用户隐私数据保护的前提下跨场景协同。除了隐私保护,MindSpore还将模型保护Built-in到AI框架中,实现模型的安全可信。
在原生适应每个场景包括端、边缘和云,并能够按需协同的基础上,通过实现AI算法即代码,使开发态变得更加友好,显著减少模型开发时间。以一个NLP(自然语言处理)典型网络为例,相比其他框架,用MindSpore可降低核心代码量20%,开发门槛大大降低,效率整体提升50%以上。
通过MindSpore框架自身的技术创新及其与昇腾处理器协同优化,有效克服AI计算的复杂性和算力的多样性挑战,实现了运行态的高效,大大提高了计算性能。除了昇腾处理器,MindSpore同时也支持GPU、CPU等其它处理器。
为了更好促进AI的应用,徐直军宣布“MindSpore将在2020年Q1开源”,助力每一位开发者,促进AI产业生态发展。
全栈全场景AI解决方案,让AI无处不在
徐直军在发布以上两款产品之前,首先重申了华为公司的AI战略:
投资AI基础研究:在计算视觉、自然语言处理、决策推理等领域构筑数据高效(更少的数据需求) 、能耗高效(更低的算力和能耗),安全可信、自动自治的机器学习基础能力;
打造全栈全场景解决方案:提供充裕的、经济的算力资源,简单易用、高效率、全流程的AI平台;
投资开放生态和人才培养:面向全球,持续与学术界、产业界和行业伙伴广泛合作;
把AI思维和技术引入现有产品和服务,实现更大价值、更强竞争力;
应用AI优化内部管理,对准海量作业场景,大幅度提升内部运营效率和质量。
华为AI解决方案(Portfolio)的全场景,是指包括公有云、私有云、各种边缘计算、物联网行业终端以及消费类终端等部署环境;而全栈是技术功能视角,是指包括Ascend昇腾系列IP和芯片、芯片使能CANN、训练和推理框架MindSpore和应用使能ModelArts在内的全堆栈方案。
徐直军也回顾了制定以上AI战略的初衷。华为定位AI是一种新的通用目的技术(GPT),如同19世纪的铁路和电力,以及20世纪的汽车、电脑、互联网一样,将应用到经济的几乎所有地方。
同时华为也认为AI的应用总体还处于发展初期,AI技术和能力相比于长远期望还有很大差距。减小甚至消除这些差距,加速AI的应用,正是华为AI战略的初衷和目标。具体包括致力于促成以下10个方面的改变:
1.通过提供更强的算力,使复杂模型训练能在几分钟、甚至几秒钟内完成,而不是今天的数天甚至数周。
2.提供更经济、更充裕的算力,让算力不再稀缺、不再昂贵,从而不再是AI发展的制约因素。
3.通过全场景方案,适应企业不同需要,确保用户隐私得到尊重和保护,让AI能够部署在任何场景,而不仅仅是公有云。
4.投资基础AI算法研究,实现更少的数据需求,即数据高效;也要能够基于更低的算力和能耗,即能耗高效。
5.通过AI框架MindSpore和应用使能ModelArts,大大提升AI自身的自动化水平,减少对人工的依赖。
6.持续提升模型算法,实现工业生产环境的“工作”优秀,而不仅仅是各种比拼环境的“考试”优秀。
7.实现模型的闭环、实时更新,保证企业AI应用始终处于最佳状态。
8.将AI技术与5G、云、物联网、边缘计算、区块链、大数据、数据库…等技术充分协同,发挥更大价值。
9.通过全栈方案一站式平台,使AI成为所有应用开发者甚至所有ICT技术从业人员的一项基本技能,而不是一项只有具备高级技能的专家才能完成的工作。
10.通过全栈全场景技术手段,结合投资开放的生态和人才培养,让AI人才不再短缺。
昇腾310和ModelArts获得广泛应用
在2018华为全联接大会上,与华为AI战略一起,作为全栈全场景解决方案的首批组件,华为同时对外发布并正式推出了昇腾310AI芯片和全流程模型生产服务ModelArts。
昇腾310属于Ascend-mini系列第一颗华为商用AI SoC芯片,在最大功耗仅8W的情况下,其整数精度(INT8)算力达到16Tops,半精度(FP16)算力达到8Tops。同时,该芯片中还集成了16通道全高清视频解码器,是面向边缘计算场景最强算力的AI SoC。
自发布以来,基于昇腾310芯片的产品和云服务获得广泛应用。
其中,基于昇腾310的MDC和很多国内外主流车企在园区巴士、新能源车、自动驾驶等场景已经深入合作。
基于昇腾310的Atlas系列板卡、服务器,与数十家伙伴在智慧交通、智慧电力等数十个行业落地行业解决方案。
基于昇腾310,华为云提供了图像分析类服务、OCR服务、视频智能分析服务等云服务。对外提供API达50多个,日均调用量超过1亿次,而且在快速增长,预计年底日均调用量超过3亿次。另有超过100多个客户使用昇腾310开发定制AI算法。
ModelArts全流程模型生产服务打通了从数据获取-模型开发-模型训练-模型部署的全链条,可将生产所需的所有服务一站式提供。
截至目前,ModelArts已经拥有开发者超过3万,日均训练作业任务超过4000个,32000小时,其中:视觉类作业占85%,语音类作业占10%,机器学习5%。
随着今天昇腾910 AI处理器以及MindSpore全场景AI计算框架的发布,华为全栈全场景AI解决方案各重要组成部分悉数登场,徐直军因此表示“华为已完成了全栈全场景AI解决方案的构建”。
实现了预期的计划和目标,对华为AI,这是一个新的里程碑,更是一个新的开始。
在发布会最后,徐直军预告,在即将开幕的2019华为全联接大会,将有更多震撼的AI新品推出。华为期待与伙伴更加深入、广泛地合作,让AI无所不及,把数字世界带入每个人、每个家庭、每个组织。