从8小时到80秒,NVIDIA如何实现AI训练用时大突破?

墨记 2019-07-11 17:29 次阅读

“天下武功,唯快不破”,你需要以“快”制胜。
 
如今,全球顶级公司的研究人员和数据科学家团队们都在致力于创建更为复杂的AI模型。但是,AI模型的创建工作不仅仅是设计模型,还需要对模型进行快速地训练。
 
这就是为什么说,如果想在AI领域保持领导力,就首先需要有赖于AI基础设施的领导力。而这也正解释了为什么MLPerf AI训练结果如此之重要。
 
通过完成全部6项MLPerf基准测试,NVIDIA展现出了全球一流的性能表现和多功能性。NVIDIA AI平台在训练性能方面创下了八项记录,其中包括三项大规模整体性能纪录和五项基于每个加速器的性能纪录。
 
表1:NVIDIA MLPerf AI纪录

每个加速器的比较基于早前报告的基于单一NVIDIA DGX-2H(16个 V100 GPU)、与其他同规模相比较的MLPerf 0.6的性能(除MiniGo采用的是基于8个V100 GPU的NVIDIA DGX-1 ) |最大规模MLPerf ID:Mask R-CNN:0.6-23,GNMT:0.6-26,MiniGo:0.6-11 |每加速器MLPerf ID:Mask R-CNN,SSD,GNMT,Transformer:全部使用0.6-20,MiniGo:0.6-10
 
以上测试结果数据由谷歌、英特尔、百度、NVIDIA、以及创建MLPerf AI基准测试的其他数十家顶级技术公司和大学提供背书,能够转化为具有重要意义的创新。
 
简而言之,NVIDIA的AI平台如今能够在不到两分钟的时间内完成此前需要一个工作日才能完成的模型训练。
 
各公司都知道,释放生产力是一件重中之重的要务。超级计算机如今已经成为了AI的必备工具,树立AI领域的领导力首先需要强大的AI计算基础设施支持。
 
NVIDIA最新的MLPerf结果很好地展示了将NVIDIA V100 Tensor核心GPU应用于超算级基础设施中所能带来的益处。
 
在2017年春季的时候,使用搭载了V100 GPU的NVIDIA DGX-1系统训练图像识别模型ResNet-50,需要花费整整一个工作日(8小时)的时间。
 
而如今,同样的任务,NVIDIA DGX SuperPOD使用相同的V100 GPU,采用Mellanox InfiniBand进行互联,并借助可用于分布式AI训练的最新NVIDIA优化型AI软件,仅需80秒即可完成。
 
80秒的时间,甚至都不够用来冲一杯咖啡。
 
图1:AI时间机器
2019年MLPerf ID(按图表从上到下的顺序):ResNet-50:0.6-30 | Transformer:0.6-28 | GNMT:0.6-14 | SSD:0.6-27 | MiniGo:0.6-11 | Mask R-CNN:0

 AI的必备工具:DGX SuperPOD 能够更快速地完成工作负载

 仔细观察今日的MLPerf结果,会发现NVIDIA DGX SuperPOD是唯一在所有六个MLPerf类别中耗时都少于20分钟的AI平台:
 
图2:DGX SuperPOD打破大规模AI纪录
大规模MLPerf 0.6性能 | 大规模MLPerf ID:RN50 v1.5:0.6-30,0.6-6 | Transformer:0.6-28,0.6-6 | GNMT:0.6-26,0.6-5 | SSD:0.6-27,0.6-6 | MiniGo:0.6-11,0.6-7 | Mask R-CNN:0.6-23,0.6-3
 
更进一步观察会发现,针对重量级目标检测和强化学习,这些最困难的AI问题,NVIDIA AI平台在总体训练时间方面脱颖而出。
 
使用Mask R-CNN深度神经网络的重量级目标检测可为用户提供高级实例分割。其用途包括将其与多个数据源(摄像头、传感器激光雷达、超声波等)相结合,以精确识别并定位特定目标。
 
这类AI工作负载有助于训练自动驾驶汽车,为其提供行人和其他目标的精确位置。另外,在医疗健康领域,它能够帮助医生在医疗扫描中查找并识别肿瘤。其意义的重要性非同小可。
 
NVIDIA的“重量级目标检测”用时不到19分钟,性能几乎是第二名的两倍。
 
强化学习是另一有难度的类别。这种AI方法能够用于训练工厂车间机器人,以简化生产。城市也可以用这种方式来控制交通灯,以减少拥堵。NVIDIA采用NVIDIA DGX SuperPOD,在创纪录的13.57分钟内完成了对MiniGo AI强化训练模型的训练。

咖啡还没好,任务已完成:即时AI基础设施提供全球领先性能

打破基准测试纪录不是目的,加速创新才是目标。这就是为什么NVIDIA构建的DGX SuperPOD不仅性能强大,而且易于部署。
 
DGX SuperPOD全面配置了可通过NGC容器注册表免费获取的优化型CUDA-X AI软件,可提供开箱即用的全球领先AI性能。
 
在这个由130多万名CUDA开发者组成的生态系统中,NVIDIA与开发者们合作,致力于为所有AI框架和开发环境提供有力支持。
 
我们已经助力优化了数百万行代码,让我们的客户能够将其AI项目落地,无论您身在何处都可以找到NVIDIA GPU,无论是在云端,还是在数据中心,亦或是边缘。

AI基础设施如今有够快,未来会更快

更好的一点在于,这一平台的速度一直在提升。NVIDIA每月都会发布CUDA-X AI软件的新优化和性能改进,集成型软件堆栈可在NGC容器注册表中免费下载,包括容器化的框架、预先训练好的模型和脚本。
 
借助在CUDA-X AI软件堆栈上的创新,NVIDIA DGX-2H服务器的MLPerf 0.6吞吐量比NVIDIA七个月前发布的结果提升了80%。
 
图3:基于同一服务器,性能提升高达80%
对单个历元上单一DGX-2H服务器的吞吐量进行比较(数据集单次通过神经网络)|  MLPerf ID 0.5 / 0.6比较:ResNet-50 v1.5: 0.5-20/0.6-30 | Transformer: 0.5-21/0.6-20 | SSD: 0.5-21/0.6-20 | GNMT: 0.5-19/0.6-20 | Mask R-CNN: 0.5-21/0.6-20
收藏 人收藏
分享:

评论

相关推荐

【5月12】不懂编程没关系,邀请您来学AI

不懂编程没关系,邀请您来学AI活动概述:本活动是现场讲座,由台湾知名AI教育专家、金门创新学院院长、台湾Android技
发表于 05-24 00:00 0次 阅读
【5月12】不懂编程没关系,邀请您来学AI

人工智能和物联网如何实现共赢

随之而来的视觉/视频应用的增长,也在不断推动边缘人工智能的发展。
发表于 10-17 17:56 94次 阅读
人工智能和物联网如何实现共赢

人工智能的未来将是为人类“增强智能”

人类善于以感受、直觉、动作为基础去解决问题,而机器善于以数学、逻辑、科学为基础去解决问题,两者各有优....
发表于 10-17 17:18 73次 阅读
人工智能的未来将是为人类“增强智能”

虚拟智能与群智能将是人工智能的发展趋势

智能设备可以通过AI来自动执行那些原本需要人类自己完成的操作。而智能设备的自动化程度远远超越了按照预....
发表于 10-17 16:55 26次 阅读
虚拟智能与群智能将是人工智能的发展趋势

旷视科技正在大举推进香港IPO计划

10月16日消息,知情人士的消息称,中国人工智能(AI)初创公司旷视科技正在推进香港IPO(首次公开....
的头像 牵手一起梦 发表于 10-17 16:46 520次 阅读
旷视科技正在大举推进香港IPO计划

智能技术在医疗设备中的应用及发展前景

医疗作为民生福祉的重要一关,备受人们关注。而医疗机器人作为人工智能时代在医疗领域应用的深化,也开始崭....
发表于 10-17 16:32 39次 阅读
智能技术在医疗设备中的应用及发展前景

军用AI技术会把人类毁灭吗

由于人工智能技术的发展局限,机器人可能将在环境或执行程序复杂的情况中出现失控现象,比如在单独执行作战....
发表于 10-17 15:19 33次 阅读
军用AI技术会把人类毁灭吗

人工智能的市场将会是怎样的发展

目前随着人工智能AI的迅猛发展,今后几年触摸一体机一定会和人工智能更好的融入,更好的提升人机交互的体....
发表于 10-17 15:02 40次 阅读
人工智能的市场将会是怎样的发展

AI怎样帮助居住服务更加的智能化

人工智能在居住金融领域里可以做出更多的改善,贝壳金服借助AI可以为用户设计更具个性化的金融服务方案,....
发表于 10-17 14:51 63次 阅读
AI怎样帮助居住服务更加的智能化

传统教育在AI时代还重要吗

大数据、互联网、人工智能等高新技术大大拓展了学习空间,给以课堂为中心的学习带来挑战。
发表于 10-17 14:46 294次 阅读
传统教育在AI时代还重要吗

人工智能的伦理问题如何解决

社会必须信任人工智能技术能够给人带来的利益大于伤害,才有可能支持继续发展人工智能。
发表于 10-17 14:24 118次 阅读
人工智能的伦理问题如何解决

爱奇艺:AI与5G技术的到来,视频轻应用化已成为发展趋势

科技的创新如何赋能视频平台?一直是视频行业玩家关注的重点。有接近运营商的通信专家表示,10月份5G开....
的头像 牵手一起梦 发表于 10-17 14:24 118次 阅读
爱奇艺:AI与5G技术的到来,视频轻应用化已成为发展趋势

人工智能有哪些“偏门”的科技应用

AI的应用还有包括智能眼镜、智能口红、智能粉底液等等。作为能干大事的人工智能,或许很多人猜想不到AI....
发表于 10-17 14:05 77次 阅读
人工智能有哪些“偏门”的科技应用

智能电话机器人对市场有什么影响

微服网络智能机器人凭借自身的优势和特点,可以提高效率,降低企业的各种运营成本。
发表于 10-17 11:49 52次 阅读
智能电话机器人对市场有什么影响

智能客服的机器人具备怎样的优势

近年来人工智能已渗入工作生活中,由于AI智能技术越来越成熟,智能客服机器人已经成为客服系统发展的一种....
发表于 10-17 11:45 25次 阅读
智能客服的机器人具备怎样的优势

AI技术下的医疗客服有了怎样的新趋势

医疗信息化往往是一个长期的、循序渐进的过程。微服网络帮助医院有效的改善服务质量、优化服务流程,降低运....
发表于 10-17 11:41 102次 阅读
AI技术下的医疗客服有了怎样的新趋势

AI技术目前很发达了吗

人工智能的快速发展,给企业带来更多的新机遇,将给人类社会发展进步带来强大新动能,实现创新式发展,AI....
发表于 10-17 11:29 148次 阅读
AI技术目前很发达了吗

人工智能带来的改革你能想象得到吗

在这期间,搜索引擎、社交网络、移动互联网和移动支付等技术一次又一次改变了人们的生活,互联网也成就了一....
发表于 10-17 11:09 28次 阅读
人工智能带来的改革你能想象得到吗

人工智能社会实验的意义是什么

人工智能是当代科技的最新前沿,是未来科技发展的战略制高点。
发表于 10-17 10:51 173次 阅读
人工智能社会实验的意义是什么

人工智能会给我们带来新的工作吗

只有充分发挥人工智能等技术带来的新兴产业兴起、高端岗位增加等积极因素,从引导劳动力向新产业分流和推动....
发表于 10-17 10:47 179次 阅读
人工智能会给我们带来新的工作吗

2020年云顶国际网上娱乐市场展望:全球稳步复苏,中国成长率优于全球

展望2020年全球云顶国际网上娱乐市场,我们认为主要云顶国际网上娱乐需求的驱动力将是以智能型手机相关、5G基础建设、AI....
的头像 墨记 发表于 10-17 10:42 1195次 阅读
2020年云顶国际网上娱乐市场展望:全球稳步复苏,中国成长率优于全球

人工智能应用的范围到底有多广

人工智能牙刷、珠宝、衣服、粉底、马桶盖……但让苦于在B端掘金的AI公司们没想到的是,在行业内难以破局....
发表于 10-17 10:27 147次 阅读
人工智能应用的范围到底有多广

人工智能如何协助企业来减少资源的浪费

据国外媒体报道,日本企业正利用人工智能和大数据减少食品生产环节的浪费问题。
发表于 10-17 10:23 123次 阅读
人工智能如何协助企业来减少资源的浪费

OpenAI的AI机器人可用单手就能还原魔方

人工智能(AI)研究组织OpenAI在制造具有通用性、能够自我学习的机器人方面取得了新的里程碑。该组....
发表于 10-17 09:45 108次 阅读
OpenAI的AI机器人可用单手就能还原魔方

人工智能技术将是未来医疗行业的发展方向

“未来诊室”即人工智能辅助诊断技术,在一些疾病的诊疗中具有突破性的贡献,能大大降低疾病筛查的成本和时....
发表于 10-17 09:19 135次 阅读
人工智能技术将是未来医疗行业的发展方向

数据安全问题将是AI实际应用落地的一大挑战

人工智能真正要实际应用仍有不少挑战,主流的深度学习深深依赖大量的数据,而目前数据隐私问题并没有得到解....
发表于 10-16 17:43 41次 阅读
数据安全问题将是AI实际应用落地的一大挑战

5G+AI赋能下 超高清视频将为安防行业带来巨变

“抓住科技机遇,找准发展方向”是经济发展的重要课题,也是安防行业“进化”的途径。在大力推行5G和人工....
发表于 10-16 16:08 97次 阅读
5G+AI赋能下 超高清视频将为安防行业带来巨变

5G技术将正面推动医疗事业的转型

5G技术将在多个面向改变健康医疗事业,将协助医生更加快速、个人化和有效地为患者提供医疗服务。
发表于 10-16 14:57 73次 阅读
5G技术将正面推动医疗事业的转型

AI和5G对于机器人有什么作用

机器视觉相机的目的是将通过镜头投影到传感器的图像传送到能够储存、分析和(或者)显示的机器设备上。
发表于 10-16 10:29 51次 阅读
AI和5G对于机器人有什么作用

将来的人工智能AI是否会拥有自我意识

将来的人工智能,是否具有意识?科幻作家会说,既然世界上并没有“灵魂”这种东西,人类纯粹是由原子组成的....
发表于 10-16 09:58 77次 阅读
将来的人工智能AI是否会拥有自我意识

人工智能存在怎样偏见

智能手机,智能家居和智能城市正在影响我们的生活和工作,人工智能(AI)正在以引人注目的方式重新配置人....
发表于 10-16 09:10 43次 阅读
人工智能存在怎样偏见

云数据的得失可以反映AI什么问题

随着人们对人工智能的依赖程度越来越高,对人工智能的需求也越来越大,数据的质量和准确性自然也越来越高。
发表于 10-16 08:56 32次 阅读
云数据的得失可以反映AI什么问题

为什么说AI的前景广阔

尽管人工智能前景广阔,但在业内人士看来,人工智能尚处于萌芽阶段,有待算法、算力、基础设施(如超级计算....
发表于 10-16 08:33 57次 阅读
为什么说AI的前景广阔

人工智能是怎样在百度里面深入发展的

凭借着在语音技术、图像技术、视频技术、深度学习等人工智能领域的核心底层技术实力,百度倾力打造了阿波罗....
发表于 10-15 17:56 351次 阅读
人工智能是怎样在百度里面深入发展的

AI怎样去平衡社会利益与个人隐私

尽管西方国家越来越关注监控以及可能违反个人隐私的可能性,而中国一直在全力推进人工智能的应用。
发表于 10-15 17:30 209次 阅读
AI怎样去平衡社会利益与个人隐私

使用AI更多的是什么问题

可见人们越来越关注的是在数据隐私和数据保护方面,特别是现在这种技术如此普遍。
发表于 10-15 17:16 57次 阅读
使用AI更多的是什么问题

AI是怎样进入美学领域的

人工智能(Artificial Intelligence)的运用领域远超于人类原本的既定,持续不断得....
发表于 10-15 17:12 53次 阅读
AI是怎样进入美学领域的

金融AI为什么要开始转型

从更宏观角度而言,金融AI对于数据监控亦是更加安全有效的。
发表于 10-15 17:04 43次 阅读
金融AI为什么要开始转型

AI语音 对于我们生活有什么影响

AI语音技术在许多领域皆能够缩短发出与接收数据信息的时间,其方式也较传统形式来得有趣得多,还能积极帮....
发表于 10-15 16:50 55次 阅读
AI语音 对于我们生活有什么影响

华为是怎样一步步成为AI公司的

AI芯片是人工智能的核心,未来各巨头在人工智能领域的争夺,也就是AI芯片的争夺。
发表于 10-15 16:41 299次 阅读
华为是怎样一步步成为AI公司的

人工智能为何加快了资本市场的布局

数据量的增大也会不断优化AI落地的效果,智能交互将越来越原生化,逐步代替现有的交互方式,颠覆现有的产....
发表于 10-15 16:33 408次 阅读
人工智能为何加快了资本市场的布局

SocialFace-AI图谱精准识别 搭建社交领域智能人员数据库

近年来,人脸识别技术迅猛发展,据国际权威调查机构Gen Market Insights的《全球人脸识....
发表于 10-15 16:14 324次 阅读
SocialFace-AI图谱精准识别 搭建社交领域智能人员数据库

AI是在怎样成为云端的训练师的

云计算的普及,让各种AI能力以“即服务”的形式出现在了各行各业之中。
发表于 10-15 14:04 40次 阅读
AI是在怎样成为云端的训练师的

AI来了,国产EDA工具的春天到了?

文 | 脑极体 过去一段时间里,我们关注了云顶国际网上娱乐行业的各个位面,比如芯片制造,操作系统,地域纷争等等....
的头像 刘伟DE 发表于 10-15 11:35 2633次 阅读
AI来了,国产EDA工具的春天到了?

长城超云推出了国内首款基于AMD EPYC架构的边缘计算服务器

边缘计算服务器就是把服务器放在靠近设备的数据机房中,并部署人工智能(AI)应用程序,确保生成的数据与....
发表于 10-15 11:14 142次 阅读
长城超云推出了国内首款基于AMD EPYC架构的边缘计算服务器

除了监控摄像头,AI安防还能怎么玩?

不可否认,监控摄像头已经成为AI安防的“宠儿”。这里就需要发出一个疑问,AI安防除了摄像头还有什么?....
的头像 墨记 发表于 10-15 10:41 1782次 阅读
除了监控摄像头,AI安防还能怎么玩?

2020数字制造趋势:IoT、AI、5G

制造业数字转型势不可挡,2020年又会有什么值得注意的趋势呢?Futurum Research分析师....
的头像 墨记 发表于 10-15 10:22 1386次 阅读
2020数字制造趋势:IoT、AI、5G

谁来指挥AI+安防的应用

在“安防+AI”大趋势下,AI等前沿技术与产业应用不断融合,安防产业将进入智能化广泛应用的新阶段,技....
发表于 10-15 09:39 41次 阅读
谁来指挥AI+安防的应用

未来的智能机器人,或将替代人类去探索宇宙

我们人类是这个地球上,唯一拥有着高级智慧的生物。而且不仅是在这个地球上,在整个太阳系中,都是唯一拥有....
发表于 10-15 09:29 67次 阅读
未来的智能机器人,或将替代人类去探索宇宙

AI在国外的政府里有什么作用

美国政府机构的数据中心得到整合并变得更加高效,并将人工智能和自动化技术应用在数据中心运营中。
发表于 10-15 09:14 52次 阅读
AI在国外的政府里有什么作用

云化网络如何利用人工智能变得更加智能化

随着云化网络的复杂性和解耦性增强,云化网络重构将给网络运营和运维带来巨大挑战,5G技术变革也将对云化....
发表于 10-14 17:49 101次 阅读
云化网络如何利用人工智能变得更加智能化
博聚网