张飞软硬开源基于STM32 BLDC直流无刷电机驱动器开发视频套件,👉戳此立抢👈

从8小时到80秒,NVIDIA如何实现AI训练用时大突破?

墨记 2019-07-11 17:29 次阅读

“天下武功,唯快不破”,你需要以“快”制胜。
 
如今,全球顶级公司的研究人员和数据科学家团队们都在致力于创建更为复杂的AI模型。但是,AI模型的创建工作不仅仅是设计模型,还需要对模型进行快速地训练。
 
这就是为什么说,如果想在AI领域保持领导力,就首先需要有赖于AI基础设施的领导力。而这也正解释了为什么MLPerf AI训练结果如此之重要。
 
通过完成全部6项MLPerf基准测试,NVIDIA展现出了全球一流的性能表现和多功能性。NVIDIA AI平台在训练性能方面创下了八项记录,其中包括三项大规模整体性能纪录和五项基于每个加速器的性能纪录。
 
表1:NVIDIA MLPerf AI纪录

每个加速器的比较基于早前报告的基于单一NVIDIA DGX-2H(16个 V100 GPU)、与其他同规模相比较的MLPerf 0.6的性能(除MiniGo采用的是基于8个V100 GPU的NVIDIA DGX-1 ) |最大规模MLPerf ID:Mask R-CNN:0.6-23,GNMT:0.6-26,MiniGo:0.6-11 |每加速器MLPerf ID:Mask R-CNN,SSD,GNMT,Transformer:全部使用0.6-20,MiniGo:0.6-10
 
以上测试结果数据由谷歌、英特尔、百度、NVIDIA、以及创建MLPerf AI基准测试的其他数十家顶级技术公司和大学提供背书,能够转化为具有重要意义的创新。
 
简而言之,NVIDIA的AI平台如今能够在不到两分钟的时间内完成此前需要一个工作日才能完成的模型训练。
 
各公司都知道,释放生产力是一件重中之重的要务。超级计算机如今已经成为了AI的必备工具,树立AI领域的领导力首先需要强大的AI计算基础设施支持。
 
NVIDIA最新的MLPerf结果很好地展示了将NVIDIA V100 Tensor核心GPU应用于超算级基础设施中所能带来的益处。
 
在2017年春季的时候,使用搭载了V100 GPU的NVIDIA DGX-1系统训练图像识别模型ResNet-50,需要花费整整一个工作日(8小时)的时间。
 
而如今,同样的任务,NVIDIA DGX SuperPOD使用相同的V100 GPU,采用Mellanox InfiniBand进行互联,并借助可用于分布式AI训练的最新NVIDIA优化型AI软件,仅需80秒即可完成。
 
80秒的时间,甚至都不够用来冲一杯咖啡。
 
图1:AI时间机器
2019年MLPerf ID(按图表从上到下的顺序):ResNet-50:0.6-30 | Transformer:0.6-28 | GNMT:0.6-14 | SSD:0.6-27 | MiniGo:0.6-11 | Mask R-CNN:0

 AI的必备工具:DGX SuperPOD 能够更快速地完成工作负载

 仔细观察今日的MLPerf结果,会发现NVIDIA DGX SuperPOD是唯一在所有六个MLPerf类别中耗时都少于20分钟的AI平台:
 
图2:DGX SuperPOD打破大规模AI纪录
大规模MLPerf 0.6性能 | 大规模MLPerf ID:RN50 v1.5:0.6-30,0.6-6 | Transformer:0.6-28,0.6-6 | GNMT:0.6-26,0.6-5 | SSD:0.6-27,0.6-6 | MiniGo:0.6-11,0.6-7 | Mask R-CNN:0.6-23,0.6-3
 
更进一步观察会发现,针对重量级目标检测和强化学习,这些最困难的AI问题,NVIDIA AI平台在总体训练时间方面脱颖而出。
 
使用Mask R-CNN深度神经网络的重量级目标检测可为用户提供高级实例分割。其用途包括将其与多个数据源(摄像头、传感器激光雷达、超声波等)相结合,以精确识别并定位特定目标。
 
这类AI工作负载有助于训练自动驾驶汽车,为其提供行人和其他目标的精确位置。另外,在医疗健康领域,它能够帮助医生在医疗扫描中查找并识别肿瘤。其意义的重要性非同小可。
 
NVIDIA的“重量级目标检测”用时不到19分钟,性能几乎是第二名的两倍。
 
强化学习是另一有难度的类别。这种AI方法能够用于训练工厂车间机器人,以简化生产。城市也可以用这种方式来控制交通灯,以减少拥堵。NVIDIA采用NVIDIA DGX SuperPOD,在创纪录的13.57分钟内完成了对MiniGo AI强化训练模型的训练。

咖啡还没好,任务已完成:即时AI基础设施提供全球领先性能

打破基准测试纪录不是目的,加速创新才是目标。这就是为什么NVIDIA构建的DGX SuperPOD不仅性能强大,而且易于部署。
 
DGX SuperPOD全面配置了可通过NGC容器注册表免费获取的优化型CUDA-X AI软件,可提供开箱即用的全球领先AI性能。
 
在这个由130多万名CUDA开发者组成的生态系统中,NVIDIA与开发者们合作,致力于为所有AI框架和开发环境提供有力支持。
 
我们已经助力优化了数百万行代码,让我们的客户能够将其AI项目落地,无论您身在何处都可以找到NVIDIA GPU,无论是在云端,还是在数据中心,亦或是边缘。

AI基础设施如今有够快,未来会更快

更好的一点在于,这一平台的速度一直在提升。NVIDIA每月都会发布CUDA-X AI软件的新优化和性能改进,集成型软件堆栈可在NGC容器注册表中免费下载,包括容器化的框架、预先训练好的模型和脚本。
 
借助在CUDA-X AI软件堆栈上的创新,NVIDIA DGX-2H服务器的MLPerf 0.6吞吐量比NVIDIA七个月前发布的结果提升了80%。
 
图3:基于同一服务器,性能提升高达80%
对单个历元上单一DGX-2H服务器的吞吐量进行比较(数据集单次通过神经网络)|  MLPerf ID 0.5 / 0.6比较:ResNet-50 v1.5: 0.5-20/0.6-30 | Transformer: 0.5-21/0.6-20 | SSD: 0.5-21/0.6-20 | GNMT: 0.5-19/0.6-20 | Mask R-CNN: 0.5-21/0.6-20
收藏 人收藏
分享:

评论

相关推荐

【5月12】不懂编程没关系,邀请您来学AI

不懂编程没关系,邀请您来学AI活动概述:本活动是现场讲座,由台湾知名AI教育专家、金门创新学院院长、台湾Android技
发表于 05-24 00:00 0次 阅读
【5月12】不懂编程没关系,邀请您来学AI

8小时卖出20万台AI音箱,喜马拉雅是如何做到的?

去年年底,喜马拉雅AI音箱小雅Nano宣布全球发售时,1万台现货开售1分钟即被抢购一空,首批10万台....
的头像 你好张江 发表于 07-17 17:09 190次 阅读
8小时卖出20万台AI音箱,喜马拉雅是如何做到的?

vivo Y7s正式开启预约搭载联发科P65处理器6GB+128GB版售价1798元

联发科P65处理器基于12nm工艺,八核心设计,由两颗2.0GHz的A75核心与六颗1.7GHz的A....
发表于 07-17 16:49 79次 阅读
vivo Y7s正式开启预约搭载联发科P65处理器6GB+128GB版售价1798元

大众与福特共推自动驾驶出租车服务

Argo AI作为一家自动驾驶汽车开发商,目前正负责部署福特的自动驾驶出租车服务。
的头像 机器人技术与应用 发表于 07-17 16:07 108次 阅读
大众与福特共推自动驾驶出租车服务

AI在实际应用中最大的问题与困扰是什么?

本次邀请该研究中心的薛向阳教授,为我们共同探讨产研合作中存在的问题。
的头像 安全自动化 发表于 07-17 15:51 108次 阅读
AI在实际应用中最大的问题与困扰是什么?

AI也需要做梦吗

处于“清醒”或在线状态的人工智能神经网络总是在学习新的信息模式。
发表于 07-17 15:22 26次 阅读
AI也需要做梦吗

下次如何加薪将由AI和算法说了算

用过去的方法来评估员工的绩效,意味着要从几套不同的人力资源部门记录中挖掘出每份直接报告中蕴含的信息。
发表于 07-17 14:20 20次 阅读
下次如何加薪将由AI和算法说了算

MIT和谷歌开发失传语言的机器翻译系统

注释数据库和让机器从中学习的技术让语言学习发生了革命性变化,这使得机器翻译变得越来越普遍。
发表于 07-17 10:56 26次 阅读
MIT和谷歌开发失传语言的机器翻译系统

医疗和技术的加速融合,带动产业进入“AI+医疗”时代

人工智能等前沿技术正在快速迭代,医疗领域的智能升级是大势所趋。
的头像 你好张江 发表于 07-17 10:51 156次 阅读
医疗和技术的加速融合,带动产业进入“AI+医疗”时代

法律会是AI将革新的又一产业吗

我们这个软件驱动的世界,正在给法律行业带来革命性的变化,并产生了所谓的“法律工程师”。
发表于 07-17 10:39 110次 阅读
法律会是AI将革新的又一产业吗

科创板报道:倒计时!首批25家公司如何前瞻和选择

7月22日(下周一),科创板首批25家公司将在上交所鸣锣上市,成为中国资本市场的新生力量。 从201....
的头像 章鹰 发表于 07-17 10:34 365次 阅读
科创板报道:倒计时!首批25家公司如何前瞻和选择

边缘计算时代的到来会给AI带来哪些影响

随着5G、人工智能和物联网时代的到来,传统的云计算技术已经无法满足人工智能终端“大连接、低时延、大带....
发表于 07-17 10:33 30次 阅读
边缘计算时代的到来会给AI带来哪些影响

5G与AI的碰撞会发生什么化学反应

5G尚处于商用初期,AI也处于发展初级阶段。
发表于 07-17 10:00 32次 阅读
5G与AI的碰撞会发生什么化学反应

利用语音直接画出人脸,AI再添新能力

听声辨人,利用声纹进行解锁,这种技术已广泛应用,人类的声音含有该个体的一定特征,从而可以进行区分。
的头像 DeepTech深科技 发表于 07-17 09:54 161次 阅读
利用语音直接画出人脸,AI再添新能力

中国车联网规模突破2000亿,5G和AI融合推动自动驾驶新赛道

7月9-10日,由国泰君安证券与中移(上海)产业研究院、浦发硅谷银行共同主办的国泰君安2019年信息....
的头像 章鹰 发表于 07-17 09:32 545次 阅读
中国车联网规模突破2000亿,5G和AI融合推动自动驾驶新赛道

人工智能能实现无人物流体系吗

无人科技背后的大数据、AI算法等科技成果还促进建立了以消费者个性化需求为核心的C2M反向定制、物流价....
发表于 07-16 17:27 87次 阅读
人工智能能实现无人物流体系吗

产业互联网时代到来科技是最大筹码

当产业互联网的风口到来,这些企业未来的发展路径又是怎样的?
的头像 每日经济新闻 发表于 07-16 17:06 157次 阅读
产业互联网时代到来科技是最大筹码

物业公司如何面对社区物联化大势所趋

随着人工智能、大数据、物联网等科技发展,传统行业也开始借助这些技术进行转型升级。
发表于 07-16 15:24 58次 阅读
物业公司如何面对社区物联化大势所趋

“G往开来,为AI出行”——长城汽车告别传统功能车时代

7月15日,“G往开来,为AI出行”——长城汽车GTO全域智慧生态战略在保定哈弗技术中心正式发布。
的头像 天津机器人 发表于 07-16 15:12 175次 阅读
“G往开来,为AI出行”——长城汽车告别传统功能车时代

AI音乐家将在这四个方面掀起革新浪潮

就像在其他行业一样,在音乐领域,AI也在帮助服务自动化,在庞大的数据集中发现模式和洞见,并帮助提高创....
发表于 07-16 14:12 33次 阅读
AI音乐家将在这四个方面掀起革新浪潮

Facebook AI又出新作:性能翻倍,计算成本不增加

Facebook AI又出新作,在神经网络中加入一个结构化存储器层,极大扩充了网络容量和参数数量,性....
的头像 全球人工智能 发表于 07-16 10:56 198次 阅读
Facebook AI又出新作:性能翻倍,计算成本不增加

用AI对抗AI——基于视频人脸篡改的检测

Deepfake有救了!
的头像 大数据文摘 发表于 07-16 10:10 175次 阅读
用AI对抗AI——基于视频人脸篡改的检测

如果你将踏上机器学习工程师就可能遇到 Daniel Bourke 相似经历

如果未来的你将踏上机器学习工程师这条道路,那你很大可能将遇到和机器学习工程师 Daniel Bour....
的头像 新机器视觉 发表于 07-16 09:57 217次 阅读
如果你将踏上机器学习工程师就可能遇到 Daniel Bourke 相似经历

人民日报社与中国联通在建设5G新媒体平台方面正式开展合作

根据战略合作协议,双方将以建设5G新媒体平台为目标,充分运用5G、4K超高清视频,虚拟现实(VR),....
发表于 07-16 09:46 168次 阅读
人民日报社与中国联通在建设5G新媒体平台方面正式开展合作

热点 | 工信部:加快5G、AI等新型基础设施建设

7月9日第18届中国互联网大会召开,工业和信息化部副部长陈肇雄出席大会并致辞。
的头像 高工机器人 发表于 07-16 08:52 144次 阅读
热点 | 工信部:加快5G、AI等新型基础设施建设

从场景出发的计算架构才能真正满足AI大规模应用需求

来自学术界、工业界、投资界的重磅嘉宾齐聚CCF-GAIR 2019 AI芯片专场共同探讨芯片的前沿技....
的头像 云天励飞资讯 发表于 07-16 08:35 180次 阅读
从场景出发的计算架构才能真正满足AI大规模应用需求

人工智能如何分辨谣言

即以AI技术打假为主、以人工审核为辅,AI还不能替代专家。
发表于 07-15 16:30 41次 阅读
人工智能如何分辨谣言

如何解锁AI医疗落地之难

在众多落地场景中,目前AI医学影像是最为成熟的一个。
发表于 07-15 16:26 35次 阅读
如何解锁AI医疗落地之难

如何用AI打造线上社群的西部世界

构建在区块链之上的“AI机器人管家”Jarvis+,在满足社群运营的基础之上,将用户和平台进行链接,....
发表于 07-15 15:49 31次 阅读
如何用AI打造线上社群的西部世界

是什么让Facebook AI副总裁夜不能寐?

Facebook 人工智能副总裁Jérôme Pesenti,首次在公开演讲中亮相,表达了对日益增长....
的头像 新智元 发表于 07-15 15:05 105次 阅读
是什么让Facebook AI副总裁夜不能寐?

AI护士小姐姐可以帮护士多少忙

机器人队友在这方面真的会是一个有趣而巨大的进步。
发表于 07-15 11:32 60次 阅读
AI护士小姐姐可以帮护士多少忙

从头开始构建最先进的深度学习模型

Deep Learning from the Foundations
的头像 AI科技大本营 发表于 07-15 10:02 194次 阅读
从头开始构建最先进的深度学习模型

Al人工智能比特币矿机兴起原因是什么

一方面AI需要大量的算力,另一方面挖矿正在造成大量算力的浪费。
发表于 07-15 09:47 47次 阅读
Al人工智能比特币矿机兴起原因是什么

AI创造性的工作都已经不在话下了吗

未来的学术出版以及各类书籍,将不再只是人为创造,而是有更多形式出现,包括了混合人机文本生成的书籍或完....
发表于 07-14 11:04 69次 阅读
AI创造性的工作都已经不在话下了吗

AI是每个企业的机会吗

只有把握人工智能机遇,企业才能掌握高质量发展的“利器”。
发表于 07-14 10:44 66次 阅读
AI是每个企业的机会吗

现在看病还需要像以前那样排队吗

开发出了全球领先的下一代微特征识别FVR技术,把浩瀚的手掌脉络“微特征”编码为高密度、高容量的超级“....
发表于 07-14 10:38 50次 阅读
现在看病还需要像以前那样排队吗

AI是怎样从你的声音听出你的长相的

随着人工智能技术的不断发展,AI似乎变得越来越“无所不能”
发表于 07-14 10:30 50次 阅读
AI是怎样从你的声音听出你的长相的

如何让AI技术尽快应用于实际

自然语言处理(NLP)和自然语言理解,特别是语音转文字技术将成为2019年企业AI中最主要的产品呈现....
发表于 07-14 09:54 51次 阅读
如何让AI技术尽快应用于实际

带你详细了解科沃斯机器人DEEBOT T5

目前,扫地机器人已经成为很多一二线城市家中必备的产品,而平时工作、生活比较忙碌的人群成为扫地机器人的....
发表于 07-14 09:26 64次 阅读
带你详细了解科沃斯机器人DEEBOT T5

未来的人工智能研究会在非洲吗

尽管存在极大困难,非洲的机器学习依然在过去几年里迅速发展。
发表于 07-14 09:18 35次 阅读
未来的人工智能研究会在非洲吗

阿里达摩院刷新纪录,开放域问答成绩比肩人类水平

这是继 2018 年《Multi-granularity hierarchical attentio....
的头像 AI科技大本营 发表于 07-13 08:26 194次 阅读
阿里达摩院刷新纪录,开放域问答成绩比肩人类水平

AI看了100部电影,学会了接吻是什么样子

这项研究来自Netflix的高级数据科学家Amir Ziai,他正在斯坦福大学攻读AI专业研究生。Z....
的头像 新智元 发表于 07-13 08:19 220次 阅读
AI看了100部电影,学会了接吻是什么样子

AI虽然不能产生万物,但是正在“唤醒万物”

现场的演示视频显示,搭载百度自主泊车功能的汽车可以在人类司机驾驶的车流里,自动排队开往地下停车场;车....
的头像 AI科技大本营 发表于 07-13 08:12 878次 阅读
AI虽然不能产生万物,但是正在“唤醒万物”

AutoML,AI“兵家必争”之技,谁是最强王者?

这是一项国际性的大数据分析竞赛,共有来自中国、美国、英国、德国等 7 个国家,来自华为、京东、滴滴等....
的头像 新智元 发表于 07-13 07:47 308次 阅读
AutoML,AI“兵家必争”之技,谁是最强王者?

大家一起体验AI和群如何改变一个大学新生!

微信成为社会的温情连接器。但每个人都被自己所处的城市、学校和企业圈住了,很难跨出原有的社交圈层,找到....
的头像 新智元 发表于 07-13 07:40 364次 阅读
大家一起体验AI和群如何改变一个大学新生!

在kaggle的竞赛中,参赛者取得top0.3%的经验和技巧

预测价格对数和真实价格对数的RMSE(均方根误差)作为模型的评估指标。将RMSE转化为对数尺度,能够....
的头像 AI科技大本营 发表于 07-13 07:29 237次 阅读
在kaggle的竞赛中,参赛者取得top0.3%的经验和技巧

腾讯已经变得越来越开放,开源已在路上

近日,腾讯在开源上有了一次大动作,首次全面公开了其整体的开源路线图。据了解,基于代码开放和社区运营,....
的头像 AI科技大本营 发表于 07-13 07:24 1588次 阅读
腾讯已经变得越来越开放,开源已在路上

CCF-GAIR全球人工智能与机器人峰会今日开幕 聚焦AI前沿技术和探讨落地路径

7月12日-14日,2019年全球人工智能与机器人峰会(CCF-GAIR)正式开幕,该如何锚定人工智....
发表于 07-12 20:38 153次 阅读
CCF-GAIR全球人工智能与机器人峰会今日开幕 聚焦AI前沿技术和探讨落地路径

人工智能投资迎来拐点

人工智能投资的热潮席卷全球,风险资金不断涌入,尽管在人工智能创业公司和总股本交易数量方面,美国仍然在....
发表于 07-12 17:08 60次 阅读
人工智能投资迎来拐点

AI机器人将带给人们惊喜和欢乐

Takara Tomy宣布在日本发售小型AI机器人“Cozmo”。这是一款编程机器人,旨在激发中小学....
发表于 07-12 15:52 47次 阅读
AI机器人将带给人们惊喜和欢乐

Google 翻译大更新:打开相机,能让 88 种语言即时互译

去不讲英文的国家也不愁了。
的头像 爱范儿 发表于 07-12 11:45 302次 阅读
Google 翻译大更新:打开相机,能让 88 种语言即时互译
博聚网