你好,游客 登录
背景:
阅读新闻

深度学习训练时间从几小时缩减到数分钟,微软与CSCS超算新突破

[日期:2016-12-14] 来源:炼数成金  作者: [字体: ]

  深度学习模型通常需要数周的时间来训练。但现在,微软和瑞士国家计算中心(CSCS)的科学家们取得了重大突破,将超级计算机上深度学习的训练时间缩减到数分钟。

  训练时间的缩短,再加上超级计算机技术的引入,或能够解决现在在图像、视频和语音识别,自然语言处理等方面问题的瓶颈。考虑到深度学习能够提供的复杂性,这样的研究还可能扩展到其它多个领域。

  该团队将微软认知工具包(一个训练深度学习算法的开源代码包)扩展到瑞士实验室的 Cray XC50 超级计算机上的超过 1000 个 Nvidia Tesla P100 GPU 加速器,这台超级计算机代号 Piz Daint。

  根据该团队研究员的解释,深度学习在算法方面和传统运行在大规模并行超级计算机上的应用是类似的,通过使用 Cray XC Aries 网络以及高性能的 MPI 库来优化节点间通信,每个训练任务可以使用更多的计算资源,进而缩短训练单个模型所需的时间。

  

 

  瑞士超级计算中心主任 Thomas Schulthess 表示,这项突破意味着研究人员能够利用现有的超级计算机解决那些以前被认为不可行的深度学习问题,以前一般认为那些问题需要几个月的时间来训练模型。

  微软AI研究工程师黄学东认为,这项研究甚至可能推动深度学习的界限,因为它代表了训练及评估深度学习算法的大突破。这一突破的结果将允许研究人员运行更大型、更复杂的深度学习工作负载。

 

  原文地址:http://www.natureworldnews.com/articles/33884/20161213/cray-microsoft-swiss-national-computing-centre-microsoft-cognitive-toolkit-ai-deep-learning-artificial-intelligence.htm

收藏 推荐 打印 | 录入:admin | 阅读:
本文评论   查看全部评论 (0)
表情: 表情 姓名: 字数
点评:
       
评论声明
  • 尊重网上道德,遵守中华人民共和国的各项有关法律法规
  • 承担一切因您的行为而直接或间接导致的民事或刑事法律责任
  • 本站管理人员有权保留或删除其管辖留言中的任意内容
  • 本站有权在网站内转载或引用您的评论
  • 参与本评论即表明您已经阅读并接受上述条款