你好,游客 登录
背景:
阅读新闻

深度学习 & 机器学习之学习资源

[日期:2018-01-06] 来源:blog.ihuxu  作者: [字体: ]

深度学习框架的一年

如果我不得不一句话总结2017年,那将是框架的一年。Facebook使用PyTorch做了一个大飞溅。由于类似于其动态图构建Chainer提供,PyTorch得到很多的爱从研究人员在自然语言处理,谁经常要处理动态和周期性的结构是很难在诸如Tensorflow静态图形框架申报。

Tensorflow在2017年已经相当成功.Tensorflow 1.0在二月份发布了一个稳定且向后兼容的API。目前,Tensorflow的版本是1.4.1。除主框架之外,还发布了几个Tensorflow伴随库,包括用于动态计算图的Tensorflow折叠,用于数据输入流水线的Tensorflow变换以及DeepMind的更高级别的Sonnet库。Tensorflow团队还宣布了一个新的热切执行模式,其工作方式类似于PyTorch的动态计算图。

除Google和Facebook之外,许多其他公司也加入了机器学习框架的潮流:

  • 苹果公司发布了CoreML移动机器学习库。

  • Uber的一个团队发布了Pyro,一种深度概率编程语言(Deep Probabilistic Programming Language)。

  • 亚马逊宣布胶子,在MXNet提供了更高级别的API。

  • Uber发布了其内部米开朗基罗机器学习基础设施平台的详细信息。

而且由于框架的数量已经失控,Facebook和微软宣布了ONNX开放格式,以便跨框架共享深度学习模式。例如,您可以在一个框架中训练您的模型,然后在另一个框架中投入生产。

除了通用的深度学习框架外,我们还看到大量的强化学习框架正在发布中,其中包括:

  • OpenAI Roboschool是一款用于机器人仿真的开源软件。

  • OpenAI Baselines是一套强化学习算法的高质量实现。

  • Tensorflow代理包含优化的基础设施,用于使用Tensorflow来培训RL代理。

  • Unity ML Agents允许研究人员和开发人员使用Unity Editor创建游戏和模拟,并使用强化学习进行训练。

  • Nervana Coach允许使用最先进的强化学习算法进行实验。

  • Facebook的游戏研究ELF平台。

  • DeepMind Pycolab是一个可定制的gridworld游戏引擎。

  • Geek.ai MAgent是一个多代理强化学习的研究平台。

为了让深度学习更容易获得,我们也为Web提供了一些框架,比如Google的deeplearn.js和MIL WebDNN的执行框架。但至少有一个非常流行的框架死亡。那是Theano。在Theano邮件列表中的一个公告中,开发者决定1.0将是它的最后一个版本。

学习资源

随着深度学习和强化学习越来越受欢迎,越来越多的讲座,训练营和活动已经在2017年在线录制和发布。以下是我最喜欢的一些:

  • 由OpenAI和加州大学伯克利分校联合主办的Deep RL Bootcamp讲授了关于强化学习基础知识以及最新研究成果的讲座。

  • 斯坦福大学2017年春季版视觉识别卷积神经网络课程。也请查看课程网站。

  • 斯坦福大学自然语言处理与深度学习课程2017年冬季版。也请查看课程网站。

  • 斯坦福的深度学习理论课程。

  • 新的Coursera深度学习专业

  • 蒙特利尔的深度学习和加强暑期学校

  • 加州大学伯克利分校2017年秋季深度强化学习课程。

  • 该Tensorflow开发峰会上深入学习的基础知识和相关的API Tensorflow会谈。

几个学术会议继续在网上发布会议的新传统。如果您想赶上尖端的研究,您可以观看NIPS 2017,ICLR 2017或EMNLP 2017的一些录音。

研究人员也开始在arXiv上发布容易获取的教程和调查报告。这是今年的一些我的最爱:

  • 深化强化学习:概述

  • 工程师机器学习简介

  • 神经机器翻译

  • 神经机器翻译和序列 - 序列模型:教程


原文链接:http://www.wildml.com/2017/12/ai-and-deep-learning-in-2017-a-year-in-review/

收藏 推荐 打印 | 录入:Cstor | 阅读:
相关新闻      
本文评论   查看全部评论 (0)
表情: 表情 姓名: 字数
点评:
       
评论声明
  • 尊重网上道德,遵守中华人民共和国的各项有关法律法规
  • 承担一切因您的行为而直接或间接导致的民事或刑事法律责任
  • 本站管理人员有权保留或删除其管辖留言中的任意内容
  • 本站有权在网站内转载或引用您的评论
  • 参与本评论即表明您已经阅读并接受上述条款