你好,游客 登录
背景:
阅读新闻

机器学习2017年重大进展汇总

[日期:2018-01-17] 来源:网络  作者: [字体: ]

云栖君导读:很难相信在人工智能和机器学习领域里这一年发生了那么多的事情,很难做一个全面的系统的汇总。尽管如此,作者还是尝试性的去做了一个汇总,希望能够帮助大家去回顾一下今天的科技到底发展到了何种程度。

1.Alpha Go Zero:创造者的兴起

如果让我必须选择今年的主要亮点,那就是AlphaGo Zero(论文)。这种新方法不仅在一些最有希望的方向上有所改进(如深度强化学习),而且也证实了这种模式可以在没有数据的情况下学习的范式转变(译者认为:这是思想的转变,在商业上,给了那些没有大量数据的创新者一个机会)。我们最近也看到了Alpha Go Zero正在推广到象棋类的其他游戏。

2.GAN:不要怕,就要GAN

最近的一项元研究(meta-study)发现在GAN相关研究论文的报告指标上存在系统性错误。尽管如此,不可否认的是,GAN继续发挥着它的独到之处,特别是当涉及到图像空间的应用时(例如,渐进式GAN,pix2pix中的条件GANS或CycleGans)。

3.深度学习版的NLP:商业化的开端

今年的深度学习是NLP的天下,特别是翻译,NLP让我们感受到了翻译正在变得简单容易。Salesforce提供了一个有趣的非自回归方法,可以处理完整的句子翻译。也许更具开创性的是Facebook提供的无监督的方法UPV。深度学习也成功的帮助商家让它们的推荐系统做的更加的完美。然而,最近的一篇论文也对最近的一些进展提出了质疑,例如KNN与Deep Learning相比有多么简单。与GAN研究一样,人工智能研究的惊人速度也会导致科学严谨性的损失,这也不足为奇。虽然人工智能的许多或大部分进展来自深度学习领域,但在AI和ML方面还有许多其他方面的不断创新也应该是值得让人关注的。

4.理论的问题:可解释性和严密性

与上面提到的一些问题有些相关的是,许多人批评这种方法的理论基础缺乏严密性和可解释性。就在前不久,阿里·拉希米(Ali Rahimi)在他的NIPS 2017谈话中将现代AI描述为“炼金术” 。Yann Lecun在一场不可能很快解决的辩论中迅速作出了回应。值得注意的是,今年在尝试推进深度学习的基础上,已经看到了很多的努力。例如,研究人员正在试图了解神经网络如何深度泛化。Tishby的信息瓶颈理论也在今年作为对某些深度学习属性的合理解释进行了长时间的辩论。正在为今年的职业生涯庆祝的辛顿也一直在质疑诸如使用反向传播的基本问题。佩德罗·多明戈斯(Pedro Domingos)等知名研究人员很快进入节奏,开发了使用不同优化技术的深度学习方法。Hinton提出的最后一个最近的根本性变化是使用(capsule)胶囊(见原文)作为卷积网络的替代品。

5.服务商的战斗:越来越好的开发体验

如果我们看一下人工智能的工程相关的成果,那么一年来,Pytorch开始挑起热潮,成为Tensorflow的真正挑战,特别是在研究方面。Tensorflow通过在Tensorflow Fold中发布动态网络迅速作出反应。大玩家之间的“AI之战”还有很多其他的战斗,其中最激烈的就是围绕着云。所有的主要供应商都已经加紧了,增加了他们在云中的AI支持。亚马逊已经呈现在他们的AWS,大创新,如他们最近的表现Sagemaker构建和部署ML车型。另外值得一提的是,更小的玩家也纷纷涌入.Nvidia最近推出了他们的GPU云,这是训练深度学习模式的另一个有趣的选择。所有的这些战斗无疑在未来都将大力推动工业升级。另外,新的ONNX神经网络表示标准化是互操作性的重要和必要的一步。

6.始终有待解决的未来的社会问题

2017年,人工智能方面的社会问题也得到了延续(升级)。伊隆·马斯克(Elon Musk)继续推动我们越来越接近杀手级AI的想法,令许多人感到沮丧。关于人工智能在未来几年会如何影响工作,也有很多讨论。最后,我们看到更多的焦点放在AI算法的可解释性和偏见上。

7.新的战场:机器学习+传统行业

最近几个月来,我一直在从事医学和医疗方面的人工智能方面的工作。我很高兴地看到,像“医疗保健”这样的“传统”领域的创新速度正在被迅速提高。AI和ML已经应用于医学多年,从60年代和70年代的专家系统和贝叶斯系统开始。不过,我经常发现自己引用了几个月前的文章。今年提出的一些最近的创新包括使用Deep RL,GAN或自动编码器来帮助患者诊断。最近人工智能的许多进步还集中在精准医学(高度个性化的医疗诊断和治疗)和基因组学上。例如David Blei的最新文章通过使用贝叶斯推断来预测个体是否具有对疾病的遗传倾向,从而解决神经网络模型中的因果关系。所有的大公司都投资人工智能在医疗保健领域。Google有几个团队,其中包括Deepmind Healthcare,他们在医学人工智能方面提出了一些非常有趣的进展,特别是在医学影像自动化方面。另外,苹果公司也在为苹果手表寻找医疗保健应用程序,而亚马逊也“秘密”地投资于医疗保健。很明显,创新的空间已经成熟。

Uber AI团队在深度强化学习的背景下提出了使用遗传算法(GA)的非常有趣的想法。在这5篇论文中,团队展示了GA如何成为SGD的一个竞争性替代方案。看到GA复出是件非常有趣的事情,我很高兴看到在未来几个月里它可以把我们带到哪里。

最后,我最近阅读了关于Libratus如何在单挑无限扑克(这是IJCAI早期论文的一个版本)上击败专家的科学论文。而AlphaGo Zero确实是一个非常令人兴奋的发展,事实上现实中的大多数问题可以更容易地被吸收到像Poker这样的不完善的信息游戏,而不是像Go或Chess这样的完美信息游戏。这就是为什么在这个领域的工作是一个真正令人兴奋的重要推动领域前进。除了上面提到科学论文之外,我还建议你去阅读以下两个:在不完全信息博弈中自我对弈的深度强化学习,以及DeepStack:专家级人工智能在单挑无限制扑克中的应用。

本文由阿里云云栖社区组织翻译。

文章原标题《What-are-the-most-significant-machine-learning-advances-in-2017》,

作者: Xavier Amatriain 计算机科学博士,ML研究员。

译者:虎说八道。

收藏 推荐 打印 | 录入:Cstor | 阅读:
相关新闻      
本文评论   查看全部评论 (0)
表情: 表情 姓名: 字数
点评:
       
评论声明
  • 尊重网上道德,遵守中华人民共和国的各项有关法律法规
  • 承担一切因您的行为而直接或间接导致的民事或刑事法律责任
  • 本站管理人员有权保留或删除其管辖留言中的任意内容
  • 本站有权在网站内转载或引用您的评论
  • 参与本评论即表明您已经阅读并接受上述条款