眼爆科技

人工智能之迁移学习

时间:2018-05-07 13:00  编辑:眼爆科技

前言: 深度学习主要强调的是特征,强化学习主要强调的是反馈,而迁移学习主要强调的是适应。

之前介绍过人工智能之机器学习算法有前5大类内容,具体请参见相关文章。今天我们重点探讨一下第6类--迁移学习(Transfer Learning)。 ^_^

传统的机器学习是种瓜得瓜,种豆得豆,而迁移学习可以举一反三,投桃报李

人工智能竞争,从算法模型的研发竞争,转向数据和数据质量的竞争,这些成功的模型和算法主要是由监督学习推动的,而监督学习对数据极度饥渴,需要海量数据(大数据)支撑来达到应用的精准要求。而人工智能发展更趋向于不要求海量数据也能达到应用的精准要求,因此“小数据学习”正在成为新的热点,以迁移学习,强化学习为代表的小数据学习技术,更能体现人工智能的未来之路。有专家称,在监督学习之后,迁移学习将引领下一波机器学习技术商业化浪潮

迁移学习(TL)的概念自从1995年在NIPS5专题讨论会上被提出来后,受到学术界的广泛关注。迁移学习定义过于宽泛,相关研究中曾出现多种专用术语,比如learning to learn, life-long learn,multi-task learning, meta-learning, inductive transfer, knowledge transfer, context sensitive learning等。其中,迁移学习与多任务学习(multi-task learning)关系最为紧密。多任务学习同时学习多个不同的任务,从中发现隐含的共同特征,以帮助单个任务的学习。

什么是迁移学习?

迁移学习TL(Transfer Learning)是把已学训练好的模型参数迁移到新的模型来帮助新模型训练。考虑到大部分数据或任务是存在相关性的,所以通过迁移学习,可以将已经学到的模型参数通过某种方式来分享给新模型从而加快并优化模型的学习效率

迁移学习的基本动机:

迁移学习的基本动机是试图从一个问题中获取的知识应用到另外一个不同但是相关的问题中去。比如,一个熟练应用C++语言编程的程序员能很快地学习和掌握JAVA语言。在某种程度上,机器学习中的迁移学习跟心理学上的“学习能力迁移”有一定的关联。在人类进化中,迁移学习这种能力是非常重要。比如说,人类在学会骑自行车后,再骑摩托车就很容易了,人类在学会打羽毛球后再学习打网球也会容易很多。人类能把过去的知识和经验应用到不同的新场景中,这样就有了一种适应的能力。

  • 共4页:
  • 上一页
  • 1
  • 2
  • 3
  • 4
  • 下一页




  • 上一篇:自动驾驶、医疗、能源......一季度融资最多的人工智能公司 下一篇:法国总统马克龙宣布法国人工智能战略