眼爆科技

人工智能之AdaBoost算法

时间:2018-06-15 09:00  编辑:眼爆科技

前言:人工智能机器学习有关算法内容,请参见公众号“科技优化生活”之前相关文章。人工智能之机器学习主要有三大类:1)分类;2)回归;3)聚类。今天我们重点探讨一下ID3算法。

Hunt、Marin、和 Stone于1966年研制了一个概念学习系统CLS, 可以学习单个概念,并用此学到的概念分类新的实例。John Ross Quinlan(悉尼大学)于1983年研制了ID3算法

ID3算法决策树的一种,它是基于奥卡姆剃刀原理的,即用尽量用较少的东西做更多的事。

ID3算法是以信息论为基础,以信息熵信息增益度为衡量标准,从而实现对数据的归纳分类

ID3算法概念

ID3Iterative Dichotomiser 3,即迭代二叉树3,该算法是一种贪心算法,用来构造决策树【请参加人工智能(23)】。ID3算法起源于概念学习系统(CLS),以信息熵的下降速度为选取测试属性的标准,即在每个节点选取还尚未被用来划分的具有最高信息增益的属性作为划分标准,然后继续这个过程,直到生成的决策树能完美分类训练样例。

ID3算法核心

ID3算法核心是“信息熵”。ID3算法通过计算每个属性的信息增益,认为信息增益高的是好属性,每次划分选取信息增益最高的属性为划分标准,重复这个过程,直至生成一个能完美分类训练样例的决策树。


  • 共3页:
  • 上一页
  • 1
  • 2
  • 3
  • 下一页




  • 上一篇:非洲首家:谷歌将在加纳设置人工智能研究中心 下一篇:人工智能之长短时记忆神经网络