0
推荐
1750
阅读

朴素贝叶斯:综述

朴素贝叶斯(Naive Bayes)是贝叶斯分类器的一种,而后者是一个相当宽泛的定义,它背后的数学理论根基是相当出名的贝叶斯决策论(Bayesian Decision Theory)。贝叶斯决策论和传统的统计学理论有着区别,其中最不可调和的就是它们各自关于概率的定义。因此,使用了贝叶斯决策论作为基石的贝叶斯分类器,在各个机器学习算...

发表了文章 • 2017-05-17 11:32 • 0 条评论

0
推荐
2154
阅读

朴素贝叶斯:贝叶斯决策论

贝叶斯决策论是在概率框架下进行决策的基本方法之一、更是统计模式识别的主要方法之一。从名字也许能看出来,贝叶斯决策论其实是贝叶斯统计学派进行决策的方法。为了更加深刻地理解贝叶斯分类器,我们需要先对贝叶斯学派和其决策理论有一个大致的认知贝叶斯学派与频率学派贝叶斯学派强调概率的“主观性”,这一点和传统的...

发表了文章 • 2017-05-17 11:25 • 0 条评论

0
推荐
1791
阅读

朴素贝叶斯:参数估计

无论是贝叶斯学派还是频率学派,一个无法避开的问题就是如何从已有的样本中获取信息并据此估计目标模型的参数。比较有名的“频率近似概率”其实就是(基于大数定律的)相当合理的估计之一,本章所叙述的两种参数估计方法在最后也通常会归结于它极大似然估计(ML 估计)如果把模型描述成一个概率模型的话,一个自然的想法是...

发表了文章 • 2017-05-17 11:17 • 0 条评论

0
推荐
2304
阅读

朴素贝叶斯:Naive Bayes 算法

首先要叙述朴素贝叶斯算法的基本假设:独立性假设:假设单一样本、的 n 个维度彼此之间在各种意义上相互独立这当然是很强的假设,在现实任务中也大多无法满足该假设。由此会衍生出所谓的半朴素贝叶斯和贝叶斯网,这里先按下不表然后就是算法。我们打算先只叙述它的基本思想和各个公式,相关的定义和证明会放在后面的文章...

发表了文章 • 2017-05-17 10:58 • 0 条评论

0
推荐
1753
阅读

朴素贝叶斯:框架的实现

(本文会用到的所有代码都在这里)对于我个人而言、光看这么一个框架是非常容易摸不着头脑的毕竟之前花了许多时间在数学部分讲的那些算法完全没有体现在这个框架中、取而代之的是一些我抽象出来的和算法无关的结构性部分……虽然从逻辑上来说应该先说明如何搭建这个框架,但从容易理解的角度来说、个人建议先不看这章的内...

发表了文章 • 2017-05-17 10:36 • 0 条评论

1
推荐
3387
阅读

朴素贝叶斯:MultinomialNB 的实现

本文主要介绍离散型朴素贝叶斯——MultinomialNB 的实现。对于离散型朴素贝叶斯模型的实现,由于核心算法都是在进行“计数”工作、所以问题的关键就转换为了如何进行计数。幸运的是、Numpy 中的一个方法:bincount就是专门用来计数的,它能够非常快速地数出一个数组中各个数字出现的频率;而且由于它是 Numpy 自带的方法,其...

发表了文章 • 2017-05-17 10:24 • 0 条评论

0
推荐
2959
阅读

朴素贝叶斯:GaussianNB 的实现

本文主要介绍连续型朴素贝叶斯——GaussianNB 的实现。在有了实现离散型朴素贝叶斯的经验后,实现连续型朴素贝叶斯模型其实只是个触类旁通的活了不过在介绍实现之前,我们还是需要先要知道连续型朴素贝叶斯的算法是怎样的。处理连续型变量有一个最直观的方法:使用小区间切割、直接使其离散化。由于这种方法较难控制小区间...

发表了文章 • 2017-05-17 10:14 • 0 条评论