数据分析技术:神经网络算法;源于人的思维结构的数据分析算法

浏览: 1743

基础准备

前面用两篇文章介绍了SPSS的决策树分析功能,它是机器学习的入门分析方法,包括了四种基本的算法CHAID/Exhaustive-CHAID/CART/QUEST。同时也介绍了决策树分析与其它分类和判别分析方法(逻辑回归、判别分析、聚类分析等)的区别和联系,大家可以点击下方文章链接进行回顾:

因为SPSS是一款统计分析软件,所以关于模型和算法的模块比较少,也比较简单,只涉及决策树和神经网络的部分功能。草堂君会在结束SPSS软件的介绍后,继续介绍IBM另外一款数据挖掘软件Modeler,模型和算法的原理会在介绍Modeler软件时进行。下面给大家介绍的就是神经网络算法的分析逻辑。

人类的思维方式

神经网络算法的创造来源于人的思维方式,因此首先来科普人的思维方式有哪些。人的思维分成三种:抽象思维(逻辑思维)、形象思维(直观思维)和灵感思维(顿悟思维)。其中,灵感思维很奇妙,具有不可分析性。例如,设计师的设计,画家的创作和诗人写诗,他们的作品框架经常是瞬间产生的,也就是灵感来了。这种思维过程和结果产生带有不可预知性,仍然是科学家研究的热门领域。

 

抽象思维,也称为逻辑思维,它是一种逻辑推理过程。它首先将信息转换成符号,然后根据符号运算进行逻辑推理,得出最终的结果。例如,常说男人的逻辑思维能力会稍高于女人。逛街遇到自己喜欢的东西,女人容易冲动消费,而男人会进行一番逻辑推理,对比同等档次物品的价格,性能等因素,最后再决定是否购买。

 

形象思维,也称直观思维,它的特点是将以前不同领域的信息存储起来,产生最终的结果。日常生活中,经常用直觉来表示这种思维方式。例如,警察由于经常面对小偷,脑子中自然而然的存储了小偷的特征信息,当警察在交通枢纽抓小偷时,观察周边的行人,这些分布存储的小偷特征信息就会以直觉的形式告诉警察,哪些人可能是小偷。这种思维方式与抽象思维不一样,没有形成完整明确的推断逻辑路径,只能通过综合过往存储的信息,给出一个大概率的判断。人工神经网络算法就是模拟人的直观思维方式。

 

神经网络算法

既然神经网络模拟的是人类直观思维的方式,那么人类的这种直观思维是如何形成的呢?答案是通过神经元。婴儿出生后,大脑不断发育,外界的刺激信号会不断调整和加强神经元之间的连接强度,从而形成稳定的连接结构。如下图所示:

image.png

人脑智慧的核心就在于这些神经元的连接机制。大量神经元的巧妙连接,使得人脑成为一个高度复杂的系统。人工神经网络就是一种模拟人脑神经结构的建模方式(算法)。目前,神经网络在人工智能和数据挖掘领域都有广泛的应用,例如应用于商业数据的分类预测和聚类分析中。

 

人工神经网络可以画成下图的形式,下图是一个三层神经网络,当然也会有两层和多层神经网络,分析者可以根据实际情况选择。在三层神经网络中,分成输入层、中间的隐层以及输出层,神经网络的处理单元(节点)就分布在这些层中。

image.png

输入节点负责接收和处理输入变量值;隐层节点负责实现信息传递转换;输出节点负责给出输出变量的分类预测结果。节点之间的连接以及连接强度可以通过训练数据(训练集)来建立,训练数据越多,节点之间的连接以及连接强度就越接近真实情况。

神经节点结构

神经节点也可以称为神经元。在人工神经网络中,神经节点的结构如下图所示,可以发现完整的节点由加法器和激活函数组成。

image.png

如果节点接受的输出信息用X表示,这些信息经过赋予权重,然后进入加法器,经过下面的加法器公式计算,得到综合值:

image.png

得到综合值以后,综合值代入到激发函数中,得到输出信息Y:

image.png

在加法器和激发函数的作用下,神经元节点会起到一个切割面的作用。假设训练数据的每个个案(研究对象)是处于n为空间中的点(研究对象有n属性变量),那么每个节点就是一个切割面。一个切割面将n为空间划分为两个部分,k个神经元就是k个切割面,可以将n维空间划分为若干区域。理想的情况下,处于不同区域的研究对象属于不同类别,处于同一区域的研究对象属于同一类别。

总结一下

以上就是神经网络的分析逻辑,它由人类的思维方式入手,通过特别的算法设计,使得能够通过大量的历史数据建立成熟的神经网络模型,从而用于现实生活的分类判断。因为SPSS中,神经网络模块比较简单,更为负责的分析原理介绍会在介绍Modeler软件时再细化。下篇文章将介绍如何使用SPSS进行神经网络模型的建立和预测。

image.png

推荐 0
本文由 老谢 创作,采用 知识共享署名-相同方式共享 3.0 中国大陆许可协议 进行许可。
转载、引用前需联系作者,并署名作者且注明文章出处。
本站文章版权归原作者及原出处所有 。内容为作者个人观点, 并不代表本站赞同其观点和对其真实性负责。本站是一个个人学习交流的平台,并不用于任何商业目的,如果有任何问题,请及时联系我们,我们将根据著作权人的要求,立即更正或者删除有关内容。本站拥有对此声明的最终解释权。

0 个评论

要回复文章请先登录注册