机器学习
各位前辈,小弟想参与BI的项目
加权欧式距离的权值应该怎么设定?
数据预处理后,预测结果的取值是否还需要还原?
第一本 ECharts 数据可视化书籍出版了!
ID王大伟 发表了文章 • 2020-12-28 11:42
centos以rpm安装cudnn
safa 发表了文章 • 2020-12-18 10:18
pytesseract安装,中文识别OCR
safa 发表了文章 • 2020-12-10 14:04
UltraEdit打开文件的编码显示
safa 发表了文章 • 2020-11-30 16:11
python在windows上使用multiprocessing Pool要运行在if __name__=="__main__"
safa 发表了文章 • 2020-11-27 19:25
centos 安装opencv
safa 发表了文章 • 2020-11-11 09:51
pip install 太慢
safa 发表了文章 • 2020-11-10 11:03
安装多个版本 cuda 并切换
safa 发表了文章 • 2020-11-06 15:51
conda 安装 pytorch 下载太慢解决
safa 发表了文章 • 2020-11-05 09:24
Centos 7 安装 CUDA11.1
safa 发表了文章 • 2020-09-27 10:46
简单说一下,目前的算法都有各种应用,只是行业不同而已哦。
按照机器学习的分法,最常见的分类就是有监督学习、无监督学习、半监督学习、强化学习。
有监督学习主要有:逻辑回归(Logistic Regression)、BP神经... 显示全部 »
简单说一下,目前的算法都有各种应用,只是行业不同而已哦。
按照机器学习的分法,最常见的分类就是有监督学习、无监督学习、半监督学习、强化学习。
有监督学习主要有:逻辑回归(Logistic Regression)、BP神经网络(Back Propagation Neural Network)
无监督学习主要有:Apriori、k-means.
半监督学习主要是分类和回归,有:推理算法(Graph Inference)、拉普拉斯支持向量机(Laplacian SVM)
强化学习有:Q-learning、时间差学习(Tempral difference learning)
如果按照数据挖掘来分:
分类与回归:决策树、贝叶斯、人工神经网络、K-近邻、支持向量机、逻辑回归等
关联:Apriori、FP-树频集等
聚类:k-means、k-medoids等
简单就这么看看吧,功能这一块不好说,不同算法的应用真的不一样,回头我整理一下写到博客里面。
1 你说的自动化变量筛选是指建模前的数据预处理过程?
2 一般情况下这种类型的建模要涉及训练,评估,应用三个方面的工作,你说的自动化过程是指哪个方面?
3 一般确定一个风险预测模型后确实需要根据应用的实际效... 显示全部 »
1 你说的自动化变量筛选是指建模前的数据预处理过程?
2 一般情况下这种类型的建模要涉及训练,评估,应用三个方面的工作,你说的自动化过程是指哪个方面?
3 一般确定一个风险预测模型后确实需要根据应用的实际效果不断对该模型进行调整,但这个调整周期都是需要一定时间和新的应用数据积累的,每日的地自动化如果是指模型调整而言好像不是很合适。
4 建议明确该风险模型的应用场景和目标,不同的应用场景和目标对于训练出的模型准确度的具体要求是不同的,进而也会影响模型的评估标准。
“阿尔法狗大家都听说过吧,阿尔法狗之所以厉害,不是因为他背会了多少棋谱或者记住什么规则,而是他不停的跟人去学习,他不需要懂所有的规则和可能,只要学会了下棋的人的套路就行了。这样的好处就是越学越厉害,你看阿尔法狗下李世石的时候还输了一次,后来改名... 显示全部 »
“阿尔法狗大家都听说过吧,阿尔法狗之所以厉害,不是因为他背会了多少棋谱或者记住什么规则,而是他不停的跟人去学习,他不需要懂所有的规则和可能,只要学会了下棋的人的套路就行了。这样的好处就是越学越厉害,你看阿尔法狗下李世石的时候还输了一次,后来改名master上围棋网就大杀四方,排名第一的天才少年柯洁都输了。”
“其实我们自己也有类似的例子,比如我们学开车,虽然有基本的规则红灯停绿灯行,但是具体你打方向盘打多少度,转多大弯,开多少速度,并不是很精确的去背公式:向左打90车头可以转45度弯,而是根据实际路况,凭感觉判断。这样一开始虽然会出一些问题,但是开的越久就学的越精,机械学习的原理也是如此,他把每一次的情况,用一些参数记录下来,比如你打了多少度,车头转了多少,过了什么样的弯,这些参数记录下来, 然后记录你开车的结果,剩下的交给算法去学习,让算法自己帮你总结经验,越总结越会开。这也是谷歌无人驾驶车的原理”
“所以,业务人员可以放心的抛弃传统的因果关系,假设,判断的思路,让算法来解决问题,我们只要聚焦算法的结果是否越来越朝着我们想要的方向发展就好了。正如同你自己开车不会纠结打方向盘打90度还是95度而是关注车到底转过弯没有一样”
之前总结的一个学习路径供参考:
https://ask.hellobi.com/blog/wetalkdata/3980
如下是文字版本:
这是浩彬老撕自己的学习书单,希望能够帮助大家更好更快地理解数据科学,同时也希望继续完善... 显示全部 »
之前总结的一个学习路径供参考:
https://ask.hellobi.com/blog/wetalkdata/3980
如下是文字版本:
这是浩彬老撕自己的学习书单,希望能够帮助大家更好更快地理解数据科学,同时也希望继续完善自己。
#关于这份学习清单#我会按照基础到入门给出详细推荐,并且附上个人点评。同时尽量做到各个资料在内容上并不重复(即使内容上有重复,也会在难度上做出区分),希望可以以最直接的方式告诉大家应该怎么选择。
Ps:这是第一版学习指南,由于最近时间比较紧张,预计在第二版中会加入业务材料的推荐和更多的学习索引,欢迎关注。
1先验知识
由于统计学概率论甚至到机器学习会对数学基础有一定要求,所以这里给出一些先验知识的内容推荐,主要是矩阵方面。
1.1 课程
可汗学院公开课:线性代数课程
可汗学院公开课:线性代数
因为网易公开课有翻译,这里是中文字幕课程链接,这里真要给网易100个赞,字幕做得很好。
“可汗学院(Khan Academy),是由孟加拉裔美国人萨尔曼·可汗创立的一家教育性非营利组织,主旨在于利用网络影片进行免费授课,现有关于数学、历史、金融、物理、化学、生物、天文学等科目的内容,教学影片超过2000段,机构的使命是加快各年龄学生的学习速度。”
1.2 参考书籍
(1)线性代数 豆瓣评分7.3
清华居余马老师的线性代数教材,比较经典的教材了,里面的知识足够支撑我们后续统计分析和机器学习需要。
(2)高等代数 豆瓣评分8.1
相比于线性代数,高等代数更加深入,一般线性代数为非数学专业所用,数学类专业一般学习高等代数。不过一般情况下,线性代数也足够使用了。
当然,在后续学习中有些算法也会用到微积分的知识,但是都比较基础,因此遇到不懂的时候直接查资料即可,就没有特定推荐材料了。
2统计分析学习资料
2.1 统计学/概率课程
同样推荐可汗学院的统计学和概率课程,而且刚好这两门课程也被网易公开课进行了翻译:
(1) 可汗学院公开课:统计学
可汗学院公开课:统计学
(2) 可汗学院公开课:概率
可汗学院公开课:概率
这两本课程总体不算太难,适合入门。个人觉得讲授还是蛮有特点的,粗暴直接,另外举的例子也是蛮有趣的。
2.2统计学/概率参考书
(1)统计学 豆瓣评分8.8
作者William Mendenhall / Terry Sincich
“《统计学(原书第5版)》内容丰富,很少涉及统计学理论的严格数学证明,绝大部分是与实际应用紧密联系的例子和练习,适合作为理工科各专业本科生、研究生的统计学教材,也可作为相关领域研究人员的参考读物。”
非常注重实用的统计学课程,偏应用,少数学证明,可读性比较强;
(2)统计学 豆瓣评分7.3
作者:贾俊平,何晓群,金勇进
统计比较通用的入门教材了,不知不觉竟然到了第六版,个人认为也算是兼顾数学证明和应用,可读性没有上面强,但是也非常的通俗易懂,有很多统计学专业的起始教材也会选择这本。
(3)统计推断 豆瓣评分8.8,/英本原本9.2
作者:William Mendenhall / Terry Sincich
非常经典经典的统计学教材,借用介绍“从概率论的基础开始,通过例子与习题的旁征博引,引进了大量近代统计处理的新技术和一些国内同类教材中不常见而又广为使用的分布。其内容既包括工科概率入门、经典统计和现代统计的基础,又加进了不少近代统计中数据处理的实用方法和思想”
可以作为研究生所用教材,有深度,但是作者循序渐进,解释得非常漂亮
3机器学习资料
3.1机器学习课程
强烈推荐Andrew NG吴恩达的斯坦福机器学习课程,英文授课,但是已有完善的中文字幕,内容非常丰富且充实(20节),并且讲解得非常的好,如果你想学习机器学习,一定不能错过!
Coursera地址:
Coursera - Free Online Courses From Top Universities
网易公开课地址:
斯坦福大学公开课 :机器学习课程
同时该课程配有课件讲义,同样建议大家在学习视频课程之余多看讲义和习题,虽然是英文,但是阅读上基本没有什么问题,就讲义本身也是非常的棒。
如果大家学习完Andrew NG的机器学习,还想通过其他课程触类旁通,相互借鉴的话,可以上Coursera上门搜索还有其他选择,例如台大的机器学习基础等等,但毫无疑问首推Andrew NG的课程;
另外现在国内也有越来越多的培训网站推出相关课程,大家有兴趣的可以自己搜搜,这里就不做推荐了;
3.2机器学习教材
(1)数据挖掘导论 豆瓣评分8.4,/英本原本8.8
作者: Pang-Ning Tan、Michael Steinbach、Vipin Kumar
介绍得非常全面的一本书,但可能因为需要涵盖的内容太多,所以难免有些算法只能简单介绍。尽管这样,个人认为也是非常难得一见的入门教材,有一定难度。这本书从简单的数据开始,到各种分类算法,聚类算法,关联规则都有相对完整的指引,我认为对于我们构建自身的统计挖掘体系是有很大的帮助。中文版本翻译还是挺好的,但是英文原版那是极好的。
(2)统计学习方法 豆瓣评分:8.9
作者:李航
个人认为中文教材里面少见的精品,虽然精简,但逻辑非常的清晰,非常详细地为我们剖析了算法原理,可能不太适合入门者,但是还是非常值得推荐阅读学习,建议将《数据挖掘导论》以及《统计学习方法》相互借鉴学习
(3)The Elements of Statistical Learning(统计学习基础)
豆瓣英本原版评分9.4 中文评分7.4
作者:Trevor Hastie
这本书被广大人民喜称为ESL,虽然书名是统计学习基础,但是此书一点都不基础,一点都不~另外此书还有一本专门的入门版本ISL(后面会介绍)
这本书涵盖了非常多的内容,讲解深入,有人评价说,“有了这本书就不需要其他机器学习教材”,虽然有点夸张,但是此书实际是机器学习的经典巨作,如果你真的希望好好研究机器学习,此书非常值得仔细研读,另外此书要求不低的统计理论和数学基础。
此外,这本书还有一个牛逼的地方在于,作者把书放在网上免费下载:
Elements of Statistical Learning: data mining, inference, and prediction.2nd Edition.
前面都是一些理论知识,但是数据科学里面实践应用又是另外一个重中之重,接下来谈一下借助工具进行实践应用的问题,由于Python还在整理当中,本次主要介绍SPSS与R语言:
4SPSS学习资料
考虑到SPSS分为统计模块Statistics以及数据挖掘模块Modeler , 因此也分为两大块介绍
4.1SPSS统计分析资料
SPSS Statistics 市面上的书籍比较多,从我个人的角度,认为张文彤老师的系列足以让大家加深对统计体系的理解,同时也能很好掌握在实际的应用当中如何使用统计分析帮助我们完成任务,我认为掌握统计分析原理实战和SPSS操作,以下两本书足矣。
(1) SPSS统计分析基础教程 豆瓣评分8.4
提供了包括医疗、经济、市场研究等方面的案例贯穿了全书,能够很好从实际应用角度把统计分析原理和SPSS操作结合起来,也提供了很好的结果解读,不失为一本极好的工具指南。
(2)高等学校教材(SPSS统计分析高级教程)豆瓣评分7.7
相比于基础教材,高级教程介绍了更多的统计算法模型,同时也提供了一些统计新方法和新观点的讲解。整体来说直观易懂,能够很好提升实战能力。
另外张文彤老师也有对应视频课程 《张文彤SPSS初中级教程》以及《张文彤SPSS高级教程》
4.2 SPSS机器学习教程
(1)Modeler官方的帮助文档和Sample文件
Modeler提供完备Sample数据和数据建模文件,并且配套中文说明,可以帮助入门者一步一步搭建数据建模流并理解实际应用场景。Modeler提供的帮助文档包括有算法说明,节点说明,Crisp-dm方法论,应用文档等,其中比较重要一本如:《IBM SPSS Modler 应用程序指南》
(2) IBM SPSS数据分析与挖掘实战案例精粹 豆瓣评分9.3
作者:张文彤,钟云飞
非常详尽工具手册,提供了医疗、金融、保险、汽车、快速消费品、市场研究、互联网等多个行业的数据分析/挖掘案例,基于实战需求,详细讲解整个案例的完整分析过程,并将模型和软件的介绍融于案例讲解之中,尤其是书本最后几章实践案例,从商业问题界定到商业应用,给出了非常详尽的建模指南,个人认为目前市面上Modeler最好的工具手册;另外即使不是使用SPSS,而是用其他工具,该书后面的例子也值得大家研读。
5R语言学习资料
(1)R语言实战 豆瓣评分8.8
作者:Robert I.Kabacoff
首先这本书绝对可以担当日常工具手册,从基本操作,数据处理,数据建模,图形展示都给出了非常详尽的介绍;其次虽然是工具手册,但是能够结合基本统计知识于简单案例,具有很强实践性,强烈建议各位把书中的代码都实现,相信能够大大提升R的功力。最后说一句,此书翻译得不错。
(2)An Introduction to Statistical Learning(统计学习导论) 英本版豆瓣评分9.5,中文版7.6
作者:Trevor Hastie,Robert Tibshirani ,Jerome Friedman
此书被广大人民群众称为ISL,没错,就是上面ESL的入门版本。无论作为统计教材推荐还是R语言教材推荐都称得上5星的读物。ISL虽然是入门版本,但是绝对不是因为内容简单。深入浅出,内容详细,常常读完有种恍然大悟的感觉,同时能够结合R语言介绍,大大的加分。
最后厚颜无耻地介绍我个人的公众号,wetalkdata,定期更新数据分析,数据挖掘方法,Statistics以及Modeler操作指南(比帮助手册更详细),而且还有送书活动!
给个范例: 今天有些人在商城上购买电饭锅, 势必会留下评价. 我们就想是否可以能将这些评价做摘要, 让我们针对摘要做统计, 而不只是单纯看声量... 显示全部 »
给个范例: 今天有些人在商城上购买电饭锅, 势必会留下评价. 我们就想是否可以能将这些评价做摘要, 让我们针对摘要做统计, 而不只是单纯看声量,因此我们实际的作法如下:
1. 先利用jiebaR 将文本断词,
2. 接者求出词频矩阵
3. 将文章做分群
4. 根据同一群的资料做Multiple Sequence Alignment
5. 抽出句子
6. 最后对句子贴标
任何技术都有一定的限制性,我个人是觉得紧追技术前沿是很累的一件事,现在你能追,10年之后还能追么
同样是学习新技术,一个廉价的应届毕业生有可能做的比你还好。
多年后我们的学习能力必然比不上年轻的学生,而更多的是工作经验,已经领域内踩过的各... 显示全部 »
任何技术都有一定的限制性,我个人是觉得紧追技术前沿是很累的一件事,现在你能追,10年之后还能追么
同样是学习新技术,一个廉价的应届毕业生有可能做的比你还好。
多年后我们的学习能力必然比不上年轻的学生,而更多的是工作经验,已经领域内踩过的各种坑。
我不反对追新,但是过于迷茫就不合适了
你认为自己在oracle领域是局限自己,可能仅仅是因为你的工作环境限制你一直在吃老本,没有机会接触更深的东西。
而大部分时候工作都是这样的,花钱请你干活,想充电自己找时间,有人追求更新技术,有人追求工匠精神。
看你个人的追求是什么,路子这东西,有的人说自己越走越窄,有的人说自己越走越资深。
如果你认定了想转行,也不错,说明你有勇气重头再来。
既然有勇气,就别怕顺不顺利;不顺利,也要坚持。
追求自己内心的想法,工作已经很累了,别让自己在不感兴趣的领域里累上加累~
p.s
oracle的路子并不窄,你现在是做开发,你可以充电转去做模型、架构
而且做过EBS也有很好的路子,你做过的东西不少,为啥会认为自己路子窄呢。
让我这种只做过BI,java都忘干净的人怎么活 - -.
zeekvfu 回答了问题 • 2017-07-12 14:15 • 1 个回复
请教下大神们,在用svr做回归的时候,会处理观测值,用 y = scaler.fit_transform(y),最后的预测值怎么反操作成正常的值吗?
组合特征选择,决策树的整个路径。
组合特征选择,决策树的整个路径。
《人人都会数据分析》20万字电子版
面包君 发表了文章 • 2018-01-03 15:15
绪论:第一个机器学习样例
射命丸咲 发表了文章 • 2017-05-17 09:54
机器学习入门算法:从线性模型到神经网络
天善智能 发表了文章 • 2017-04-27 11:13
Python机器学习实践—决策树
watermelon 发表了文章 • 2017-02-13 10:33
机器学习知识体系(转)
余家昕 发表了文章 • 2017-02-03 16:06
Python为何能坐稳 AI 时代头牌语言
天善智能 发表了文章 • 2017-02-03 09:04
蓝色巨人IBM的变革与复兴,大数据时代的人工智能 IBM Watson
lvpin 发表了文章 • 2017-01-16 11:17
案例+课件下载 | 品质课件!机器学习技术在Python 语言的商业应用
天善智能 发表了文章 • 2016-12-21 09:39
各位前辈,小弟想参与BI的项目
加权欧式距离的权值应该怎么设定?
数据预处理后,预测结果的取值是否还需要还原?
机器学习的模型建立后,用于实际预测的数据也要做特征工程么?
使用word2vec的most_similar可以获取单个词相关的前n个词语, 但是我希望获取同时与两个词相关的前n个词,如何做到?
根据提供的互联网金融中用户的行为数据(train.csv,test.csv), 自行设计数据处理的相关操作,训练模型,预测test.csv中的用户是否为欺诈用户。 02 /数据描述
有哪位知道在R语言中安装shogun
请问一下,用R做机器学习,训练速度很慢,有哪些包可以实现并行化运算呀?
input data 问题
matplotlib作图曲线两侧阴影?
为什么scipy中不同规模的稀疏矩阵大小相同?
请问机器学习中的决策边界可视化如何做到呢?
如何用Python3 —TensorFlow 冻结Inception V3模型的部分层?
已经安装sklearn还是报错
(机器学习,python)在大量缺失值情况下,有哪些特征选择的现成模块?
第一本 ECharts 数据可视化书籍出版了!
ID王大伟 发表了文章 • 2020-12-28 11:42
centos以rpm安装cudnn
safa 发表了文章 • 2020-12-18 10:18
pytesseract安装,中文识别OCR
safa 发表了文章 • 2020-12-10 14:04
UltraEdit打开文件的编码显示
safa 发表了文章 • 2020-11-30 16:11
python在windows上使用multiprocessing Pool要运行在if __name__=="__main__"
safa 发表了文章 • 2020-11-27 19:25
centos 安装opencv
safa 发表了文章 • 2020-11-11 09:51
pip install 太慢
safa 发表了文章 • 2020-11-10 11:03
安装多个版本 cuda 并切换
safa 发表了文章 • 2020-11-06 15:51
conda 安装 pytorch 下载太慢解决
safa 发表了文章 • 2020-11-05 09:24
Centos 7 安装 CUDA11.1
safa 发表了文章 • 2020-09-27 10:46
text2code安装
safa 发表了文章 • 2020-09-21 16:24
centos matplotlib 中文 显示方框
safa 发表了文章 • 2020-09-16 18:38
python: import 文件
safa 发表了文章 • 2020-09-11 18:15