大数据

大数据

0
推荐
59
浏览

准备考试?python也能帮你划重点,上考场

作者:blmoistawinde, 西南某高校学森一枚,喜欢有意思的数据挖掘分析。希望给世界带来些清新空气~个人博客地址:https://blog.csdn.net/blmoistawinde。本文首发于:https://blog.csdn.net/blmoistawinde打开查...

Python爱好者社区 发表了文章 • 2019-02-14 11:17

0
推荐
70
浏览

“史上最强春节档”来袭!数据解读值得看的影片是......

作者:徐麟,目前就职于互联网公司数据部,哥大统计数据狗,从事数据挖掘&分析工作,喜欢用R&Python玩一些不一样的数据。个人公众号:数据森麟(ID:shujusenlin),知乎同名专栏作者。前言随着春节脚步的...

Python爱好者社区 发表了文章 • 2019-02-11 13:34

0
推荐
74
浏览

NLPIR语义挖掘技术助力建设大数据智能城市

  随着信息技术的高速发展、数据库管理系统的广泛应用,人们积累的数据量急剧增长,大量的信息给人们带来方便的同时,也带来了诸如:信息过量难以消化,信息真假难以辨识,信息安全难以保证,信息形式不一致难...

ljrj123 发表了文章 • 2019-01-30 11:34

0
推荐
112
浏览

看完BBC的《中国春节》,我只想说:我的春节过得不如一帮老外!

《啥是佩奇》最近刷爆全网,这部病毒式传播的短片,讲了一个笑中带泪的过年故事。小编一下子就从视频中找到了过年的感觉,去B站搜了一下中国春节,没想到赫然看到了一部BBC拍的纪录片《中国春节——全球最大的盛会...

Python爱好者社区 发表了文章 • 2019-01-24 11:14

0
推荐
136
浏览

数据分析师会被算法取代么?

作者:陈丹奕,在天善智能、知乎等多个专业网站开设个人专栏,主讲数据分析内容。在百度时多次被邀为百度对外培训讲师,拥有百度认证金牌讲师证书。作者好文推荐:数据分析师的30种死法在现实中,当一个数据分析...

Python爱好者社区 发表了文章 • 2019-01-21 10:21

0
推荐
125
浏览

看漫画学强化学习

作者:  石塔西爱好机器学习算法,以及军事和历史知乎ID:https://www.zhihu.com/people/si-ta-xi前言之前通过线上课程学习David Silver的《强化学习》,留下深刻印象的是其中一堆堆的公式。公式虽然严谨,...

Python爱好者社区 发表了文章 • 2019-01-21 10:09

0
推荐
124
浏览

用Python自动化生成倒计时图片

作者:法纳斯特,Python爱好者,专注爬虫,数据分析及可视化微信公众号:法纳斯特(ID: walker398)本次内容有感于《Python编程快速上手-让繁琐工作自动化》。根据书中的「操作图像」章节内容,实现一个简单又实...

Python爱好者社区 发表了文章 • 2019-01-21 10:02

0
推荐
163
浏览

美林数据成功入选2018中国大数据优秀解决方案TOP50

2019年1月10日,【首席数据官联盟•金数榜】2018中国大数据优秀解决方案TOP50榜单正式揭晓。美林数据提交的参评方案“大型回转设备健康管理系统解决方案”得到评审专家组的一致认可,成功入选TOP50榜单。此次评选于2...

AskTempo 发表了文章 • 2019-01-17 16:41

0
推荐
192
浏览

微信报告刷屏,原来80后已经开始老了……

微信发布了《2018微信数据报告》,短短几分钟迅速刷屏朋友圈,大家纷纷表示“暴露年龄”的时刻到了。报告中分析了各年龄段的行为特征,比如00后大多很夜猫子,嗜甜、凉,90后们起床最晚,阅读内容从娱乐八卦转向生...

Python爱好者社区 发表了文章 • 2019-01-15 11:28

0
推荐
205
浏览

Scrapy之10行代码爬下电影天堂全站

作者:  张小鸡  Python爱好者社区专栏作者知乎ID:https://www.zhihu.com/people/mr.ji个人公众号:鸡仔说  前言scrapy的强大相信大家已早有耳闻,之前用的时候只是感觉它爬取效...

Python爱好者社区 发表了文章 • 2019-01-15 11:24

0
推荐
213
浏览

分析了 7 万款 App,全是没想到

作者:  苏克1900公众号:第2大脑相关历史文章推荐:绝对值得安装的 24 款 App有了它,你手机上的很多 App 都可以卸了这是新年的第一篇原创干货。摘要:使用 Scrapy 爬取豌豆荚全网 70,000+ App,并进行探索...

Python爱好者社区 发表了文章 • 2019-01-15 11:07

0
投票
2
回答
586
浏览
0
推荐
151
浏览

闭门造车,求职屡碰壁,然后这样改变后我拿到了offer

徐榕连:最近一直感慨时间过得真快,不知不觉已经转行4个月了,转正2个月了。去年的这个时候萌生了转行的想法,没想到真的转行成功了。回想这一年,总觉得应该总结一下这一年来遇到转行历程,勉励自己,勉励他人。一....

猴子聊人物 发表了文章 • 2019-01-11 17:35

0
推荐
111
浏览

spark中df, rdd, list 转换

df to rdd: df.rdd.map(list) df.rdd.map(tuple) df.rdd.map(lambda x: list(x[0])) rdd to list: rdd1.collect() df to list: df.rdd.map(list).collect() df.rdd.map(tuple).collect() rd...

safa 发表了文章 • 2019-01-11 15:19

0
推荐
93
浏览

NLPIR:九眼文档智能核查系统有效解决合同管理问题

  西方谚语说:“财富的一半来自合同”。企业管理涉及许多方面,但主要是围绕产、供、销三个环节,而这三个环节都是由合同来为连接的。合同是企业从事经济活动取得经济效益的桥梁和纽带,同时也是产生纠纷的根源...

ljrj123 发表了文章 • 2019-01-10 11:19

条新动态, 点击查看
同程吴文波:spark做olap?

天天向上:@大连-K12-王东 spark现在还是一种计算框架 。。

王东:greenplum和spark选型如何取舍呢?

同程吴文波:真有这样的方案哦

小小蜗牛爬上墙:olap用cognos,ibm推广较好的,据说... 显示全部 »
同程吴文波:spark做olap?

天天向上:@大连-K12-王东 spark现在还是一种计算框架 。。

王东:greenplum和spark选型如何取舍呢?

同程吴文波:真有这样的方案哦

小小蜗牛爬上墙:olap用cognos,ibm推广较好的,据说11R版本的cognos会支持hadoop。

锋:spark现在是不是发展很快。

小小蜗牛爬上墙:看来从传统数据仓库往大数据平台迁移任重道远呀。

天天向上:还是要找到价值点,不能盲目的上大数据。

春宇:传统数据仓库和大数据平台分工不同,列存,MPP能够解决的事情,不见得非得挪到Hadoop上去。

同程吴文波:@大连-K12-王东 怎么想到用spark做olap?

春宇:现在就是觉得系统太多,企业统一化的数据视图更难画了

大米:主要的生产数据还是用主流关系数据库,分析用hadoop是这样理解吗?

王东:@同程吴文波 我就是觉得数据层的东西太多,开发维护成本有点高,所以想用spark解决olap和大数据分析等各种场景

同程吴文波:@大连-K12-王东 试试Hadoop+kylin 或spark+cassandra等组合

王东:我们也打算围绕spark做呢,但是这块儿没实际操作过,比较担心olap的响应速度。

Shadow 杨:@大连-K12-王东 [发呆]多大的数据量,数据量不到一定程度,根本发挥不出来。

王东:@Shadow 杨 事实表千万级别,维度表特别多有上百。

同程吴文波:@大连-K12-王东 你的这些用普通db来构建olap就好 

Shadow 杨:@同程吴文波 同意你

天天向上:普通的就可以啊,微软的sass就搞定了。

王东:事实表千万级别greenplum行吗?

同程吴文波:@大连-K12-王东 gp是可以搞定的。但是你的那个数据量用SSAS也就行的。使用SSD 3.2T的+128G内存 或 256G就OK

王东:cognos和ssas是一个量级的么?

春宇:Cognos你用什么?PowerCube?Dynamic Cube?还是TM1?

王东:cognos也没实际用过,这几个cube啥区别啊

春宇:@大连-K12-王东 话题太长,可单聊,但就性价比而言,还是建议你选择SSAS或者开源的OLAP引擎。
SQuirrel Sql Client ,这个可以在Windows下对hive进行操作。或者 下载Windows下的Hadoop,然后解压就行
SQuirrel Sql Client ,这个可以在Windows下对hive进行操作。或者 下载Windows下的Hadoop,然后解压就行
Bob

Bob 回答了问题 • 2017-03-14 13:22 • 1 个回复 不感兴趣

数据仓库从MySQL向大数据平台迁移的方案

赞同来自:

数据仓库建议选择使用hive,用hql语句也能完成update delete的操作。
如果仓库是在hive上,那原来的ETL操作 都改为使用hql脚本吧。这个查询语言是类似mysql的语法。
 
迁移的优先级建议先搬迁底层原始数据、然后建立ETL清洗规则,最后... 显示全部 »
数据仓库建议选择使用hive,用hql语句也能完成update delete的操作。
如果仓库是在hive上,那原来的ETL操作 都改为使用hql脚本吧。这个查询语言是类似mysql的语法。
 
迁移的优先级建议先搬迁底层原始数据、然后建立ETL清洗规则,最后搬DW数据。
在搬迁底层数据时建议你hive原始表与mysql的原始表保持结构一致。
Bob

Bob 回答了问题 • 2017-03-28 15:53 • 3 个回复 不感兴趣

大数据实时解决方案

赞同来自:

1.在数据源方面则尽量去实时收集。可以让他们主动向你的消息队列中写入数据,也可以部署flume去主动收集他们的日志数据。
2.数据进入到消息队列以后,用flume消费kafka,存储原始数据到hdfs中,保留原始数据作为存档
其次消费kafka的数据并输出到h... 显示全部 »
1.在数据源方面则尽量去实时收集。可以让他们主动向你的消息队列中写入数据,也可以部署flume去主动收集他们的日志数据。
2.数据进入到消息队列以后,用flume消费kafka,存储原始数据到hdfs中,保留原始数据作为存档
其次消费kafka的数据并输出到hbase集群中。
hbase集群作为你的目标表,与你的原始表在结构上保持一致。这样你就可以进行update insert等操作。
 
以上是解决实时数据到集群。
 
3.围绕数据的应用。
hbase集群的外围组件Phoenix 可以提供类似sql的查询,让你不用写原生java api,通过sql进行数据的查询
 
你的前端呈现可以通过jdbc的方式访问 Phoenix ,使用sql去查询hbase集群中的数据
 
整个任务调度体系可以使用oozie或zuse等。
 
在支撑后续的大数据查询方面可以扩展使用kylin等。因为kylin也是可以进行实时的olap操作。
1.能不能达到领导的目标和期望
2.从技术、人力等方面的投入产出是否符合现状
3.整套体系运行起来后的维护人力、时间方面是否是可承受范围
4.对现有的运营效率是否有提升
5.大数据应用有没有扩大到当前系统研发、数据分析和挖掘等方方面面
1.能不能达到领导的目标和期望
2.从技术、人力等方面的投入产出是否符合现状
3.整套体系运行起来后的维护人力、时间方面是否是可承受范围
4.对现有的运营效率是否有提升
5.大数据应用有没有扩大到当前系统研发、数据分析和挖掘等方方面面
商业智能是传统数据仓库解决方案的延伸,不同的分工也是依据经典数据仓库的设计而来。其中主要设计到数据库、ETL、存储计算、可视化,还有业务专家角色的分析师团队。元数据管理、测试校验、监控部署,架构建模,不同的团队也会选择性地部分构架。

在传统的工作模式下,即便... 显示全部 »
商业智能是传统数据仓库解决方案的延伸,不同的分工也是依据经典数据仓库的设计而来。其中主要设计到数据库、ETL、存储计算、可视化,还有业务专家角色的分析师团队。元数据管理、测试校验、监控部署,架构建模,不同的团队也会选择性地部分构架。

在传统的工作模式下,即便是ETL也会有不同的分工。Stage/ODS/Mart/DW多层次设计,多维数据建模,可以说完整地分工下来,没有哪个团队按照38个子系统来全面进行。

新的时代已经到来,HADOOP模式下,很多案例粗暴地将所有层次和子系统混杂。用集群的计算能力替代架构设计及分工的作用,这种模式失败的案例居多,但始终是大势所趋。

在这种环境下,传统BI领域的从业者何去何从?

我先简单自我介绍下。十二年正式工作经验,从数据库到数据仓库,从业务到技术,从开发到管理都做过。尽管对于现在大数据相关的技术也有涉猎,但我更加符合一个传统BI从业者的角色。

新的技术浪潮来临,我们会受到冲击吗?

这是毫无疑问的。现在很多案例采用HADOOP架构,不再细致分成,那么以往数据库角色/ETL/存储计算等分工的同学,根本没有条件加入到这种技术选型的团队中。

如果开源大趋势在五年之内成形,这些人现在的工作能力会丧失大部分价值。

直接的体现就是传统架构的团队越来越少,机会越来越难找。新式架构的团队无法进入其中。简而言之,就是饭碗会出现问题。

这么严峻的问题,我给出第一条个人建议:不要给自己设限。

传统数据仓库从业人员,并非ETL工程师,并非建模人员,并非单纯的业务专家。如果已经看出开源是大趋势,就立刻拥抱开源。立即学习、立即尝试、立即应用。需要你做HADOOP就去学习做,需要你用SPARK就立即尝试,需要使用机器学习库就立马行动起来。

在这个崭新的大数据领域,及时的转型,可以拥有强大的优势。

别人不考虑数据体系架构的层次,但你们可以考虑到。预先知道哪里有坑,预先知道项目和业务的紧密结。转型是新人没错,但同为新人,你们的优势体现出来了。

有人担心HADOOP没用过,文档多,主要是英文资料阅读有障碍。没错,不同的技术架构需要改变以前的结构,我遇到很多人不熟悉shell,所以掌握fs shell不容易。有人不熟悉开发语言,所以开发MAP/REDUCE困难。有人英文功底不足,所以阅读很多资料困难。

似乎到处都是困难,没有办法克服是吗?

我们应该回顾下十年前做开始做数据仓库时的局面,真比现在简单吗?

数据仓库的架构没有成形,组件式的ETL遭遇数据量大的问题,莫名其妙的字符集问题,服务器硬件资源极度欠缺的挑战,网络速度极慢还得分电信网通!

这些问题克服的过程中,不需要查询英文资料吗?是不是几乎找不到已有的成功案例参考?是不是也会涉及到不同的开发语言来编写脚本?

现在这些困难,十年前明明已经经历过了!

不同的是现在信息更加发达,大家对压力的反馈有些不一样了。

以前是从业新人,遇到问题就去学习解决,执行力一等一。

现在起码也是个小中层,动口的时间比动手还多,到处听到处说,执行能力反而下滑了。

所以针对这第一条建议,不要给自己定位成某一个角色。即便是和我这样编程能力一般的人,也可以全方位地掌握数据相关能力。这么做,一定会是项目负责人角色,即使是新的技术环境也一样。

第二条建议,重新梳理自己的学习方法。

我们这个年代的人很特别,极有可能成为第一批普遍超过一百岁的人,工作到八十岁,我觉得也不奇怪。

将来还有七十年左右的时间,现在这些大数据的技术,我们是第一批站在这个技术风口上的人。现在学习起来,具备无以伦比的先手优势。

我接触到不少新人,一年前说想学某一块知识,一年后还是想学这块知识。

扯淡。想学的人早都学会转型成功了,动嘴的人一年到头没见行动。看了几本书?翻了多少文档,写了多少笔记,尝试了多少项目?

学习是什么?如果不把这个问题理顺,再过几年就看到很多人不需要转型了。因为机会完全被自己放弃。

一年时间,大数据的任何一个细分领域,作为成年人都有条件从入门者变成中等以上的实践者。其中值得一提的,无非是如何获取高质量的资料。

现在的主流信息是各种电子档,各种视频,各种培训。我比较推崇官方手册,任何计算机相关的资料都是一样的,哪怕只有英文资料。

能把官方手册读完的人,水平差不了。一个领域的应用即便遇到极大的挑战问题,官方手册也是最有资格指明方向的资料。

对于第二条建议,我想说的就是多看资料,详细地看,一遍又一遍地看。多整理笔记,持续不断地整理,大家普遍还有七十年的时间,学习哪个方向时间都是够的。

第三条建议,人以群分。

勤奋的人每天都在努力,懒惰的人一年重复一年。

我感觉现在的社会信息爆炸,有一个很大的作用就是快速给人们划分了层次。

到实际层面来看,就是圈子。越是高端的圈子,越难进入。现在的社会资源,越来越重视知识能力。所以持续学习,是提升圈子品质的一个重要通道。

我接触到很多学霸,他们每天看书学习比其他人时间要长得多。这方面我推崇复旦的思想:“自由而无用的灵魂”,你可以学习没什么商业价值的方向,但不能放弃追求灵魂自由的努力。

先勤奋,然后进入勤奋的圈子,坚持学习,不断改变。大家都看得到现在很多名校学霸只是一个名字,都能引导大量金钱、人力资源配合,他们尚且经常学习到深夜,我们又有什么理由原地等待?

以上是个人一点儿浅薄的想法,希望能给朋友们哪怕一丝的帮助。
 
regan

regan 回答了问题 • 2017-04-06 10:42 • 2 个回复 不感兴趣

spark中如何看有多少个并发的task啊

赞同来自:

你可以通过rdd.partitions.size在程序里面查看,比较方便的是你可以在spark-shell中
val a = spark.range(1,100,9)
a.rdd.partitions.size直接可以在console窗口打印出来看到。
... 显示全部 »
你可以通过rdd.partitions.size在程序里面查看,比较方便的是你可以在spark-shell中
val a = spark.range(1,100,9)
a.rdd.partitions.size直接可以在console窗口打印出来看到。
第二中方式是你可以通过SparkUI查看

34999
 
 
 程序的并行度是由partitions的大小决定的,一个partition对应一个task。可以通过repartions或coalease进行合理的设置
JIELEE

JIELEE 回答了问题 • 2017-05-11 09:38 • 1 个回复 不感兴趣

如何学习大数据,不从代码角度考虑?

赞同来自:

我不懂写代码,Java都不会,我感觉我在这行里都是混日子,
 
好像说的悲观了。
 
我觉的吧,首先,你可以不会java,但一定要会SQL,而且还不只是基本的Selece,需要相对高深的SQL功底。
 
其次,你得懂业务,感觉当前一种思路是:大数据要抛开业务看... 显示全部 »
我不懂写代码,Java都不会,我感觉我在这行里都是混日子,
 
好像说的悲观了。
 
我觉的吧,首先,你可以不会java,但一定要会SQL,而且还不只是基本的Selece,需要相对高深的SQL功底。
 
其次,你得懂业务,感觉当前一种思路是:大数据要抛开业务看数据,这在一些吹牛B的大公司尤其盛行。但我认为,这是一种歪风!
我的理论:做软件要尽可能独立于业务,最牛X的程序是适合于全世界、全行业的程序。但做数据就是做服务,必须无限接近于业务。你做的东西在A市甲单位可用,换到A市方单位,或B市甲单位,即便是同样的原始数据,也必须要调整才能用。
 
第三,你要有一个好的环境,《大数据时代》有一个理论:在做大数据之前,你不能假设结果,得到的结果很可能是你根本想不到的。
没去过南方公司,但是北方公司,普遍是领导家长制,加以销售引导型。领导开完枪,你屁颠屁颠的跑过去,照着弹孔画个靶心,在这种环境下,你干的是替领导吹的牛B擦屁股的活,没有自己发挥的空间,没有尝试,也不可能有进步。
饼干君

饼干君 回答了问题 • 2017-06-08 14:17 • 1 个回复 不感兴趣

请问谁了解大数据的标签体系如何设计

赞同来自:

标签体系不是一个产品功能,而是基于业务需求的一套指标体系,只是这套指标体系中有很多内容是通过计算和数据加工而得到,不是直接采集的。
回答你的问题:
1、用户画像如何设计需要取决于你的画像的业务需求,也就是你为什么要做画像,做了画像要为什么服务?
明确了这些内容... 显示全部 »
标签体系不是一个产品功能,而是基于业务需求的一套指标体系,只是这套指标体系中有很多内容是通过计算和数据加工而得到,不是直接采集的。
回答你的问题:
1、用户画像如何设计需要取决于你的画像的业务需求,也就是你为什么要做画像,做了画像要为什么服务?
明确了这些内容,其实需要有哪些标签也就比较容易梳理了;
2、标签内容和其他数据一样,都以数据的形式保存在数据库当中,和原始数据没有任何区别;部分标签的建设需要构建挖掘模型;
3、每家公司的标签体系建设方法都是类似的,只是说BAT他们拥有更多的数据资源,所以可能构建的标签更全面,但是构建的方法都是一样的。
使用rdd上的randomSplit方法,将一个RDD随机拆分成多个RDD,randomSplit方法返回一个rdd数组,遍历数组,取出每个rdd,toDF后,使用jdbc方法写入数据库,遍历过程中制定一个随机的选库策略,这样就将rdd内容写入到了相同的 数据... 显示全部 »
使用rdd上的randomSplit方法,将一个RDD随机拆分成多个RDD,randomSplit方法返回一个rdd数组,遍历数组,取出每个rdd,toDF后,使用jdbc方法写入数据库,遍历过程中制定一个随机的选库策略,这样就将rdd内容写入到了相同的 数据库不同的表中了。你具体的需求按照这个思路去应该可以实现。
目前我好想没有听说过有这样的平台,要学习的话,我觉得有这样的几个建议:
1. 公司支持
    公司技术迭代,需要使用Hadoop、Spark,那肯定会提供测试环境等一切资源,那就很方便了;
    公司没有需求,那是否可以和上级领导反馈下,申请测试环境供大家... 显示全部 »
目前我好想没有听说过有这样的平台,要学习的话,我觉得有这样的几个建议:
1. 公司支持
    公司技术迭代,需要使用Hadoop、Spark,那肯定会提供测试环境等一切资源,那就很方便了;
    公司没有需求,那是否可以和上级领导反馈下,申请测试环境供大家自主学习使用,这个估计要看具体情况;
    公司有没有闲置的机器,都可以利用起来
2. 个人
    个人电脑安装VirtualBox之类的虚拟机,开3个虚拟机玩儿就够了,电脑的话配置也就内存8G以上应该足够了,CPU差不多就行了,直接装Linux就行了;
    可以使用Docker,可以简单的把他看成虚拟机,找些资料看看,简单使用应该没问题,使用Docker开实例很方便,不像虚拟机那样耗费很多资源
    要不开通个阿里云之类的,在云平台上面玩儿,这个价钱不清楚,可以去官网看看
导出文本文件 直接上传hdfs
导出文本文件 直接上传hdfs
Vincent_lu

Vincent_lu 回答了问题 • 2017-11-20 10:50 • 1 个回复 不感兴趣

BIEE可以对透视表的结果进行计算么?

赞同来自:

a和b在RPD设置聚合规则是sum时,新建字段c=a/b,默认得到的结果就是sum(a)/sum(b),如果你要sum(a/b)反而要特殊处理,在源写公式
 
a和b在RPD设置聚合规则是sum时,新建字段c=a/b,默认得到的结果就是sum(a)/sum(b),如果你要sum(a/b)反而要特殊处理,在源写公式
 
不需要,可以共存。3.6的可以通过conda选择所处python环境   win7下python2和python3共存问题  https://ask.hellobi.com/blog/zhangshining52/6434    https://ask.hel... 显示全部 »
不需要,可以共存。3.6的可以通过conda选择所处python环境   win7下python2和python3共存问题  https://ask.hellobi.com/blog/zhangshining52/6434    https://ask.hellobi.com/blog/weiwei/5153   在Windows与MAC中同时安装Python3.X与2.X的方法  可以看看
新旧版本的替换,参考 openpyxl文档
 新版本的get_column_letter()和column_indwx_from_string()位置发生了改变,在openpyxl.utils下 from openpyxl.utils import get_... 显示全部 »
新旧版本的替换,参考 openpyxl文档
 新版本的get_column_letter()和column_indwx_from_string()位置发生了改变,在openpyxl.utils下 from openpyxl.utils import get_column_letter
from openpyxl.utils import column_index_from_string 这样引入是可以正常使用的
3
推荐
1585
浏览

《人人都会数据分析》20万字电子版

去年的时间把之前的数据分析工作经历、大环境背景、职场选择、公司选择、岗位选择、统计学的基本常识、需要掌握的分析工具、怎么写好一个报告、互联网和金融行业的分析场景这些都整理了下。具体购买链接:https:/...

面包君 发表了文章 • 2018-01-03 15:15

5
推荐
996
浏览

《R的极客理想》系列图书作者张丹:用R语言把数据玩出花样

前言作为数据分析师,每天都有大量的数据需要处理,我们会根据业务的要求做各种复杂的报表,包括了分组、排序、过滤、转置、差分、填充、移动、合并、分裂、分布、去重、找重、填充 等等的操作。有时为了计算一个...

R语言中文社区 发表了文章 • 2017-09-28 09:59

11
推荐
2253
浏览

从大数据舆情传播角度看《三生三世十里桃花》

前不久,看到知乎上一个知友提到了一个问题,觉得有点意思,于是心血来潮写了一个回答,现在粘贴复制到这里:不扯犊子,就直接以题主的举例来上干货,分析的对象是目前大红大紫的《三生三世十里桃花》(以下简称“...

高长宽 发表了文章 • 2017-02-22 13:48

5
推荐
765
浏览

【PPT干货】一篇神一样的数据分析解读,看完我.....

数据君6年前写的数据分析交流资料,删除部分,分享给大家!想成为数据分析方面的专家不易:1、要会技术存储、统计、机器学习、报表、分析、展示、可视化、编程等2、懂市场细分、营销、产品、用户行为、流失、欺诈...

Jmarry 发表了文章 • 2017-02-22 09:37

12
推荐
1794
浏览

从零开始,构建数据化运营体系

数据化运营是一个近年来兴起的概念,它在运营的基础上,提出了以数据驱动决策的口号。在了解数据化运营前,运营们有没有过如下的问题:不同渠道,效果究竟是好是坏?活跃数下降了,到底是因为什么原因?这次活动...

秦路 发表了文章 • 2017-02-06 17:34

7
推荐
1834
浏览

【20万字500页年刊下载】2016年天善大数据社区年刊精华版

继 2015年天善智能发布了 《2015年 BI 系列技术博文与问答精选年刊》 和 《2015年社区博文与 Friday BI Fly 活动记录精选年刊》 后,2017年1月我们正式发布2016年社区年刊。本年刊涵盖了2016 年天...

天善智能 发表了文章 • 2017-01-26 13:36

6
推荐
5399
浏览

人人可用的数据分析认知计算产品 IBM Watson Analytics 试用体验

在这篇文章中 《 蓝色巨人IBM的变革与复兴,大数据时代的人工智能 IBM Watson 》我介绍到了 IBM Watson 在人工智能领域的布局和变革。那么本篇文章就带大家走进 IBM Watson 旗下认知计算、预测分析的云...

lvpin 发表了文章 • 2017-01-21 18:08

9
推荐
4537
浏览

蓝色巨人IBM的变革与复兴,大数据时代的人工智能 IBM Watson

2016年是人工智能走向大众的元年大数据的火热还未退去,人工智能在2016年和2017年交替之际就被刷爆了。从 2016年12月29日到2017年1月4日,一位标注为韩国九段的神秘棋手 Master 在一周之内完胜包括中日韩朴廷桓、...

lvpin 发表了文章 • 2017-01-16 11:17

0
投票
1
回答
1163
浏览
7
推荐
2031
浏览

政府大数据是不是一个伪命题?面临的问题和阻力在哪里?

背景 2015年经李克强总理签批,国务院印发《促进大数据发展行动纲要》,中国政府已经开始系统部署大数据发展工作。《纲要》明确,推动大数据发展和应用,在未来5至10年打造精准治理、多方协作的社会治理新模...

lvpin 发表了文章 • 2016-12-28 18:15

1
推荐
1384
浏览

Friday BI Fly | 2016年10月21日晚8点半微信直播交流在实践中挖掘数据的价值第36场 图文版记录

公告:周五BI飞起来,每周一个主题,一场跟数据有关的行业、工具、技术的交流盛宴,锁定在每周五晚20:30,不见不散!未来几期的微信直播活动分享主题将包括在大数据、大变革、大成长、游戏行业数据仓库储存模型。...

天善智能 发表了文章 • 2016-10-24 10:30

3
推荐
3650
浏览

技术|深入浅出解析大数据Lambda架构

前言   Hadoop的出现让人们尝到了大数据技术的甜头,它的批处理能力已经被工业界充分认可,但是它的延迟性也一直为大家所诟病。随着各行各业的发展,越来越多的业务要求大数据系统既可以处理历史数据,...

星环科技 发表了文章 • 2016-10-11 11:32

3
推荐
1544
浏览

R实现地理位置与经纬度相互转换

本实例要实现目标通过输入城市名或者地名,然后找出其经度纬度值,以及通过可视化展现其线路流向以及周边地图展示本实例参考文章主要来自金大侠博客:http://user.qzone.qq.com/675229288/mainaddress_list数据:...

华青莲 发表了文章 • 2016-10-10 19:27

0
推荐
686
浏览

百度外卖联合搜狐新闻客户端发布十一大数据 异地点单量激增

 国庆长假刚刚结束,朋友圈的旅游摄影大赛也落下帷幕。在这难得的休闲时光里,有人选择天南海北畅游一番,也有人选择宅在家中享受清闲,但无论“旅游族”还是“御宅族”都将“吃遍美食”的主题贯穿了整个假期。  今...

在学古筝的程序员 发表了文章 • 2016-10-08 10:59

0
投票
2
回答
586
浏览
0
投票
2
回答
360
浏览
0
投票
1
回答
508
浏览
0
投票
2
回答
418
浏览
0
投票
1
回答
1175
浏览
0
投票
4
已解决
5004
浏览
0
投票
0
回答
364
浏览
0
推荐
59
浏览

准备考试?python也能帮你划重点,上考场

作者:blmoistawinde, 西南某高校学森一枚,喜欢有意思的数据挖掘分析。希望给世界带来些清新空气~个人博客地址:https://blog.csdn.net/blmoistawinde。本文首发于:https://blog.csdn.net/blmoistawinde打开查...

Python爱好者社区 发表了文章 • 2019-02-14 11:17

0
推荐
70
浏览

“史上最强春节档”来袭!数据解读值得看的影片是......

作者:徐麟,目前就职于互联网公司数据部,哥大统计数据狗,从事数据挖掘&分析工作,喜欢用R&Python玩一些不一样的数据。个人公众号:数据森麟(ID:shujusenlin),知乎同名专栏作者。前言随着春节脚步的...

Python爱好者社区 发表了文章 • 2019-02-11 13:34

0
推荐
74
浏览

NLPIR语义挖掘技术助力建设大数据智能城市

  随着信息技术的高速发展、数据库管理系统的广泛应用,人们积累的数据量急剧增长,大量的信息给人们带来方便的同时,也带来了诸如:信息过量难以消化,信息真假难以辨识,信息安全难以保证,信息形式不一致难...

ljrj123 发表了文章 • 2019-01-30 11:34

0
推荐
112
浏览

看完BBC的《中国春节》,我只想说:我的春节过得不如一帮老外!

《啥是佩奇》最近刷爆全网,这部病毒式传播的短片,讲了一个笑中带泪的过年故事。小编一下子就从视频中找到了过年的感觉,去B站搜了一下中国春节,没想到赫然看到了一部BBC拍的纪录片《中国春节——全球最大的盛会...

Python爱好者社区 发表了文章 • 2019-01-24 11:14

0
推荐
136
浏览

数据分析师会被算法取代么?

作者:陈丹奕,在天善智能、知乎等多个专业网站开设个人专栏,主讲数据分析内容。在百度时多次被邀为百度对外培训讲师,拥有百度认证金牌讲师证书。作者好文推荐:数据分析师的30种死法在现实中,当一个数据分析...

Python爱好者社区 发表了文章 • 2019-01-21 10:21

0
推荐
125
浏览

看漫画学强化学习

作者:  石塔西爱好机器学习算法,以及军事和历史知乎ID:https://www.zhihu.com/people/si-ta-xi前言之前通过线上课程学习David Silver的《强化学习》,留下深刻印象的是其中一堆堆的公式。公式虽然严谨,...

Python爱好者社区 发表了文章 • 2019-01-21 10:09

0
推荐
124
浏览

用Python自动化生成倒计时图片

作者:法纳斯特,Python爱好者,专注爬虫,数据分析及可视化微信公众号:法纳斯特(ID: walker398)本次内容有感于《Python编程快速上手-让繁琐工作自动化》。根据书中的「操作图像」章节内容,实现一个简单又实...

Python爱好者社区 发表了文章 • 2019-01-21 10:02

0
推荐
163
浏览

美林数据成功入选2018中国大数据优秀解决方案TOP50

2019年1月10日,【首席数据官联盟•金数榜】2018中国大数据优秀解决方案TOP50榜单正式揭晓。美林数据提交的参评方案“大型回转设备健康管理系统解决方案”得到评审专家组的一致认可,成功入选TOP50榜单。此次评选于2...

AskTempo 发表了文章 • 2019-01-17 16:41

0
推荐
192
浏览

微信报告刷屏,原来80后已经开始老了……

微信发布了《2018微信数据报告》,短短几分钟迅速刷屏朋友圈,大家纷纷表示“暴露年龄”的时刻到了。报告中分析了各年龄段的行为特征,比如00后大多很夜猫子,嗜甜、凉,90后们起床最晚,阅读内容从娱乐八卦转向生...

Python爱好者社区 发表了文章 • 2019-01-15 11:28

0
推荐
205
浏览

Scrapy之10行代码爬下电影天堂全站

作者:  张小鸡  Python爱好者社区专栏作者知乎ID:https://www.zhihu.com/people/mr.ji个人公众号:鸡仔说  前言scrapy的强大相信大家已早有耳闻,之前用的时候只是感觉它爬取效...

Python爱好者社区 发表了文章 • 2019-01-15 11:24

0
推荐
213
浏览

分析了 7 万款 App,全是没想到

作者:  苏克1900公众号:第2大脑相关历史文章推荐:绝对值得安装的 24 款 App有了它,你手机上的很多 App 都可以卸了这是新年的第一篇原创干货。摘要:使用 Scrapy 爬取豌豆荚全网 70,000+ App,并进行探索...

Python爱好者社区 发表了文章 • 2019-01-15 11:07

0
推荐
151
浏览

闭门造车,求职屡碰壁,然后这样改变后我拿到了offer

徐榕连:最近一直感慨时间过得真快,不知不觉已经转行4个月了,转正2个月了。去年的这个时候萌生了转行的想法,没想到真的转行成功了。回想这一年,总觉得应该总结一下这一年来遇到转行历程,勉励自己,勉励他人。一....

猴子聊人物 发表了文章 • 2019-01-11 17:35

0
推荐
93
浏览

NLPIR:九眼文档智能核查系统有效解决合同管理问题

  西方谚语说:“财富的一半来自合同”。企业管理涉及许多方面,但主要是围绕产、供、销三个环节,而这三个环节都是由合同来为连接的。合同是企业从事经济活动取得经济效益的桥梁和纽带,同时也是产生纠纷的根源...

ljrj123 发表了文章 • 2019-01-10 11:19

0
推荐
119
浏览

Python--NBA数据分析初探(下)

作者:胡言    Python爱好者社区专栏作者知乎ID:https://www.zhihu.com/people/hu-yan-81-25前文传送门:Python--NBA数据分析初探(上)上回学习到利用jupyter notebook简单展示了一下单变量、双...

Python爱好者社区 发表了文章 • 2019-01-10 10:25

0
推荐
133
浏览

2018微信年度数据报告:00后最爱表情捂脸哭 80后呲牙笑

数据分析联盟 今天  点击上方“数据分析联盟”,“星标或置顶公众号”关键时刻,第一时间送达1月9日消息,在今日举行的2019微信公开课PRO上,微信发布了《2018微信年度数据报告》。报告显示,2018年,微信...

面包君 发表了文章 • 2019-01-09 13:56

  从各种各样类型的数据中,快速获得有价值信息的能力,就是大数据技术。明白这一点至关重要,也正是这一点促使该技术具备走向众多企业的潜力。大数据的4个“V”,或者说特点有四个层面:第一,数据体量巨大。从TB级别,跃升到PB级别;第二,数据类型繁多。前文提到的网络日志、视频、图片、地理位置信息等等。第三,价值密度低。以视频为例,连续不间断监控过程中,可能有用的数据仅仅有一两秒。第四,处理速度快。