大数据

大数据

0
推荐
9
浏览

产业互联网的商业逻辑

转自 | 腾讯研究院来源 | 英国《金融时报》中文版文 | 司晓  吴绪亮 在十一月结束的第五届世界互联网大会上,产业互联网成为了热门话题。到底什么是产业互联网?产业互联网突然成为行业新宠,其背后的...

数智物语 发表了文章 • 2 小时前

0
推荐
38
浏览

WordCloud 中英文词云图绘制,看这一篇就够了

作者:  苏克1900公众号:第2大脑摘要: 当我们手中有一篇文档,比如书籍、小说、电影剧本,若想快速了解其主要内容是什么,则可以采用绘制 WordCloud 词云图,显示主要的关键词(高频词)这种方式,非...

Python爱好者社区 发表了文章 • 5 天前

0
推荐
38
浏览

DataPipeline成功入选微软加速器 企业创新力获业界专家认可

近日,微软加速器•北京公布最终入选的第13期创新企业名单。作为国内领先的“iPaaS+AI”一站式数据融合服务提供商DataPipeline,历经多轮角逐,在上千家企业激烈竞争中,成功入选。链接文字高手过招,创新者胜。录取...

DataPipeline 发表了文章 • 6 天前

1
推荐
63
浏览

通过jdbc读取OBIEE数据--Spark示例

最近在用Spark同步数据的时候想到,是否可以直接从已有的OBIEE读取数据,OBIEE上面有完整的语义层,读取数据就比较方便了.想到以前Rittmanmead有篇blog提到,如何使用jdbc驱动清除缓存的功能(https://www.rittmanmea...

seng 发表了文章 • 2018-12-06 17:01

0
推荐
94
浏览

Python数据可视化:2018年北上广深空气质量分析

作者:法纳斯特,Python爱好者,专注爬虫,数据分析及可视化微信公众号:法纳斯得(ID: walker398)就在这周偶然看到一个学弟吐槽天津的空气,不禁想起那段厚德载雾,自强不吸的日子。无图无真相,下图为证。左边...

Python爱好者社区 发表了文章 • 2018-11-28 13:56

0
推荐
110
浏览

你有拖延症吗?

中国社科院的一项调查显示,中国有80%的大学生和86%的职场人都患有拖延症。50%的人不到最后一刻,绝不开始工作。13%的人没有人催,不能完成工作。人们奉行着“截止日期“ 是第一生产力”的信条,在大好时光且工作且...

猴子聊人物 发表了文章 • 2018-11-27 16:51

0
推荐
79
浏览

KGB知识图谱技术为数据内容挖掘提供动力引擎

  随着网络、数据库技术的迅速发展以及数据库管理系统的广泛应用,人们积累的数据越来越多。数据挖掘(Data Mining)就是从大量的实际应用数据中提取隐含信息和知识,它利用了数据库、人工智能和数理统计等多方面...

ljrj123 发表了文章 • 2018-11-26 13:35

0
推荐
67
浏览

P7数据分析的Offer,你准备好了吗?

李宁 :著《数据化运营:系统方法与实践案例》书籍,现于某知名外卖订餐平台担任数据专家,先后于艾瑞、携程从事数据相关工作。个人微信公众号:数据自由之路(微信ID:dataFreeLife)题记电影背景:「Facin...

Python爱好者社区 发表了文章 • 2018-11-23 12:30

0
推荐
76
浏览

DataPipeline在大数据平台的数据流实践

文 | 吕鹏 DataPipeline架构师进入大数据时代,实时作业有着越来越重要的地位。本文将从以下几个部分进行讲解DataPipeline在大数据平台的实时数据流实践。一、企业级数据面临的主要问题和挑战1.数据量不断攀升随...

DataPipeline 发表了文章 • 2018-11-23 11:44

0
推荐
124
浏览

3个案例讲清如何构建“What-if分析”,教你轻松玩转动态参数

在一般的数据分析中,我们用到最多的就是筛选、聚合、排序、对比这些常规分析方法。然而在某些情况下,我们也会遇到一些需要通过调参来实现数据的动态调整,进而根据不同结果来采取最优决策的分析场景。有一个专...

观远数据 发表了文章 • 2018-11-20 11:45

0
推荐
124
浏览

这是一份迄今为止最全的亚马逊产品布局指南-洞见

转自 | 机器之能来源 | The Verge作者 | Nick Statt编译 | Rik R、张玺智能音箱、云计算、新零售 、机器人……亚马逊的技术布局尤其全面。仅仅用了一代人的时间,亚马逊已经从当初蹒跚起步的在线书商,成长为现代商...

数智物语 发表了文章 • 2018-11-19 16:58

1
推荐
137
浏览

基于文件系统实现可追加的数据集市

一 问题背景 绝大多数的应用系统中,一开始数据的存储和计算基本都是由数据库来完成的,同时服务于业务交易和报表查询;不过在经过几年信息化建设和数据积累后,常常都会遇到数据库压力变大,从而导致性能瓶颈的...

润乾软件 发表了文章 • 2018-11-09 18:10

1
推荐
164
浏览

Spark Structured Streaming的一些link

最近在测试相关内容, 以下列了一些我觉得有用的link官方文档Spark Structured Streaming Programming Guide https://spark.apache.org/docs/latest/structured-streaming-programming-guide.html https://spark.a...

seng 发表了文章 • 2018-11-09 15:06

1
推荐
166
浏览

无缝对接Spark与R:Sparklyr系列—探讨属于数据科学家的Spark

作者:黄天元,复旦大学博士在读,目前研究涉及文本挖掘、社交网络分析和机器学习等。希望与大家分享学习经验,推广并加深R语言在业界的应用。邮箱:huang.tian-yuan@qq.com为什么Spark需要与R对接?解决这个问题...

R语言中文社区 发表了文章 • 2018-10-30 15:14

0
推荐
359
浏览

震惊!90%的简历,竟然都犯过这些错误……

投递简历后,却石沉大海。这种心情就好像给喜欢的人写了一封情书,对方却没有任何回复。你说,扎不扎心?看过很多人的简历以后,我发现这些简历根本不过关。要知道,简历是公司了解求职者的第一个途径,也是求职...

猴子聊人物 发表了文章 • 2018-10-29 15:31

条新动态, 点击查看
同程吴文波:spark做olap?

天天向上:@大连-K12-王东 spark现在还是一种计算框架 。。

王东:greenplum和spark选型如何取舍呢?

同程吴文波:真有这样的方案哦

小小蜗牛爬上墙:olap用cognos,ibm推广较好的,据说... 显示全部 »
同程吴文波:spark做olap?

天天向上:@大连-K12-王东 spark现在还是一种计算框架 。。

王东:greenplum和spark选型如何取舍呢?

同程吴文波:真有这样的方案哦

小小蜗牛爬上墙:olap用cognos,ibm推广较好的,据说11R版本的cognos会支持hadoop。

锋:spark现在是不是发展很快。

小小蜗牛爬上墙:看来从传统数据仓库往大数据平台迁移任重道远呀。

天天向上:还是要找到价值点,不能盲目的上大数据。

春宇:传统数据仓库和大数据平台分工不同,列存,MPP能够解决的事情,不见得非得挪到Hadoop上去。

同程吴文波:@大连-K12-王东 怎么想到用spark做olap?

春宇:现在就是觉得系统太多,企业统一化的数据视图更难画了

大米:主要的生产数据还是用主流关系数据库,分析用hadoop是这样理解吗?

王东:@同程吴文波 我就是觉得数据层的东西太多,开发维护成本有点高,所以想用spark解决olap和大数据分析等各种场景

同程吴文波:@大连-K12-王东 试试Hadoop+kylin 或spark+cassandra等组合

王东:我们也打算围绕spark做呢,但是这块儿没实际操作过,比较担心olap的响应速度。

Shadow 杨:@大连-K12-王东 [发呆]多大的数据量,数据量不到一定程度,根本发挥不出来。

王东:@Shadow 杨 事实表千万级别,维度表特别多有上百。

同程吴文波:@大连-K12-王东 你的这些用普通db来构建olap就好 

Shadow 杨:@同程吴文波 同意你

天天向上:普通的就可以啊,微软的sass就搞定了。

王东:事实表千万级别greenplum行吗?

同程吴文波:@大连-K12-王东 gp是可以搞定的。但是你的那个数据量用SSAS也就行的。使用SSD 3.2T的+128G内存 或 256G就OK

王东:cognos和ssas是一个量级的么?

春宇:Cognos你用什么?PowerCube?Dynamic Cube?还是TM1?

王东:cognos也没实际用过,这几个cube啥区别啊

春宇:@大连-K12-王东 话题太长,可单聊,但就性价比而言,还是建议你选择SSAS或者开源的OLAP引擎。
SQuirrel Sql Client ,这个可以在Windows下对hive进行操作。或者 下载Windows下的Hadoop,然后解压就行
SQuirrel Sql Client ,这个可以在Windows下对hive进行操作。或者 下载Windows下的Hadoop,然后解压就行
Bob

Bob 回答了问题 • 2017-03-14 13:22 • 1 个回复 不感兴趣

数据仓库从MySQL向大数据平台迁移的方案

赞同来自:

数据仓库建议选择使用hive,用hql语句也能完成update delete的操作。
如果仓库是在hive上,那原来的ETL操作 都改为使用hql脚本吧。这个查询语言是类似mysql的语法。
 
迁移的优先级建议先搬迁底层原始数据、然后建立ETL清洗规则,最后... 显示全部 »
数据仓库建议选择使用hive,用hql语句也能完成update delete的操作。
如果仓库是在hive上,那原来的ETL操作 都改为使用hql脚本吧。这个查询语言是类似mysql的语法。
 
迁移的优先级建议先搬迁底层原始数据、然后建立ETL清洗规则,最后搬DW数据。
在搬迁底层数据时建议你hive原始表与mysql的原始表保持结构一致。
Bob

Bob 回答了问题 • 2017-03-28 15:53 • 3 个回复 不感兴趣

大数据实时解决方案

赞同来自:

1.在数据源方面则尽量去实时收集。可以让他们主动向你的消息队列中写入数据,也可以部署flume去主动收集他们的日志数据。
2.数据进入到消息队列以后,用flume消费kafka,存储原始数据到hdfs中,保留原始数据作为存档
其次消费kafka的数据并输出到h... 显示全部 »
1.在数据源方面则尽量去实时收集。可以让他们主动向你的消息队列中写入数据,也可以部署flume去主动收集他们的日志数据。
2.数据进入到消息队列以后,用flume消费kafka,存储原始数据到hdfs中,保留原始数据作为存档
其次消费kafka的数据并输出到hbase集群中。
hbase集群作为你的目标表,与你的原始表在结构上保持一致。这样你就可以进行update insert等操作。
 
以上是解决实时数据到集群。
 
3.围绕数据的应用。
hbase集群的外围组件Phoenix 可以提供类似sql的查询,让你不用写原生java api,通过sql进行数据的查询
 
你的前端呈现可以通过jdbc的方式访问 Phoenix ,使用sql去查询hbase集群中的数据
 
整个任务调度体系可以使用oozie或zuse等。
 
在支撑后续的大数据查询方面可以扩展使用kylin等。因为kylin也是可以进行实时的olap操作。
1.能不能达到领导的目标和期望
2.从技术、人力等方面的投入产出是否符合现状
3.整套体系运行起来后的维护人力、时间方面是否是可承受范围
4.对现有的运营效率是否有提升
5.大数据应用有没有扩大到当前系统研发、数据分析和挖掘等方方面面
1.能不能达到领导的目标和期望
2.从技术、人力等方面的投入产出是否符合现状
3.整套体系运行起来后的维护人力、时间方面是否是可承受范围
4.对现有的运营效率是否有提升
5.大数据应用有没有扩大到当前系统研发、数据分析和挖掘等方方面面
商业智能是传统数据仓库解决方案的延伸,不同的分工也是依据经典数据仓库的设计而来。其中主要设计到数据库、ETL、存储计算、可视化,还有业务专家角色的分析师团队。元数据管理、测试校验、监控部署,架构建模,不同的团队也会选择性地部分构架。

在传统的工作模式下,即便... 显示全部 »
商业智能是传统数据仓库解决方案的延伸,不同的分工也是依据经典数据仓库的设计而来。其中主要设计到数据库、ETL、存储计算、可视化,还有业务专家角色的分析师团队。元数据管理、测试校验、监控部署,架构建模,不同的团队也会选择性地部分构架。

在传统的工作模式下,即便是ETL也会有不同的分工。Stage/ODS/Mart/DW多层次设计,多维数据建模,可以说完整地分工下来,没有哪个团队按照38个子系统来全面进行。

新的时代已经到来,HADOOP模式下,很多案例粗暴地将所有层次和子系统混杂。用集群的计算能力替代架构设计及分工的作用,这种模式失败的案例居多,但始终是大势所趋。

在这种环境下,传统BI领域的从业者何去何从?

我先简单自我介绍下。十二年正式工作经验,从数据库到数据仓库,从业务到技术,从开发到管理都做过。尽管对于现在大数据相关的技术也有涉猎,但我更加符合一个传统BI从业者的角色。

新的技术浪潮来临,我们会受到冲击吗?

这是毫无疑问的。现在很多案例采用HADOOP架构,不再细致分成,那么以往数据库角色/ETL/存储计算等分工的同学,根本没有条件加入到这种技术选型的团队中。

如果开源大趋势在五年之内成形,这些人现在的工作能力会丧失大部分价值。

直接的体现就是传统架构的团队越来越少,机会越来越难找。新式架构的团队无法进入其中。简而言之,就是饭碗会出现问题。

这么严峻的问题,我给出第一条个人建议:不要给自己设限。

传统数据仓库从业人员,并非ETL工程师,并非建模人员,并非单纯的业务专家。如果已经看出开源是大趋势,就立刻拥抱开源。立即学习、立即尝试、立即应用。需要你做HADOOP就去学习做,需要你用SPARK就立即尝试,需要使用机器学习库就立马行动起来。

在这个崭新的大数据领域,及时的转型,可以拥有强大的优势。

别人不考虑数据体系架构的层次,但你们可以考虑到。预先知道哪里有坑,预先知道项目和业务的紧密结。转型是新人没错,但同为新人,你们的优势体现出来了。

有人担心HADOOP没用过,文档多,主要是英文资料阅读有障碍。没错,不同的技术架构需要改变以前的结构,我遇到很多人不熟悉shell,所以掌握fs shell不容易。有人不熟悉开发语言,所以开发MAP/REDUCE困难。有人英文功底不足,所以阅读很多资料困难。

似乎到处都是困难,没有办法克服是吗?

我们应该回顾下十年前做开始做数据仓库时的局面,真比现在简单吗?

数据仓库的架构没有成形,组件式的ETL遭遇数据量大的问题,莫名其妙的字符集问题,服务器硬件资源极度欠缺的挑战,网络速度极慢还得分电信网通!

这些问题克服的过程中,不需要查询英文资料吗?是不是几乎找不到已有的成功案例参考?是不是也会涉及到不同的开发语言来编写脚本?

现在这些困难,十年前明明已经经历过了!

不同的是现在信息更加发达,大家对压力的反馈有些不一样了。

以前是从业新人,遇到问题就去学习解决,执行力一等一。

现在起码也是个小中层,动口的时间比动手还多,到处听到处说,执行能力反而下滑了。

所以针对这第一条建议,不要给自己定位成某一个角色。即便是和我这样编程能力一般的人,也可以全方位地掌握数据相关能力。这么做,一定会是项目负责人角色,即使是新的技术环境也一样。

第二条建议,重新梳理自己的学习方法。

我们这个年代的人很特别,极有可能成为第一批普遍超过一百岁的人,工作到八十岁,我觉得也不奇怪。

将来还有七十年左右的时间,现在这些大数据的技术,我们是第一批站在这个技术风口上的人。现在学习起来,具备无以伦比的先手优势。

我接触到不少新人,一年前说想学某一块知识,一年后还是想学这块知识。

扯淡。想学的人早都学会转型成功了,动嘴的人一年到头没见行动。看了几本书?翻了多少文档,写了多少笔记,尝试了多少项目?

学习是什么?如果不把这个问题理顺,再过几年就看到很多人不需要转型了。因为机会完全被自己放弃。

一年时间,大数据的任何一个细分领域,作为成年人都有条件从入门者变成中等以上的实践者。其中值得一提的,无非是如何获取高质量的资料。

现在的主流信息是各种电子档,各种视频,各种培训。我比较推崇官方手册,任何计算机相关的资料都是一样的,哪怕只有英文资料。

能把官方手册读完的人,水平差不了。一个领域的应用即便遇到极大的挑战问题,官方手册也是最有资格指明方向的资料。

对于第二条建议,我想说的就是多看资料,详细地看,一遍又一遍地看。多整理笔记,持续不断地整理,大家普遍还有七十年的时间,学习哪个方向时间都是够的。

第三条建议,人以群分。

勤奋的人每天都在努力,懒惰的人一年重复一年。

我感觉现在的社会信息爆炸,有一个很大的作用就是快速给人们划分了层次。

到实际层面来看,就是圈子。越是高端的圈子,越难进入。现在的社会资源,越来越重视知识能力。所以持续学习,是提升圈子品质的一个重要通道。

我接触到很多学霸,他们每天看书学习比其他人时间要长得多。这方面我推崇复旦的思想:“自由而无用的灵魂”,你可以学习没什么商业价值的方向,但不能放弃追求灵魂自由的努力。

先勤奋,然后进入勤奋的圈子,坚持学习,不断改变。大家都看得到现在很多名校学霸只是一个名字,都能引导大量金钱、人力资源配合,他们尚且经常学习到深夜,我们又有什么理由原地等待?

以上是个人一点儿浅薄的想法,希望能给朋友们哪怕一丝的帮助。
 
regan

regan 回答了问题 • 2017-04-06 10:42 • 2 个回复 不感兴趣

spark中如何看有多少个并发的task啊

赞同来自:

你可以通过rdd.partitions.size在程序里面查看,比较方便的是你可以在spark-shell中
val a = spark.range(1,100,9)
a.rdd.partitions.size直接可以在console窗口打印出来看到。
... 显示全部 »
你可以通过rdd.partitions.size在程序里面查看,比较方便的是你可以在spark-shell中
val a = spark.range(1,100,9)
a.rdd.partitions.size直接可以在console窗口打印出来看到。
第二中方式是你可以通过SparkUI查看

34999
 
 
 程序的并行度是由partitions的大小决定的,一个partition对应一个task。可以通过repartions或coalease进行合理的设置
JIELEE

JIELEE 回答了问题 • 2017-05-11 09:38 • 1 个回复 不感兴趣

如何学习大数据,不从代码角度考虑?

赞同来自:

我不懂写代码,Java都不会,我感觉我在这行里都是混日子,
 
好像说的悲观了。
 
我觉的吧,首先,你可以不会java,但一定要会SQL,而且还不只是基本的Selece,需要相对高深的SQL功底。
 
其次,你得懂业务,感觉当前一种思路是:大数据要抛开业务看... 显示全部 »
我不懂写代码,Java都不会,我感觉我在这行里都是混日子,
 
好像说的悲观了。
 
我觉的吧,首先,你可以不会java,但一定要会SQL,而且还不只是基本的Selece,需要相对高深的SQL功底。
 
其次,你得懂业务,感觉当前一种思路是:大数据要抛开业务看数据,这在一些吹牛B的大公司尤其盛行。但我认为,这是一种歪风!
我的理论:做软件要尽可能独立于业务,最牛X的程序是适合于全世界、全行业的程序。但做数据就是做服务,必须无限接近于业务。你做的东西在A市甲单位可用,换到A市方单位,或B市甲单位,即便是同样的原始数据,也必须要调整才能用。
 
第三,你要有一个好的环境,《大数据时代》有一个理论:在做大数据之前,你不能假设结果,得到的结果很可能是你根本想不到的。
没去过南方公司,但是北方公司,普遍是领导家长制,加以销售引导型。领导开完枪,你屁颠屁颠的跑过去,照着弹孔画个靶心,在这种环境下,你干的是替领导吹的牛B擦屁股的活,没有自己发挥的空间,没有尝试,也不可能有进步。
饼干君

饼干君 回答了问题 • 2017-06-08 14:17 • 1 个回复 不感兴趣

请问谁了解大数据的标签体系如何设计

赞同来自:

标签体系不是一个产品功能,而是基于业务需求的一套指标体系,只是这套指标体系中有很多内容是通过计算和数据加工而得到,不是直接采集的。
回答你的问题:
1、用户画像如何设计需要取决于你的画像的业务需求,也就是你为什么要做画像,做了画像要为什么服务?
明确了这些内容... 显示全部 »
标签体系不是一个产品功能,而是基于业务需求的一套指标体系,只是这套指标体系中有很多内容是通过计算和数据加工而得到,不是直接采集的。
回答你的问题:
1、用户画像如何设计需要取决于你的画像的业务需求,也就是你为什么要做画像,做了画像要为什么服务?
明确了这些内容,其实需要有哪些标签也就比较容易梳理了;
2、标签内容和其他数据一样,都以数据的形式保存在数据库当中,和原始数据没有任何区别;部分标签的建设需要构建挖掘模型;
3、每家公司的标签体系建设方法都是类似的,只是说BAT他们拥有更多的数据资源,所以可能构建的标签更全面,但是构建的方法都是一样的。
使用rdd上的randomSplit方法,将一个RDD随机拆分成多个RDD,randomSplit方法返回一个rdd数组,遍历数组,取出每个rdd,toDF后,使用jdbc方法写入数据库,遍历过程中制定一个随机的选库策略,这样就将rdd内容写入到了相同的 数据... 显示全部 »
使用rdd上的randomSplit方法,将一个RDD随机拆分成多个RDD,randomSplit方法返回一个rdd数组,遍历数组,取出每个rdd,toDF后,使用jdbc方法写入数据库,遍历过程中制定一个随机的选库策略,这样就将rdd内容写入到了相同的 数据库不同的表中了。你具体的需求按照这个思路去应该可以实现。
目前我好想没有听说过有这样的平台,要学习的话,我觉得有这样的几个建议:
1. 公司支持
    公司技术迭代,需要使用Hadoop、Spark,那肯定会提供测试环境等一切资源,那就很方便了;
    公司没有需求,那是否可以和上级领导反馈下,申请测试环境供大家... 显示全部 »
目前我好想没有听说过有这样的平台,要学习的话,我觉得有这样的几个建议:
1. 公司支持
    公司技术迭代,需要使用Hadoop、Spark,那肯定会提供测试环境等一切资源,那就很方便了;
    公司没有需求,那是否可以和上级领导反馈下,申请测试环境供大家自主学习使用,这个估计要看具体情况;
    公司有没有闲置的机器,都可以利用起来
2. 个人
    个人电脑安装VirtualBox之类的虚拟机,开3个虚拟机玩儿就够了,电脑的话配置也就内存8G以上应该足够了,CPU差不多就行了,直接装Linux就行了;
    可以使用Docker,可以简单的把他看成虚拟机,找些资料看看,简单使用应该没问题,使用Docker开实例很方便,不像虚拟机那样耗费很多资源
    要不开通个阿里云之类的,在云平台上面玩儿,这个价钱不清楚,可以去官网看看
导出文本文件 直接上传hdfs
导出文本文件 直接上传hdfs
Vincent_lu

Vincent_lu 回答了问题 • 2017-11-20 10:50 • 1 个回复 不感兴趣

BIEE可以对透视表的结果进行计算么?

赞同来自:

a和b在RPD设置聚合规则是sum时,新建字段c=a/b,默认得到的结果就是sum(a)/sum(b),如果你要sum(a/b)反而要特殊处理,在源写公式
 
a和b在RPD设置聚合规则是sum时,新建字段c=a/b,默认得到的结果就是sum(a)/sum(b),如果你要sum(a/b)反而要特殊处理,在源写公式
 
不需要,可以共存。3.6的可以通过conda选择所处python环境   win7下python2和python3共存问题  https://ask.hellobi.com/blog/zhangshining52/6434    https://ask.hel... 显示全部 »
不需要,可以共存。3.6的可以通过conda选择所处python环境   win7下python2和python3共存问题  https://ask.hellobi.com/blog/zhangshining52/6434    https://ask.hellobi.com/blog/weiwei/5153   在Windows与MAC中同时安装Python3.X与2.X的方法  可以看看
新旧版本的替换,参考 openpyxl文档
 新版本的get_column_letter()和column_indwx_from_string()位置发生了改变,在openpyxl.utils下 from openpyxl.utils import get_... 显示全部 »
新旧版本的替换,参考 openpyxl文档
 新版本的get_column_letter()和column_indwx_from_string()位置发生了改变,在openpyxl.utils下 from openpyxl.utils import get_column_letter
from openpyxl.utils import column_index_from_string 这样引入是可以正常使用的
3
推荐
1419
浏览

《人人都会数据分析》20万字电子版

去年的时间把之前的数据分析工作经历、大环境背景、职场选择、公司选择、岗位选择、统计学的基本常识、需要掌握的分析工具、怎么写好一个报告、互联网和金融行业的分析场景这些都整理了下。具体购买链接:https:/...

面包君 发表了文章 • 2018-01-03 15:15

5
推荐
886
浏览

《R的极客理想》系列图书作者张丹:用R语言把数据玩出花样

前言作为数据分析师,每天都有大量的数据需要处理,我们会根据业务的要求做各种复杂的报表,包括了分组、排序、过滤、转置、差分、填充、移动、合并、分裂、分布、去重、找重、填充 等等的操作。有时为了计算一个...

R语言中文社区 发表了文章 • 2017-09-28 09:59

11
推荐
2088
浏览

从大数据舆情传播角度看《三生三世十里桃花》

前不久,看到知乎上一个知友提到了一个问题,觉得有点意思,于是心血来潮写了一个回答,现在粘贴复制到这里:不扯犊子,就直接以题主的举例来上干货,分析的对象是目前大红大紫的《三生三世十里桃花》(以下简称“...

高长宽 发表了文章 • 2017-02-22 13:48

5
推荐
685
浏览

【PPT干货】一篇神一样的数据分析解读,看完我.....

数据君6年前写的数据分析交流资料,删除部分,分享给大家!想成为数据分析方面的专家不易:1、要会技术存储、统计、机器学习、报表、分析、展示、可视化、编程等2、懂市场细分、营销、产品、用户行为、流失、欺诈...

Jmarry 发表了文章 • 2017-02-22 09:37

12
推荐
1668
浏览

从零开始,构建数据化运营体系

数据化运营是一个近年来兴起的概念,它在运营的基础上,提出了以数据驱动决策的口号。在了解数据化运营前,运营们有没有过如下的问题:不同渠道,效果究竟是好是坏?活跃数下降了,到底是因为什么原因?这次活动...

秦路 发表了文章 • 2017-02-06 17:34

7
推荐
1724
浏览

【20万字500页年刊下载】2016年天善大数据社区年刊精华版

继 2015年天善智能发布了 《2015年 BI 系列技术博文与问答精选年刊》 和 《2015年社区博文与 Friday BI Fly 活动记录精选年刊》 后,2017年1月我们正式发布2016年社区年刊。本年刊涵盖了2016 年天...

天善智能 发表了文章 • 2017-01-26 13:36

6
推荐
5273
浏览

人人可用的数据分析认知计算产品 IBM Watson Analytics 试用体验

在这篇文章中 《 蓝色巨人IBM的变革与复兴,大数据时代的人工智能 IBM Watson 》我介绍到了 IBM Watson 在人工智能领域的布局和变革。那么本篇文章就带大家走进 IBM Watson 旗下认知计算、预测分析的云...

lvpin 发表了文章 • 2017-01-21 18:08

9
推荐
4419
浏览

蓝色巨人IBM的变革与复兴,大数据时代的人工智能 IBM Watson

2016年是人工智能走向大众的元年大数据的火热还未退去,人工智能在2016年和2017年交替之际就被刷爆了。从 2016年12月29日到2017年1月4日,一位标注为韩国九段的神秘棋手 Master 在一周之内完胜包括中日韩朴廷桓、...

lvpin 发表了文章 • 2017-01-16 11:17

0
投票
1
回答
1094
浏览
7
推荐
1934
浏览

政府大数据是不是一个伪命题?面临的问题和阻力在哪里?

背景 2015年经李克强总理签批,国务院印发《促进大数据发展行动纲要》,中国政府已经开始系统部署大数据发展工作。《纲要》明确,推动大数据发展和应用,在未来5至10年打造精准治理、多方协作的社会治理新模...

lvpin 发表了文章 • 2016-12-28 18:15

1
推荐
1255
浏览

Friday BI Fly | 2016年10月21日晚8点半微信直播交流在实践中挖掘数据的价值第36场 图文版记录

公告:周五BI飞起来,每周一个主题,一场跟数据有关的行业、工具、技术的交流盛宴,锁定在每周五晚20:30,不见不散!未来几期的微信直播活动分享主题将包括在大数据、大变革、大成长、游戏行业数据仓库储存模型。...

天善智能 发表了文章 • 2016-10-24 10:30

3
推荐
3402
浏览

技术|深入浅出解析大数据Lambda架构

前言   Hadoop的出现让人们尝到了大数据技术的甜头,它的批处理能力已经被工业界充分认可,但是它的延迟性也一直为大家所诟病。随着各行各业的发展,越来越多的业务要求大数据系统既可以处理历史数据,...

星环科技 发表了文章 • 2016-10-11 11:32

3
推荐
1407
浏览

R实现地理位置与经纬度相互转换

本实例要实现目标通过输入城市名或者地名,然后找出其经度纬度值,以及通过可视化展现其线路流向以及周边地图展示本实例参考文章主要来自金大侠博客:http://user.qzone.qq.com/675229288/mainaddress_list数据:...

华青莲 发表了文章 • 2016-10-10 19:27

0
推荐
615
浏览

百度外卖联合搜狐新闻客户端发布十一大数据 异地点单量激增

 国庆长假刚刚结束,朋友圈的旅游摄影大赛也落下帷幕。在这难得的休闲时光里,有人选择天南海北畅游一番,也有人选择宅在家中享受清闲,但无论“旅游族”还是“御宅族”都将“吃遍美食”的主题贯穿了整个假期。  今...

在学古筝的程序员 发表了文章 • 2016-10-08 10:59

0
投票
2
回答
252
浏览
0
投票
1
回答
395
浏览
0
投票
2
回答
274
浏览
0
投票
1
回答
994
浏览
0
投票
4
已解决
4791
浏览
0
投票
0
回答
303
浏览
0
投票
1
回答
512
浏览
0
推荐
9
浏览

产业互联网的商业逻辑

转自 | 腾讯研究院来源 | 英国《金融时报》中文版文 | 司晓  吴绪亮 在十一月结束的第五届世界互联网大会上,产业互联网成为了热门话题。到底什么是产业互联网?产业互联网突然成为行业新宠,其背后的...

数智物语 发表了文章 • 2 小时前

0
推荐
38
浏览

WordCloud 中英文词云图绘制,看这一篇就够了

作者:  苏克1900公众号:第2大脑摘要: 当我们手中有一篇文档,比如书籍、小说、电影剧本,若想快速了解其主要内容是什么,则可以采用绘制 WordCloud 词云图,显示主要的关键词(高频词)这种方式,非...

Python爱好者社区 发表了文章 • 5 天前

0
推荐
38
浏览

DataPipeline成功入选微软加速器 企业创新力获业界专家认可

近日,微软加速器•北京公布最终入选的第13期创新企业名单。作为国内领先的“iPaaS+AI”一站式数据融合服务提供商DataPipeline,历经多轮角逐,在上千家企业激烈竞争中,成功入选。链接文字高手过招,创新者胜。录取...

DataPipeline 发表了文章 • 6 天前

0
推荐
94
浏览

Python数据可视化:2018年北上广深空气质量分析

作者:法纳斯特,Python爱好者,专注爬虫,数据分析及可视化微信公众号:法纳斯得(ID: walker398)就在这周偶然看到一个学弟吐槽天津的空气,不禁想起那段厚德载雾,自强不吸的日子。无图无真相,下图为证。左边...

Python爱好者社区 发表了文章 • 2018-11-28 13:56

0
推荐
110
浏览

你有拖延症吗?

中国社科院的一项调查显示,中国有80%的大学生和86%的职场人都患有拖延症。50%的人不到最后一刻,绝不开始工作。13%的人没有人催,不能完成工作。人们奉行着“截止日期“ 是第一生产力”的信条,在大好时光且工作且...

猴子聊人物 发表了文章 • 2018-11-27 16:51

0
推荐
79
浏览

KGB知识图谱技术为数据内容挖掘提供动力引擎

  随着网络、数据库技术的迅速发展以及数据库管理系统的广泛应用,人们积累的数据越来越多。数据挖掘(Data Mining)就是从大量的实际应用数据中提取隐含信息和知识,它利用了数据库、人工智能和数理统计等多方面...

ljrj123 发表了文章 • 2018-11-26 13:35

0
推荐
67
浏览

P7数据分析的Offer,你准备好了吗?

李宁 :著《数据化运营:系统方法与实践案例》书籍,现于某知名外卖订餐平台担任数据专家,先后于艾瑞、携程从事数据相关工作。个人微信公众号:数据自由之路(微信ID:dataFreeLife)题记电影背景:「Facin...

Python爱好者社区 发表了文章 • 2018-11-23 12:30

0
推荐
76
浏览

DataPipeline在大数据平台的数据流实践

文 | 吕鹏 DataPipeline架构师进入大数据时代,实时作业有着越来越重要的地位。本文将从以下几个部分进行讲解DataPipeline在大数据平台的实时数据流实践。一、企业级数据面临的主要问题和挑战1.数据量不断攀升随...

DataPipeline 发表了文章 • 2018-11-23 11:44

0
推荐
124
浏览

3个案例讲清如何构建“What-if分析”,教你轻松玩转动态参数

在一般的数据分析中,我们用到最多的就是筛选、聚合、排序、对比这些常规分析方法。然而在某些情况下,我们也会遇到一些需要通过调参来实现数据的动态调整,进而根据不同结果来采取最优决策的分析场景。有一个专...

观远数据 发表了文章 • 2018-11-20 11:45

1
推荐
137
浏览

基于文件系统实现可追加的数据集市

一 问题背景 绝大多数的应用系统中,一开始数据的存储和计算基本都是由数据库来完成的,同时服务于业务交易和报表查询;不过在经过几年信息化建设和数据积累后,常常都会遇到数据库压力变大,从而导致性能瓶颈的...

润乾软件 发表了文章 • 2018-11-09 18:10

0
推荐
359
浏览

震惊!90%的简历,竟然都犯过这些错误……

投递简历后,却石沉大海。这种心情就好像给喜欢的人写了一封情书,对方却没有任何回复。你说,扎不扎心?看过很多人的简历以后,我发现这些简历根本不过关。要知道,简历是公司了解求职者的第一个途径,也是求职...

猴子聊人物 发表了文章 • 2018-10-29 15:31

0
推荐
170
浏览

什么时间找工作最容易?

秋招(每年的10、11月份)和春招(每年的3、4月份),是各大企业招聘的黄金时期。不管是校招还是社招,在这个时候会涌现出大量的岗位需求。由于需求的突然涌现,一般都会带来一定程度的供不应求的状态,企业也会...

猴子聊人物 发表了文章 • 2018-10-24 17:57

1
推荐
165
浏览

最通俗易懂的理解什么是数据库

这是《如何学习SQL》的第2篇文章,想知道写作初衷的可以看这里:为什么要学习SQL?什么是数据库?你可能会问:我的数据就存储在自己电脑里面的excel表里里,还要数据库干嘛?Excle的数据的确很方便,但是对于企业...

猴子聊人物 发表了文章 • 2018-10-23 15:02

0
推荐
192
浏览

【呆鸟译Py】这位老师的70个问题,100个数据分析师都想不全

作者:【呆鸟翻译】简书专栏:https://www.jianshu.com/u/be48b04ecc3e 坚持学习的Python和英语两门语言,让致力于译文读读就像中文English的呆鸟爱因斯坦曾经说过,“提出问题远比解决问题更重要”,问对了问...

Python爱好者社区 发表了文章 • 2018-10-15 13:51

0
推荐
205
浏览

Python调用Tushare抓取上证指数并作初步分析示例

作者:博观厚积简书专栏:https://www.jianshu.com/u/2f376f777ef11.关于TusahreTushare是一个免费、开源的python财经数据接口包。主要实现对股票等金融数据从数据采集、清洗加工 到 数据存储的过程,能够为金融...

Python爱好者社区 发表了文章 • 2018-10-15 13:50

  从各种各样类型的数据中,快速获得有价值信息的能力,就是大数据技术。明白这一点至关重要,也正是这一点促使该技术具备走向众多企业的潜力。大数据的4个“V”,或者说特点有四个层面:第一,数据体量巨大。从TB级别,跃升到PB级别;第二,数据类型繁多。前文提到的网络日志、视频、图片、地理位置信息等等。第三,价值密度低。以视频为例,连续不间断监控过程中,可能有用的数据仅仅有一两秒。第四,处理速度快。