Hortonworks

Hortonworks

1
推荐
3355
浏览

NiFi 入门:Kafka 数据同步到关系数据库(PostgreSQL)--Part3

Part1和Part2把如何使用EvaluateJsonPath获取属性值,SplitJson 拆分行数据说清楚了,还差Kafka源的部分.Kafka源的设置:NiFi中对应Kafka有不同版本, 分队对应0.9,0.10,0.11和1.0的不同Kafka版本,低版本的process可...

seng 发表了文章 • 2018-08-15 14:52

2
推荐
1946
浏览

xmlking/nifi-examples中com.crossbusiness.nifi.processors.ExecuteJavaScript的替换

在Apache NiFi的一些学习资源提到了xmlking/nifi-examples,不过里面很多template用到了他自己的组件com.crossbusiness.nifi.processors.ExecuteJavaScript,在引入模板的时候会出错开始怀疑NiFi版本问题. 由于这些...

seng 发表了文章 • 2018-08-13 17:22

1
推荐
2894
浏览

NiFi 入门:Kafka 数据同步到关系数据库(PostgreSQL)--Part2

接着part1的内容,介绍下拆分明细数据和insert到数据库的操作.拆分明细数据:总的流程图如下,比Part1多了2个processSplitJson:将trx_dtl的拆成多行EvaluateJsonPath:获取明细数据的属性查看一下数据,可以看到所...

seng 发表了文章 • 2018-08-07 17:57

1
推荐
4462
浏览

NiFi 入门:Kafka 数据同步到关系数据库(PostgreSQL)--part1

看了一段时间NiFi的文档,也测试了一些的内容,现给大家介绍下吧。我目前使用了Hortonworks的HDF,只是为了部署方便, 这个示例使用单独安装的NiFi版本也一样的。先拿小票的示例来演示一下基本操作,具体实现小票...

seng 发表了文章 • 2018-08-06 21:31

2
推荐
1930
浏览

Hortonworks 社区一些NiFi record的帖子link

今天看了下Hortonworks 社区(https://community.hortonworks.com/index.html),由于最近在看NiFi record方面的内容,就按record搜索了一下,发现有好多好东西,先列在这里,慢慢看。 Using Apache NiFi to V...

seng 发表了文章 • 2018-08-01 23:23

1
推荐
3186
浏览

Apache NiFi的proxy代理设置

由于部署的机器网络限制,需要使用Nginx设置代理.开始想的 比较简单,常规设置conf/nginx.conf#nifi prod     upstream nificluster{           ...

seng 发表了文章 • 2018-07-31 11:55

2
推荐
1953
浏览

Hortonworks HDP中oozie的一些问题

HDP上的ooize可以使用Workflow Manager配置使用。不过Hortonworks相关的内容分散在好几个文档里, 而且其中不同组件的设置也不在一起,这个很让人头痛。主要是这几个文档:workflow-management bk_data-movement-...

seng 发表了文章 • 2018-07-04 17:52

1
推荐
2185
浏览

Hortonworks HDP默认配置HIve2 view执行sql出错

这几天使用HDP Hive 2 view又碰到一些问题,视图可以打开,但是不能执行SQL语句。按HDP Apache Ambari Views文档检查了一下,这样配置1. In Ambari Web, browse to 2. Under the Advanced tab, browse to the Cus...

seng 发表了文章 • 2018-07-01 10:59

0
推荐
1693
浏览

Hortonworks HDP中Kafka访问报错

HDP里面Kafka部署完后,使用java程序给kafka发送数据会报错,具体的错误信息如下,WARN kafka.producer.async.DefaultEventHandler:89 - Failed to send producer request with correlation id 2 to broker 1002 ...

seng 发表了文章 • 2018-06-28 23:34

0
推荐
2387
浏览

Hortonworks HDP安装过程的一些问题

最后还是决定安装Hortonworks 2.6.4.0,使用ambari自动安装模式具体参考https://docs.hortonworks.com/HDPDocuments/Ambari-2.6.2.0/bk_ambari-installation/content/download_the_ambari_repo_lnx7.html具体流程0...

seng 发表了文章 • 2018-06-22 17:59

1
推荐
3355
浏览

NiFi 入门:Kafka 数据同步到关系数据库(PostgreSQL)--Part3

Part1和Part2把如何使用EvaluateJsonPath获取属性值,SplitJson 拆分行数据说清楚了,还差Kafka源的部分.Kafka源的设置:NiFi中对应Kafka有不同版本, 分队对应0.9,0.10,0.11和1.0的不同Kafka版本,低版本的process可...

seng 发表了文章 • 2018-08-15 14:52

2
推荐
1946
浏览

xmlking/nifi-examples中com.crossbusiness.nifi.processors.ExecuteJavaScript的替换

在Apache NiFi的一些学习资源提到了xmlking/nifi-examples,不过里面很多template用到了他自己的组件com.crossbusiness.nifi.processors.ExecuteJavaScript,在引入模板的时候会出错开始怀疑NiFi版本问题. 由于这些...

seng 发表了文章 • 2018-08-13 17:22

1
推荐
2894
浏览

NiFi 入门:Kafka 数据同步到关系数据库(PostgreSQL)--Part2

接着part1的内容,介绍下拆分明细数据和insert到数据库的操作.拆分明细数据:总的流程图如下,比Part1多了2个processSplitJson:将trx_dtl的拆成多行EvaluateJsonPath:获取明细数据的属性查看一下数据,可以看到所...

seng 发表了文章 • 2018-08-07 17:57

1
推荐
4462
浏览

NiFi 入门:Kafka 数据同步到关系数据库(PostgreSQL)--part1

看了一段时间NiFi的文档,也测试了一些的内容,现给大家介绍下吧。我目前使用了Hortonworks的HDF,只是为了部署方便, 这个示例使用单独安装的NiFi版本也一样的。先拿小票的示例来演示一下基本操作,具体实现小票...

seng 发表了文章 • 2018-08-06 21:31

2
推荐
1930
浏览

Hortonworks 社区一些NiFi record的帖子link

今天看了下Hortonworks 社区(https://community.hortonworks.com/index.html),由于最近在看NiFi record方面的内容,就按record搜索了一下,发现有好多好东西,先列在这里,慢慢看。 Using Apache NiFi to V...

seng 发表了文章 • 2018-08-01 23:23

1
推荐
3186
浏览

Apache NiFi的proxy代理设置

由于部署的机器网络限制,需要使用Nginx设置代理.开始想的 比较简单,常规设置conf/nginx.conf#nifi prod     upstream nificluster{           ...

seng 发表了文章 • 2018-07-31 11:55

2
推荐
1953
浏览

Hortonworks HDP中oozie的一些问题

HDP上的ooize可以使用Workflow Manager配置使用。不过Hortonworks相关的内容分散在好几个文档里, 而且其中不同组件的设置也不在一起,这个很让人头痛。主要是这几个文档:workflow-management bk_data-movement-...

seng 发表了文章 • 2018-07-04 17:52

1
推荐
2185
浏览

Hortonworks HDP默认配置HIve2 view执行sql出错

这几天使用HDP Hive 2 view又碰到一些问题,视图可以打开,但是不能执行SQL语句。按HDP Apache Ambari Views文档检查了一下,这样配置1. In Ambari Web, browse to 2. Under the Advanced tab, browse to the Cus...

seng 发表了文章 • 2018-07-01 10:59

0
推荐
1693
浏览

Hortonworks HDP中Kafka访问报错

HDP里面Kafka部署完后,使用java程序给kafka发送数据会报错,具体的错误信息如下,WARN kafka.producer.async.DefaultEventHandler:89 - Failed to send producer request with correlation id 2 to broker 1002 ...

seng 发表了文章 • 2018-06-28 23:34

0
推荐
2387
浏览

Hortonworks HDP安装过程的一些问题

最后还是决定安装Hortonworks 2.6.4.0,使用ambari自动安装模式具体参考https://docs.hortonworks.com/HDPDocuments/Ambari-2.6.2.0/bk_ambari-installation/content/download_the_ambari_repo_lnx7.html具体流程0...

seng 发表了文章 • 2018-06-22 17:59