Flume的Collector
生活随笔
收集整理的这篇文章主要介绍了
Flume的Collector
小编觉得挺不错的,现在分享给大家,帮大家做个参考.
Collector的作用是将多个Agent的数据汇总后,加载到Storage中。它的source和sink与agent类似。
数据源(source),如:
collectorSource[(port)]:Collector source,监听端口汇聚数据。
autoCollectorSource:通过master协调物理节点自动汇聚数据。
logicalSource:逻辑source,由master分配端口并监听rpcSink。
sink,如:
collectorSink( “fsdir”,”fsfileprefix”,rollmillis):collectorSink,数据通过collector汇聚之后发送到hdfs, fsdir 是hdfs目录,fsfileprefix为文件前缀码。
customdfs(“hdfspath”[, "format"]):自定义格式dfs。
转载于:https://www.cnblogs.com/zlslch/p/6784963.html
《新程序员》:云原生和全面数字化实践50位技术专家共同创作,文字、视频、音频交互阅读总结
以上是生活随笔为你收集整理的Flume的Collector的全部内容,希望文章能够帮你解决所遇到的问题。
- 上一篇: Linux环境下Redis集群实践
- 下一篇: 仰视源代码,实现strcpy