欢迎访问 生活随笔!

生活随笔

当前位置: 首页 > 编程资源 > 编程问答 >内容正文

编程问答

Flume的Collector

发布时间:2025/5/22 编程问答 23 豆豆
生活随笔 收集整理的这篇文章主要介绍了 Flume的Collector 小编觉得挺不错的,现在分享给大家,帮大家做个参考.

 

 

  Collector的作用是将多个Agent的数据汇总后,加载到Storage中。它的source和sink与agent类似。

 

数据源(source),如:

  collectorSource[(port)]:Collector source,监听端口汇聚数据。

  autoCollectorSource:通过master协调物理节点自动汇聚数据。

  logicalSource:逻辑source,由master分配端口并监听rpcSink。

 

sink,如:
  collectorSink( “fsdir”,”fsfileprefix”,rollmillis):collectorSink,数据通过collector汇聚之后发送到hdfs, fsdir 是hdfs目录,fsfileprefix为文件前缀码。

  customdfs(“hdfspath”[, "format"]):自定义格式dfs。

转载于:https://www.cnblogs.com/zlslch/p/6784963.html

《新程序员》:云原生和全面数字化实践50位技术专家共同创作,文字、视频、音频交互阅读

总结

以上是生活随笔为你收集整理的Flume的Collector的全部内容,希望文章能够帮你解决所遇到的问题。

如果觉得生活随笔网站内容还不错,欢迎将生活随笔推荐给好友。