clickhouse官方文档_clickhouse分析:结合grafana和metabase完成监控和数据分析
点击上方蓝字关注我们
“ 关于clickhouse的监控和可视化界面,想必刚接触到ch的人是一头雾水,大厂往往会给ch集群定制各种监控和可视化分析,普通用户就需要我们自己寻求现成的开源工具,在一些常见的开源工具上,我们可以较好的使用和定制我们想要展示的内容。本文从grafana和metabase两个组件出发,分析了其安装和配合ch使用的过程。”
grafana
安装
下载安装,见[1][2],ch需要注意下载插件并解压到插件目录即可。
使用
可以直接导入json来完成clickhouse的看板的生成。
常用的看板
ClickHouse Queries
该看板要开启clickhouse的log配置才可以使用,其它的看板也有和其它监控工具结合完成的。
<log_queries>1log_queries>大部分的监控都是基于system下的query_log,events和metrics等表完成的。
我们也可以自己定制一些个性化的SQL展示出来,在这一点上与Metabase有点相似。
Metabase
安装
之前笔者也分析过一些关于metabase的安装等文章,所以对metabase比较熟悉,在得知其也支持clickhouse时,当然也是赶紧试用一下。除了metabase,业界使用的最多的是superset工具来做ch的数据分析可视化操作。
jar安装
java -jar metabase.jar
由于metabase默认没有clickhouse驱动,我们需要在额外添加该插件,如果你已经启动过metabase,会发现当前目录有plugins,将driver放入重启即可。(注意插件与metabase版本的对应关系,不然会出现一些使用异常,不然会出现如下异常)
No method in multimethod 'connection-details->spec' for dispatch value: :clickhouse根据参考文章中的一些提示可以使用变量指定启动的端口号等配置:
export MB_JETTY_PORT=8080出现如下异常:Distinct, non-empty sequence of Field clauses
这里出现的原因主要是metabase没有扫描完成我们的库,因为metabase需要把我们库中的字段等信息存储起来,没有扫描完成自然就没办法展示数据,笔者使用0.35版本无法扫描完成,更新到0.36版本才正常显示(若依然不能正常显示可在管理页面重新触发扫描)。
docker安装
docker命令:
docker run -d -p 3000:3000 --name metabase metabase/metabase
挂载clickhouse-driver的启动:
docker run -d -p 3000:3000 \ --mount type=bind,source=/path/to/plugins,destination=/plugins \ --name metabase metabase/metabase123img配置
添加一个数据库:
一些case
简单的表test_zookeeper(之前测试使用的表),结合官方文档的测试sql,完成几个场景的构建,建表语句:
CREATE TABLE default.test_zookeeper( `Id` Int32, `Code` Int32, `Type` String) ENGINE = ReplicatedMergeTree('/clickhouse/tables/{layer}-{shard}/default_test_zookeeper', '{replica}') PARTITION BY Code ORDER BY (Id, Code) SETTINGS index_granularity = 8192;12345678- 求相同code下的最大id趋势图
- 官方的一些分析
首先是当前表的count数,Code Test Zookeeper为Code出现的次数图,Type Test Zookeeper为Type出现的次数图。
- 求Code为2020-2021之间出现的条目次数:
- 求Code大于2020,Type中字符出现的次数的排行:
参考文章
end
如果您想了解更多有关深度学习、机器学习、java开发、大数据等知识,欢迎关注我们的公众号,我会整理分享关于这些的有趣文章。
总结
以上是生活随笔为你收集整理的clickhouse官方文档_clickhouse分析:结合grafana和metabase完成监控和数据分析的全部内容,希望文章能够帮你解决所遇到的问题。
- 上一篇: gbk编码在线转换工具_TOOLFK工具
- 下一篇: iframe嵌入页面白屏_封闭在家学网页