Elasticsearch 日志能否把全部请求打印出来?-全球视点
请问一下球主,es怎么配置可以把请求日志都打印出来。就是不管是调用借口,还是kibana查询数据,es能打印dsl的请求日志吗??求指导。怎么配置?
——问题来源:https://t.zsxq.com/09vv8rqZj
2、Elasticsearch 日志必知必会2.1 Elasticsearch 日志用途集群状态监测和故障诊断。2.2 Elasticsearch 日志缺省路径$ES_HOME/logs。如果命令行启动 ES,则日志输出信息也是命令行。2.3 Elasticsearch 日志基于组件Log4j 2https://logging.apache.org/log4j/2.x/2.4 Elasticsearch 日志配置文件log4j2.properties 。和 elasticsearch.yml 文件路径相同。2.5 Elasticsearch 日志配置内容命名规范日志随日期滚动策略(日志大小等条件设置)等。2.6 Elasticsearch 日志级别由低到高分别为:TRACE -> DEBUG -> INFO -> WARN -> ERROR -> FATAL,如下图所示。
【资料图】
这些大家并不陌生,日志级别越低(前提系统设置的话),打印输出的越多;日志级别越高,比如:FATAL,只是特定致命场景才会打印输出,一般遇不到。
2.7 Elasticsearch 默认日志类型调整方式前提:支持动态更新。
方式一:支持动态更新,无需重启。PUT/_cluster/settings{"persistent":{"logger.org.elasticsearch.discovery":"DEBUG"}}方式二:elasticsearch.yml 配置(静态配置方式,重启后生效)。
logger.org.elasticsearch.discovery:DEBUG方式三:log4j2.properties 配置(静态配置方式,重启后生效)
logger.discovery.name=org.elasticsearch.discoverylogger.discovery.level=debug3、日志调到最低级别,看能否输出检索DSL?
问题来了?改成最低TRACE级别,日志能输出咱们的日期请求吗?试试看。
那怎么办?如何输出请求日志?此路已然不同,我们只能另寻他路。除了基础日志,我们还有slowlog日志。
4、Elasticsearch slowlog日志必知必会4.1 Elasticsearc slowlog 用途见名释义,本质是:慢日志,又可以分为:慢检索日志和慢写入日志。
slowlog 用于显示:query 阶段 和 fetch 阶段的日志。
Elasticsearch 查询请求如下图所示。
图片来自 Elastic 官方博客
query阶段的核心步骤:
客户端发送请求到协调节点;协调阶段转发请求到索引的每个主或副本分片;分片本地查询完成后,将结果添加到本地的优先队列;每个分片将本地结果返回给协调节点,协调节点合并完成后,形成全局排序列表。fetch阶段的核心步骤:
协调节点接收到客户端请求后,将 GET 请求(来自query 阶段形成的全局排序列表结果数据)-转发给相关节点。接收到请求后的节点向协调节点返回结果数据。待全部结果数据都返回后,协调节点将结果返回给客户端。4.2 Elasticsearc slowlog 设置内容含义如下所示,拿 query 阶段举例(以实测为准):
query 请求耗时超过 500ms,打印 trace 日志。query 请求耗时超过 2s,打印 debug 日志。query 请求耗时超过 5s,打印 info 日志。query 请求耗时超过 10s,打印 warn 日志。index.search.slowlog.threshold.query.warn:10sindex.search.slowlog.threshold.query.info:5sindex.search.slowlog.threshold.query.debug:2sindex.search.slowlog.threshold.query.trace:500ms
fetch 阶段设置如下,原理同上。
index.search.slowlog.threshold.fetch.warn:1sindex.search.slowlog.threshold.fetch.info:800msindex.search.slowlog.threshold.fetch.debug:500msindex.search.slowlog.threshold.fetch.trace:200ms
index 写入日志设置如下,原理同上。
index.indexing.slowlog.threshold.index.warn:10sindex.indexing.slowlog.threshold.index.info:5sindex.indexing.slowlog.threshold.index.debug:2sindex.indexing.slowlog.threshold.index.trace:500msindex.indexing.slowlog.source:10004.3 slowlog 中 source:1000 含义是?
"index.indexing.slowlog.source":"1000"
如下这个问题至少被问到三次,问题大致如下:
默认:记录slowlog中_source的前1000个字符。设置为 true 含义:记录整个源请求。设置为 false 或 0 含义:不记录源请求。特别说明:原始_source被重新格式化,以确保它适合于单个日志行。4.3 Elasticsearch slowlog 如何设置?slowlog 日志显示不全、被截取了怎么办?
直接更新 setting 就可以,动态参数,支持动态更新。
PUT/my-index-000001/_settings{"index.search.slowlog.threshold.query.warn":"10s","index.search.slowlog.threshold.query.info":"5s","index.search.slowlog.threshold.query.debug":"2s","index.search.slowlog.threshold.query.trace":"500ms","index.search.slowlog.threshold.fetch.warn":"1s","index.search.slowlog.threshold.fetch.info":"800ms","index.search.slowlog.threshold.fetch.debug":"500ms","index.search.slowlog.threshold.fetch.trace":"200ms"}4.3 基于slowlog 打印请求日志
slowlog 既然可以基于阈值打印输出请求日志,阈值势必可以设置很低,最低设置为0,必然能打印出全部日志了。
试试看?
如下是基于 packets-2022-12-14 进行的 index、fetch、query 的 debug 设置。
PUTpackets-2022-12-14/_settings{"index.indexing.slowlog.threshold.index.debug":"0s","index.search.slowlog.threshold.fetch.debug":"0s","index.search.slowlog.threshold.query.debug":"0s"}
设置完成后,在 kibana 控制台随意加个 query 请求。
日志存储在:elasticsearch_index_search_slowlog.json 文件下,如下图所示。
如下图标红所示,任意的请求 DSL 被打印出来。
开篇问题得以求解完成!
5、小结Elasticearch 日志协助排查集群故障,慢日志协助排查写入、查询层面的慢写入、慢查询问题。集群规模大,可以独立采集到 Kibana 可视化展示,更为方便和快捷!
你有没有使用 Elasticsearch 日志?欢迎留言讨论。如何使用的?
参考[1]https://www.elastic.co/guide/en/elasticsearch/reference/current/logging.html
[2]https://www.elastic.co/guide/en/elasticsearch/reference/current/index-modules-slowlog.html
推荐阅读全网首发!从 0 到 1 Elasticsearch 8.X 通关视频
重磅 | 死磕 Elasticsearch 8.X 方法论认知清单(2022年国庆更新版)
如何系统的学习 Elasticsearch ?
更短时间更快习得更多干货!
和全球1800+Elastic 爱好者一起精进!
比同事抢先一步学习进阶干货!相关文章
Elasticsearch 日志能否把全部请求打印出来?-全球视点
1、实战问题请问一下球主,es怎么配置可以把请求日志都打印出来。就是不管是调用借口,还是kibana查询数据,es能打印dsl的请求日志吗??求指
机动车和非机动车的交通事故应该怎么处理?
双方都有过错,而且其违章行为与故事的发生也都存在因果关系,在事故中起的作用相同。如果按双方过错程度来确定责任的话,双方应承担同等责任
纳宝帝威化饼干145g热量?-当前看点
每100克纳宝帝威化饼干中含有500大卡左右的热量。威化饼干是一种营养价值较为丰富的饼干,其中含有大量的碳水化合物、脂肪、糖分和蛋白质等,
销售伪劣农药犯了刑事案件要判几年?|全球今热点
犯本条之罪,依其情节分别承担以下刑事责任:1、生产假农药、假兽药、假化肥,销售明知是假的或者失去使用效能的农药、兽药、化肥、种子,或者
保利发展: 保利发展控股集团股份有限公司关于公司无需编制前次募集资金使用情况报告的公告
保利发展:保利发展控股集团股份有限公司关于公司无需编制前次募集资金使用情况报告的公告
过年桌上摆什么好 过年桌上摆啥好
1、腰果。腰果的壳是提前去掉了的,因为腰果外壳存在一定的毒性。如今的腰果已经成为了世界坚果,放入盐或者糖简单的对它调味,就可以直接开吃
玖富万卡贷款逾期34年多久上征信_天天百事通
网贷逾期一般会上征信,有些借贷机构在用户逾期后一天后就会上报给征信机构,而有些借贷机构则是会在几天后上报给征信机构,因为有些借贷机构可
奕东电子:12月29日融券卖出金额129.73万元,占当日流出金额的2.56%
同花顺数据中心显示,奕东电子12月29日获融资买入548 14万元,占当日买入金额的16 62%,当前融资余额8231 15万元,占流通市值的7%,超过历史90
追忆|“贝利”从何得名?史上进球最多的他到底打进多少球?-今日讯
国际奥委会12月19日在官网发布题为《贝利的进球纪录:数字说明他为什么是球王》的文章,其中认定贝利在桑托斯队打入643球,在纽约宇宙队打入37
中联重科(01157.HK)与兴湘保理订立《保理合同》 世界聚焦
格隆汇12月29日丨中联重科(01157 HK)发布公告,2022年12月29日,公司与兴湘保理订立了《保理合同》,据此公司已同意出售,以及兴湘保理已同意购买无
神宇股份:疫情波动对公司影响较小
神宇股份12月28日在投资者互动平台表示,疫情的波动对公司影响较小,公司生产经营各项工作均有序进行。公司将继续聚焦主业发展,加强营销队伍
当前热点-ST龙净(600388.SH)拟设合资公司建新能源电池储能模组PACK和系统集成项目
智通财经APP讯,ST龙净发布公告,公司与蜂巢能源科技股份有限公司(简称“蜂巢能源”)本着互惠互利、诚心经营的原则,共同出资设立合资公司...
极市直播预告丨NeurIPS 2022 Oral-张博航:如何从模型层面获得对抗鲁棒性保证?_全球今日讯
↑点击蓝字关注极市平台|极市线上分享第107期|一直以来,为让大家更好地了解学界业界优秀的论文和工作,极市已邀请了超过100位技术大咖嘉宾,
YY直播十大主播亮相 2022百度沸点年度人气主播榜单出炉:每日动态
近日,被誉为“国民级年度盘点IP”的重磅榜单——2022年百度沸点榜单新鲜出炉,今年的榜单不仅涵盖年度大事件、年度关键词、年度流行语等十...
28日北向资金净买入39.18亿元 尾盘加速进场扫货:天天时讯
12月28日,沪指早盘震荡回升,午后再度回落翻绿;上证50指数逆市上扬;深成指、创业板指弱势震荡下探。截至收盘,沪指跌0 26%报3087 4点,深成
全球滚动:外交部发言人:对日本防卫预算明显大幅增长表示关切
新华社北京12月27日电(记者马卓言)外交部发言人汪文斌27日表示,中方对日本防卫预算明显大幅增长表示关切,日方应认真反省侵略历史,在军事
当前聚焦:九州通与贵州百灵签5亿大单 多措并举力保防疫药品供应
新冠疫情防控进入新阶段,民营医药龙头九州通(600998 SH)利用自身品种及物流优势,积极做好各地防疫物资的应急储备及供应。 A股公司贵州百
瑞芯微: 关于向2022年第二期股票期权与限制性股票激励计划激励对象首次授予股票期权与限制性股票的公告
瑞芯微:关于向2022年第二期股票期权与限制性股票激励计划激励对象首次授予股票期权与限制性股票的公告
杨森中国发布“2023深境计划”:启动“淋巴瘤领域战略合作计划”等多个项目:天天通讯
中国网财经12月27日讯(记者杜丁)今日,杨森中国正式发布“2023杨森中国深境计划”。当天,杨森中国分别与中国初级卫生保健基金会、中国细胞...
全国铁路今日起实行新的列车运行图-环球今热点
工人日报—中工网记者刘静记者从中国国家铁路集团有限公司(以下简称国铁集团)获悉,12月26日零时起,全国铁路实行2023年一季度列车运行图。
公司前线|通力科技新增“新股与次新股”概念
同花顺F10数据显示,2022年12月27日通力科技(301255)新增“新股与次新股”概念。 入选理由是:公司上市日期为2022-12-27,主营为减速
南化股份(600301.SH)重组事项获有条件通过 12月27日起复牌|天天要闻
智通财经APP讯,南化股份发布公告,2022年12月26日,中国证券监督管理委员会上市公司并购重组审核委员会召开2022年第26次并购重组委工作会议,
观点:米家推出钛材质保温杯 众筹价189元
中关村在线消息:12月26日上午,小米商城官方宣布新品“米家保温杯Ti”将于12月28日开启众筹,其最大的特点就是采用了钛材质。官方表示,本...
和达科技:12月23日获融资买入356.32万元,占当日流入资金比例42.79%
同花顺数据中心显示,和达科技12月23日获融资买入356 32万元,占当日买入金额的42 79%,当前融资余额3841 30万元,占流通市值的2 58%,超过历
美国出柜,只是一个开始:焦点热讯
文 Yinanaa图文:审稿-蟹黄捞饭、制作-8封面图:《燃烧女子的肖像》提到出柜后“消失不见”的好莱坞影星,人们第一个会想起艾略特·佩吉(ElliotPag
宏德股份(301163.SZ):拟2.7亿元投建年产3万吨高端装备关键件精密机械加工制造项目
格隆汇12月23日丨宏德股份公布,根据公司战略规划,拟购置新地块,新建厂区建设“年产3万吨高端装备关键件精密机械加工制造项目”。项目资...