找回密码
 注册
关于网站域名变更的通知
查看: 878|回复: 3
打印 上一主题 下一主题

Logstash接收到的日志时间顺序与Filebeat发出的顺序不一样

[复制链接]

该用户从未签到

跳转到指定楼层
1#
发表于 2021-8-18 14:06 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式

EDA365欢迎您登录!

您需要 登录 才可以下载或查看,没有帐号?注册

x

5 _! L' o$ ]; n8 H6 [( u用filebeat收集 /tmp/testlog/no7.log 的内容后,传送给Logstash服务器,Logstash把收到的内容输出为 /tmp/logstash/no7.log
" [; J% l! x7 h# @# N2 M. S) E8 c9 ]* z' L' f: ^, i3 S: N0 d& d
传送没有出现日志缺失,但是发现时间顺序是混乱的,具体情况如下:
7 V% o: ^$ Q' b6 F& \$ i" G! l8 v( k2 B1 V6 t
filebeat.yml- v; w+ B+ B+ P% H7 u) F  S1 P; H
filebeat.inputs:6 x: {3 L5 g% @" r

  M5 y7 P+ Z( x7 Wtype: log
5 E# ~, J. `5 H- y3 Q/ I& Fenabled: true
& x6 Y) V  d+ L" V9 j8 q$ ]paths:
$ b- `; E6 P6 {; {: Z+ F8 q/tmp/testlog/no7.log" T+ p: |: ~+ `3 B1 |4 B; E
output.logstash:
' H/ f1 x; y% R) N+ M' E. z2 B* hhosts: ["xxx.xx.x.xxx:5044"]$ q' R# W! N4 e$ u8 h/ U6 x, a
----------------------------------------------------------------------------7 l( x) q3 ]; R- d
logstash.conf
+ I2 |! A4 N  i5 s; v! e9 N) Iinput {
' v( p. N4 B. u  g4 \) m# T! zbeats {
3 w) m6 W) _) b) v  C6 ?7 g) `port => 5044
8 N8 F% |5 R: _% o* a2 j}  {% a$ |9 t9 d
}
5 p' y8 @0 u: _% y3 y/ H. Soutput {3 \; I! |# R, L- O
file {% b0 p( T# ?- R5 x, ]' x
path => "/tmp/logstash/no7.log"
' ]3 n5 }8 ~8 s- h* x- ]3 H3 \codec => line { format => "%{message}"}
% \7 S0 e" M2 t: J}( p" b" o- F" E1 g  G  Z8 [
}
( e, ?& H* ^% n+ W3 _- d; j- |----------------------------------------------------------------------------0 D' c5 `2 h$ O7 R0 V! e7 j
% L& I; t. k! D- K/ m2 S
时间乱序情况如下:
) E4 j8 i! f9 _' I/ A; p1 J: X: Y5 B7 U! k
/tmp/testlog/no7.log(Filebeat服务器)
$ F7 ]! @  [' \4 I' }, i* \no7 0 2020年 1月 14日 火曜日 17:48:36 JST
- Y5 H- T& O0 A- G; Sno7 1 2020年 1月 14日 火曜日 17:48:37 JST  [1 N8 Q' Z. h, K" f; E7 ~
no7 2 2020年 1月 14日 火曜日 17:48:38 JST
& g+ g2 u9 r3 o# Y; k0 \: b) G: y9 S8 hno7 3 2020年 1月 14日 火曜日 17:48:39 JST
5 d; `: K4 l! H& b( Bno7 4 2020年 1月 14日 火曜日 17:48:40 JST
7 |4 o3 O1 W- p$ ~8 m) I" ]no7 5 2020年 1月 14日 火曜日 17:48:41 JST& Q1 J3 {) e2 e4 b/ ?7 b# c
no7 6 2020年 1月 14日 火曜日 17:48:42 JST
6 ^# @- |% \" @' Bno7 7 2020年 1月 14日 火曜日 17:48:43 JST
% B2 ?  F5 ?" Y  H4 j* G4 Uno7 8 2020年 1月 14日 火曜日 17:48:44 JST
' P: W' R, `4 yno7 9 2020年 1月 14日 火曜日 17:48:45 JST. o1 @, j+ ^1 }
----------------------------------------------------------------------------
! }0 _$ S6 G& x8 h  O8 ^% U7 h- {) Y
/tmp/logstash/no7.log(Logstash服务器)3 f% j1 j' J* _" S4 u' d
no7 2 2020年 1月 14日 火曜日 17:48:38 JST
+ R/ z4 X1 W6 s- n& ^no7 6 2020年 1月 14日 火曜日 17:48:42 JST
) N/ Z6 l5 z) h  Vno7 3 2020年 1月 14日 火曜日 17:48:39 JST
: k+ B* ]1 e4 i" V. \no7 7 2020年 1月 14日 火曜日 17:48:43 JST$ e/ E) b, i) C4 @7 x
no7 0 2020年 1月 14日 火曜日 17:48:36 JST8 z- L1 g8 }' y+ Y9 F; A
no7 4 2020年 1月 14日 火曜日 17:48:40 JST
8 O  E4 n! S7 \$ Kno7 8 2020年 1月 14日 火曜日 17:48:44 JST
# a& D+ x. E" h  g3 J' Bno7 1 2020年 1月 14日 火曜日 17:48:37 JST
6 i! ]- u4 s" `* f) G6 c# s1 _no7 5 2020年 1月 14日 火曜日 17:48:41 JST
. D, G# z# v( dno7 9 2020年 1月 14日 火曜日 17:48:45 JST0 s9 C9 d1 d' k, O
----------------------------------------------------------------------------) o0 L6 F9 P' r/ t; ?4 ^2 g/ G* Q
# t1 k* ?8 o# w' J" f& B' H5 [
可以看见,Logstash接受到的所有内容都是乱序排列,请问怎么才能让它按照Filebeat服务器里的顺序输出呢: ?4 [2 ]6 W) R( f. @
请大家帮帮忙,麻烦了9 b6 W+ S  `3 ^6 w
7 q& C, J" k- d) M& c! Y2 @2 a
——————
* H% t; V6 d; }& k8 i9 V/ _; ~$ A4 v$ w2 k6 i
有在网上搜过解决方法,都说是用filter的date来处理,但是按照目前能找到的所有回答都试了一遍,乱序问题依旧没有解决

该用户从未签到

2#
发表于 2021-8-18 15:13 | 只看该作者
问题贴也是太长了 ,看了半天了……

点评

哈哈哈,我也看半天了,徘徊在ARM边沿的人啊  详情 回复 发表于 2021-8-18 15:14

该用户从未签到

3#
发表于 2021-8-18 15:14 | 只看该作者
SsaaM7 发表于 2021-8-18 15:13
  i- I' V# s# R/ Y! d2 C; |: h  o4 w问题贴也是太长了 ,看了半天了……

- m. W- a- S+ F4 |% D9 X% N1 r3 I哈哈哈,我也看半天了,徘徊在ARM边沿的人啊
" p* p: i8 I6 }1 P/ k# {

该用户从未签到

4#
发表于 2021-8-18 15:17 | 只看该作者
如果试了一遍没有解决,说明你并没有成功使用你的日志时间作为logstash时间戳解析,否则不会再乱序了。再尝试一下,看下是不是过程出错了
您需要登录后才可以回帖 登录 | 注册

本版积分规则

关闭

推荐内容上一条 /1 下一条

EDA365公众号

关于我们|手机版|EDA365电子论坛网 ( 粤ICP备18020198号-1 )

GMT+8, 2025-11-24 01:31 , Processed in 0.156250 second(s), 27 queries , Gzip On.

深圳市墨知创新科技有限公司

地址:深圳市南山区科技生态园2栋A座805 电话:19926409050

快速回复 返回顶部 返回列表