Logstash2.3.4趟坑之集成Redis哨兵模式

时间:2022-05-14
本文章向大家介绍Logstash2.3.4趟坑之集成Redis哨兵模式,主要内容包括其使用实例、应用技巧、基本知识点总结和需要注意事项,具有一定的参考价值,需要的朋友可以参考一下。

最新在使用Lostash2.3.4收集数据的时候,在读取redis数据的时候,报了如下的一个异常:

异常如下

Pipeline aborted due to error {:exception=>#<URI::InvalidURIError: the scheme redis does not accept registry part: redis_master_10214 (or bad hostname?)>, :backtrace=>["/home/search/logstash-2.3.4/vendor/jruby/lib/ruby/1.9/uri/generic.rb:214:in `initialize'"

Logstash自带的ruby是1.9的版本,自带集成的redis插件也是最新的redis-rb3.3.1

Logstash里面默认自带了redis插件,也就是redis-rb3.3.1

如果没带可以进入logstash目录:

logstash-2.3.4vendorjrubybin进行安装

cd logstash-2.3.4vendorjrubybingem install redis

如果redis采用的是哨兵模式的集群,那么redis-rb插件也是支持的,具体的看官网github文档:

https://github.com/redis/redis-rb

logstash的代码如下:

input{
 stdin{}
}


filter{

ruby{
init => "
require 'redis'class Rconn  
   @@SENTINELS = [{:host => '192.168.10.214', :port => 26381},
             {:host => '192.168.10.214', :port => 26382},
             {:host => '192.168.10.214', :port => 26383}]
   def self.con   
   @@con  
   end 
  
   def self.SENTINELS
   @@SENTINELS   end 
   @@con = Redis.new(:url => 'redis://redismaster10214', :sentinels => Rconn.SENTINELS, :role => :master)end"
code => "event['redis_data']=Rconn.con.get(event['message']) 
"
}
}

output{
  stdout { codec => rubydebug }
}

注意下面这句话

:url => 'redis://redismaster10214'

redis的哨兵masterName在ruby1.9中必须不能带下划线,否则会报下面的异常:

错误的用法

:url => 'redis://redis_master_10214'
<URI::InvalidURIError: the scheme redis does not accept registry part: redis_master_10214 (or bad hostname?)>,

ruby里面的标准的url校验,发现url里面如果有带下划线的,会认为是不合法的url,具体可参考下面两个问题连接:

https://github.com/docker/compose/issues/472

http://stackoverflow.com/questions/2180465/can-domain-name-subdomains-have-an-underscore-in-it

目前在ruby1.9的版本中发现此bug,使用最新的版本ruby2.3.0则没有此问题,说明在高版本的ruby中 已经修复了此问题,但是logstash最新的版本绑定的jruby版本是1.9的ruby,所以还存在此问题,只能在使用时避免,真是血泪教训,花费了大半天时间趟的坑。