admin 管理员组文章数量: 887006
Logstash官网地址
Logstash下载地址
Logstash 配置语法
Logstash Input plugins(输入插件)
Logstash是 Elastic Stack 的中央数据流引擎(数据收集引擎),用于收集、丰富和统一所有数据,而不管格式或模式。当Logstash与Elasticsearch,Kibana,及 Beats 共同使用的时候便会拥有特别强大的实时处理能力(ELK)。
Logstash包含3个主要部分
input(输入):必须,负责产生事件(Inputs generate events),采集各种样式,大小和相关来源数据,从各个服务器中收集数据,常用:stdin(用于调试)、file、syslog、redis、kafka、beats(filebeat)类型。
filters(过滤器):可选,负责数据处理与转换(filters modify them),常用:grok、mutate、drop、clone、geoip
outputs(输出):必须,负责数据输出(outputs ship them elsewhere),将我们过滤出的数据保存到那些数据库和相关存储中,常用:elasticsearch、file、graphite、statsd
1、安装准备
Logstash是基于java语言开发,依赖于JDK,所以先安装JDK;
2、进入bin目录,新建文件【logstash.conf】文件代码如下
input {
stdin{
}
}
output {
stdout{
}
}
3、检查配置文件是否正确
打开文件夹地址栏,切换到【bin】目录,输入【cmd】回车,命令行输入命令
logstash -f logstash.conf -t
提示【Configuration OK】表示成功
4、启动 Logstash
打开文件夹地址栏,切换到【bin】目录,输入【cmd】回车,命令行输入命令
logstash -f logstash.conf
5、打开浏览器,地址栏输入:http://localhost:9600,表示启动成功。
6、读取文件 file【file_log.conf】
input {
file {
type => "type_a"
path => ["/usr/local/logstash-2.3.4/config/type/a.txt"]
}
}
output{
elasticsearch {
hosts => ["192.168.136.13:9200"]
index => "tcp_log"
#user => "elastic"
#password => "123456"
}
}
7、读取网络 tcp【tcp_log.conf】
input{
tcp{
port => 8001
type => "tcp"
mode => "server"
}
}
output{
elasticsearch {
hosts => ["192.168.136.13:9200"]
index => "tcp_log"
#user => "elastic"
#password => "123456"
}
}
8、NLog.config文件
在nlog中,配置文件targets节点下添加一个target就可以定义一个日志输出目标,当需要把日志输送到logstash时,需要添加一个target节点,其type为Network,填上address,layout等等,代码如下:
<targets>
<target xsi:type="Network"
name="logInfo"
keepConnection="false"
layout="${customer-ip} ${customer-method} ${customer-path} ${customer-bytes} ${customer-duration}"
address ="tcp://127.0.0.1:8001"
>
</target>
</targets>
<rules>
<logger name="*" minlevel="Info" writeTo="logInfo" />
<logger name="Microsoft.*" maxLevel="Info" final="true" />
</rules>
9、读取 redis 数据【redis_log.conf】
input{
redis {
host => "127.0.0.1"
port => 6379
db => 0
data_type => "list"
key => 'redis_log'
batch_count => 1
type => 'redis_log'
}
}
output{
elasticsearch {
hosts => ["192.168.136.13:9200"]
index => "redis_log"
#user => "elastic"
#password => "123456"
}
}
10、kafka
input{
kafka {
topics => "kafkalog"
bootstrap_servers => "localhost:9092"
codes => "json"
}
}
output{
elasticsearch {
hosts => ["192.168.136.13:9200"]
index => "kafka_log"
#user => "elastic"
#password => "123456"
}
}
11、读取 Syslog 数据
input{
syslog {
port => 5000
type => "syslog"
}
}
output{
elasticsearch {
hosts => ["192.168.136.13:9200"]
index => "kafka_log"
#user => "elastic"
#password => "123456"
}
}
*
*
*
版权声明:本文标题:Windows安装Logstash 内容由网友自发贡献,该文观点仅代表作者本人, 转载请联系作者并注明出处:http://www.freenas.com.cn/jishu/1731694637h1499893.html, 本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容,一经查实,本站将立刻删除。
发表评论