小生博客:http://xsboke.blog.51cto.com

                -------谢谢您的参考,如有疑问,欢迎交流

目录

  • 需求
  • 环境
  • logstash配置
  • kibana配置

需求

使用Geoip解析nginx用户IP地理位置,然后通过kibana的"coordinates map"实现映射用户地理位置可视化

环境

这里主要展示logstash filter pluginkibana的配置,之前的配置请参考:ELK7.4-快速入门实现数据收集

web             172.16.100.251      nignx/filebeat/logstash 
elasticsearch   172.16.100.252      elasticsearch/kibana

Web配置

  1. 添加pipelines配置

    vim /etc/logstash/conf.d/nginx.conf
    
    input {
       beats {
           port => 5044
       }
    }
    
    filter {
       if "nginx_access" in [tags] {
           grok {
               match => { "message" => "%{NUMBER:request_time}\|%{IPORHOST:access_domain}\|%{IPORHOST:remote_addr}\|%{USERNAME:remote_user}\|\[%{HTTPDATE:time_local}\]\|%{NOTSPACE:request_method} %{NOTSPACE:request} (?:HTTP/%{NUMBER:http_version})\|%{NUMBER:status}\|%{NUMBER:upstream_status}\|%{NUMBER:upstream_response_time}\|%{NOTSPACE:upstream_addr}\|%{NUMBER:body_bytes_sent}\|%{NOTSPACE:request_body}\|%{NOTSPACE:http_referer}\|%{GREEDYDATA:http_user_agent}\|%{NOTSPACE:http_x_forwarded_path}\|%{NOTSPACE:upstream_cache_status}" }
           }
    
           geoip {
               source => "remote_addr"
               target => "geoip" # 要发送的字段,默认为此
               add_field => ["[geoip][coordinates]","%{[geoip][longitude]}"] # 获取经度
               add_field => ["[geoip][coordinates]","%{[geoip][latitude]}"] # 获取纬度
           }
    
           mutate {
               convert => ["[geoip][coordinates]","float"] # 修改经纬度为浮点数
           }
       }
    }
    
    output {
       if "nginx_access" in [tags] {
           elasticsearch {
               hosts => ["172.16.100.252:9200"]
               index => "logstash-nginx_access-%{+YYYY.MM.dd}" # 使用以logstash索引可以免除手动指定geoip为geo_point类型.
           }
       }
    }
    

elasticsearch配置

  1. kibana配置

    默认情况下kibana使用"Elastic Maps Service"显示地图模块,要使用其他服务提供商的模块可以通过修改"map.tilemap.url"实现,下面是修改为高德地图
    # map.tilemap.url: 'http://webrd02.is.autonavi.com/appmaptile?lang=zh_cn&size=1&scale=1&style=7&x={x}&y={y}&z={z}'
    
    7.4版本的kibana对中文兼容性更好,个人建议使用Kibana默认的"Elastic Maps Service"显示地图模块,可以修改kibana的语言从而显示中文:
    # i18n.locale: "zh-CN"
  2. kibana Web配置

    新建可视化 -> 坐标地图 -> 选择logstash索引

    ELK7.4-坐标地图映射Nginx用户地理位置

    根据下图进行配置然后保存即可

    ELK7.4-坐标地图映射Nginx用户地理位置