designetwork

ネットワークを軸としたIT技術メモ

ログ可視化

CF gorouterアクセスログからElastic APMトレースデータ生成 (Nginxなどにも応用可能)

Cloud Foundry, VMware Tanzu Application Service の gorouter ( https://github.com/cloudfoundry/gorouter ) では、分散トレースのB3・W3C TraceContextヘッダをサポートしているが、トレースデータを外部送信する機能はない。 Elastic APMで分散トレーシ…

Logstash週次indexはYYYY.wwではなくxxxx.wwを使う

LogstashからElasticsearchへログ等の時系列データを送信する際に、インデックス数、シャード数の考慮により週次でのindexローテーションとすることがある。 単純にYYYY.MM.ddからYYYY.wwとするだけでは、年またぎのタイミングで想定外のindexが作成されるこ…

Praeco (ElastAlert GUI) を Helm で Kubernetes にインストールする (Beta)

以前より本ブログで取り上げている Praeco (ElastAlert GUI) の Helm Chart を作成した。 Praecoについてはこちら参照 designetwork.daichi703n.com Betaリリース repo 対応Elasticsearchバージョン Installation Screen Shots with BOSH まとめ - Praeco (E…

Praeco + ElastAlert2.0 + ES7.x 構成の不具合対応方法

(2020/04/24 id:naoyukisano1 様からの情報を追記) こちらの記事で紹介したPraecoだが、Elasticsearchのバージョンアップに伴いElastAlertもバージョンが上がり、2020/2月時点ではElastAlertのバグで正常に動作しない状態となっている。 designetwork.daichi…

Praeco (ElastAlert GUI)でElasticsearchログアラートする

Elasticsearchのデータを元にアラート通知できるElastAlertは、X-Pack(Watcher Alert)を導入しない環境において、ログ監視を実装する有用な方法として広く使用されている。 しかし、ElastAlertはコマンド・設定ファイル(YAML)ベースでの動作のみをサポートし…

Kibanaが参照するElasticsearchを冗長化する(v6.6.0-)

Kibana 6.6.0 から標準で参照するElasticsearchを複数設定できるようになった。設定方法と動作を確認する。 Release Note Kibana->Elasticsearch冗長化方式 設定項目 設定と動作確認 Kibana, Elasticsearch状態 Kibana自体の冗長化 BOSH環境へのデプロイ ま…

FluentdでIPアドレスから名前解決してホスト名フィールドを追加する(fluent-plugin-resolv)

こちらの記事でHerokuのアクセスログ (はてなブログに仕込んだJavaScript) を収集したが、単純なパースでアクセス元はIPアドレスでの表示となっている。 designetwork.hatenablog.com ログから知りたいことの一つとして「だれ・どこからアクセスされているか…

Herokuのアクセスログを自前のFluentdで収集する

Herokuでは各種サービス (Add-ons) が組み込まれており、ログ収集関連も豊富に揃っている。Treasure Data のサービスも提供されているが、Hadoopでの解析までを含めたクラウドサービスのため有償で、$5,000/monthと、個人で気軽には使用できない。 これらはT…

Kibana6.xのReporting CSV Export機能を試してみる

Kibanaで長らく要望されている機能である、Discoverタブでの検索結果をCSVエクスポートする機能が、Version.6からついに実装される。GAリリースが待ち遠しく、Alpha版を試してみた。 github.com Kibana 6.0.0-alpha2 is released | Elastic Blog CSV export …

Kibana5にパッチ適用しDiscoverタブからCSVエクスポートする

こちらの記事でKibanaのDiscoverタブからExportできる機能追加版をビルドしたが、正直かなり手間がかかった。 designetwork.hatenablog.com 時間が経ち、同様機能をパッチとして作成した方がいるようなので、使ってみた。 github.com Kibana Exportパッチの…

FilebeatでNon-Zero Metricsのログを出さないようにする

こちらの記事に記載した通り、Beats(Filebeat)でログをシンプルにFluentdを送っている。 designetwork.hatenablog.com その中で次のようなログが多発していることに気付いた。BeatsのMetrics監視の仕組みのようだが、安定稼働している状態では、常時発生する…

Beats(Filebeat)のログをFluentdで受け取りtagルーティングする

Beatsはバッファ・再送機能(確認応答)を持つ軽量なログシッパーで、ログの発生元となるサーバーにインストールすることにより、Elasticsearchでのログ解析を容易にする。 普段はFluentd(td-agent)をメインで使用しているのだが、ログ発生元のサーバにtd-agen…

Logstashで内容ごとに送信先を複数に振り分ける設定

※本記事の内容は古いです。pipelines.ymlでパイプライン分割する方法を推奨します。 www.elastic.co - pipeline.id: my-pipeline_1 path.config: "/etc/path/to/p1.config" pipeline.workers: 3 - pipeline.id: my-other-pipeline path.config: "/etc/differ…

LogstashでFluentdのforest+copy同様に複数処理の設定をする

LogstashでFluentd(td-agent)のforestプラグインとcopyを組み合わせたものと同様の設定をしてみる。これにより、ログ種別、送信元が増えていっても出力設定を都度追加することなく、簡素化できる。 また、Logstashは日本語情報が少ないため、少しでも日本の…

GrafanaでElasticsearchのデータを表示する

Elasticsearchのデータ・ログ可視化ツールとしてはKibanaが用意されているが、ZABBIXなどのデータを組み合わせてGrafanaでダッシュボードを作りたいときもある。使い始めとして、GrafanaのデータソースとしてElasticsearchを連携させる設定方法を記載する。 …

Fluentd(td-agent)でCisco ASAのFWログを可視化する

ログ収集ツールとして人気の高いFluentd(td-agnet)でCisco ASAのFWログを可視化する。Fuentdで受け取ったログはElasticSearchでインデックスしKibanaで可視化する。 Fluentdプラグインと設定 Cisco ASAログ出力設定 ログ収集できず... 自作Cisco ASA Parser …

Kibana 5でDiscoverタブの検索結果をCSVエクスポートする

Kibanaで要望されつつもなかなか実装されない機能の一つに、Discover画面からのエクスポートがある。Githubでもissueとして長期的に要望されている。 github.com その中で、次の通り機能実装版を提供してくれている方がいる。 If you are adventurous enough…