フランス拠点の障害対応で使う日付入りログ、現地時刻のままgrepするときの検索キー設計
パリのチームが運用しているAPIの障害で、ログを現地時刻のまま追う必要があった。対象はアプリ3台、1日あたり約400万行、ログは`app-YYYY-MM-DD.log`で日付ごとにローテーション、各行の先頭は`2024-03-12 14:03:21,447`のような現地時刻(Europe/Paris)。UTCに寄せるとパリの当直メンバーが送ってくる「14時過ぎから500が出てる」という連絡と1時間
パリのチームが運用しているAPIの障害で、ログを現地時刻のまま追う必要があった。対象はアプリ3台、1日あたり約400万行、ログは`app-YYYY-MM-DD.log`で日付ごとにローテーション、各行の先頭は`2024-03-12 14:03:21,447`のような現地時刻(Europe/Paris)。UTCに寄せるとパリの当直メンバーが送ってくる「14時過ぎから500が出てる」という連絡と1時間
フランス拠点のアプリログと、日本の監視基盤が集めたログを突き合わせる必要が出たとき、片方は Europe/Paris、片方は JST で、しかも一部のミドルウェアだけ UTC で出ていました。件数は1障害あたりおよそ12万行、時間窓は3時間ぶん。最初は全部 UTC に変換しようとして、変換スクリプトの適用範囲を間違え、二重変換で30分ずらしたまま2時間溶かしました。
フランス拠点のアプリは現地語のままログを出していて、障害のたびに「Erreur」「échec」でgrepしていました。ところが同じ事象でも開発側は英語で「timeout」「connection refused」と書き、検索語が噛み合わない。ログは1日あたり約40万行、rsyslog経由で集約していて、現地語のままだと一次切り分けに毎回20分ほどかかっていました。
障害対応の記録を後から追うとき、フランス側から来るメールの件名が「Incident」「Panne」など揺れていて、検索で拾えないことがあった。拠点の運用担当が書く本文はフランス語で、こちらは英語のキーワードで探す。件数は月20〜30通程度だが、障害の最中に「あのメールどこだっけ」で5分溶けるのが地味に痛い。
パリ郊外の拠点で、注文APIの5xxが夜間に増える事象を追った。環境は Ubuntu 22.04、アプリはJava、ログは logback が現地時刻(Europe/Paris)で `2024-03-28 02:14:07,331` のようにミリ秒まで出す設定。1ノードあたり1日400MB、3ノードで約1.2GB。監視側のアラートはUTCで飛んでくるので、そのままでは「アラートの02:14」と「ロ
フランス拠点の障害対応で、アプリのログを1日分まとめて`app-2024-06-12.log.gz`の形で受け取ることが多い。日本語のキーワードで検索しようとして`zgrep`ではなく通常の`grep`をかけてしまい、何もヒットしないまま10分ほど溶かした経験がある。環境はUbuntu 22.04、ロケールは`fr_FR.UTF-8`、ファイルサイズは1日あたり400MB前後、圧縮後で40MB程度
フランス拠点の運用チームが書いた障害対応メモを、日本のオンコール担当が読む場面があった。メモはWikiにMarkdownで置かれていて、見出しが「手順」「確認事項」「連絡先」の日本語混じり、本文にフランス語の略語(ex: « à vérifier »、« RAS »)が散らばっている状態。対象は直近1年分、約180ページ。読む側は毎回Google翻訳に貼っていて、障害中にそれが一番の待ち時間になっ
フランス拠点のリポジトリで、障害対応中に原因コミットを探そうとして詰まった経験がある。環境はGitLab 16系、ブランチは数百、直近3ヶ月のコミットが約4000件。開発者はフランス語でコミットメッセージを書く人が多く、`git log --grep` に英語のキーワードを入れてもほぼヒットしない状態だった。
フランス拠点の監査ログを日次で集計するスクリプトがあり、対象は1日あたり約40万行、保存はUTC、表示は現地時刻という構成でした。ところが現地の運用担当が手で追記する障害メモだけが「12/03/2024 14:05」のような形式で、しかも日と月が逆のことがあり、集計時に3月12日と12月3日が混ざる現象が出ていました。
パリ近郊の小さな拠点で、監視アラートをSlackに流す仕組みを運用しています。構成はPrometheus + Alertmanager、通知はSlackのIncoming Webhook。フランス側の運用担当者向けに、当初はアラート本文をフランス語で書いていました。ところが月に数回の障害で、日本語側の当番が本文を読めず、一次切り分けが遅れることが続きました。
パリ郊外の小規模拠点で、障害対応用のログ検索ツールを運用している。構成はアプリ3台、ログ集約1台、保管は90日。1日あたりの取り込みは約80万行、日本語のエラーメッセージも混ざる。先週、現地スタッフが「昨日の決済失敗を検索しても0件になる」と連絡してきた。実際には障害は起きていて、生ログには日本語の例外文言が残っていた。
パリ郊外の小規模拠点で、監視アラートから踏み台経由で対象ホストに入る運用をしていた。構成は ClientAliveInterval 60 / ClientAliveCountMax 3 のまま、踏み台は踏み台で別のセッションを張る二段構成。障害時、一次対応の担当が「接続が切れる」と言い、復旧に毎回10分以上かかっていた。切り分けのため、まず踏み台側の sshd_config とクライアント側の ~
パリ郊外の小規模チームで、障害対応用の踏み台サーバー(Ubuntu 20.04)から各ホストへSSHする運用をしていた。監視アラートが鳴ってから最初のログインまでに平均90秒かかり、原因の特定に遅れが出ていた。サーバー台数は約40台、1台あたりのログ量は多くないが、障害時は複数ホストに同時ログインする必要があった。
パリ郊外の小規模チーム(開発5人、運用2人)で、障害対応用のログ集約ツールを自前でホストしている。ツールはFluentd+Elasticsearch+Kibanaで、各サーバのタイムゾーンはEurope/Paris。先月、障害対応中にログの時刻が1時間ずれて見える現象が起きた。原因は、Fluentdの設定で`time_key`を指定していたが、パース後のタイムゾーン変換をしていなかったこと。具体的
フランスの拠点で、障害対応用のログ収集スクリプトが特定の条件で止まる現象を追った。環境は Debian 11、rsync 3.2.3、日次で 40GB 前後のログをパリの踏み台から日本の保管庫へ転送している。障害時は直近 2 時間分だけを別ディレクトリに集めて転送する運用で、普段は 1 分未満で終わる処理が、ある夜だけ 25 分経っても終わらずタイムアウトした。
フランスの小規模チーム(開発5人、運用兼務)で、障害対応の記録に使う社内ツールのラベルを現地語(フランス語)にしていた時期がある。対象はインシデントのステータスと重要度の2箇所だけ。ツール自体は自前の小さなWebフォームで、DBはPostgreSQL、ステータスはenumで持っていた。件数は月40〜60件、同時に開いているインシデントが多くて10件程度の規模。
フランスの小規模チームで、社内ツールの監視ダッシュボードを直したときの話です。対象はGrafana 9系、データ源はPrometheus、ホストはパリ近郊のVMで、EC2に近い構成のオンプレ2台。1日あたりのメトリクスは約40万サンプル。障害対応のたびに「グラフの時刻がずれている」と言われ、実際にはずれていないのに調査が長引く状態が続いていました。原因は表示で、ダッシュボードの時刻がUTCのまま、
フランスの小規模チーム(開発5人、運用は兼務)で、障害対応のログをSlackに流す小さなツールを保守している。構成はNode 20、cronで5分おきにAPIを叩き、失敗したらチャンネルに投稿するだけのもの。データ量は1日200〜400行程度で、多い日でも1,000行には届かない。問題は時刻の表示だった。当初はISO 8601のUTCをそのまま出していたが、「今どのくらい前の障害か」を現地の運用担
フランスの小規模チームで運用している障害管理ツールで、日付境界のレポートが1日ずれる現象が出た。環境はPostgreSQL 14、アプリはPython 3.11、コンテナはDebianベースでTZ=Europe/Parisを設定していた。データ量は障害チケット約12万件、日次集計は約3年分。現象は「前日23時台に起票したチケットが翌日の集計に入る」というもので、月次レポートの件数が現場の感覚と合わ
フランスの小規模チーム(自分を含めて5人、パリとリヨンで2拠点)で、障害対応の記録を共有する運用を回している。ツールはSlackとNotionで、障害メモはNotionのデータベースに1件1ページで残す形にしている。対象は月に2〜4件程度の軽微な障害で、影響範囲は数百ユーザー規模。以前はSlackのスレッドに時系列で書き込んでいたが、翌週には「結局なにが原因だったか」を探すのに10分以上かかってい