本文へ移動

ホーム / EM / 第3部 信頼性と運用

第3部 信頼性と運用・第5章

障害対応の指揮

★★☆ 重要6トピック・面接 3問

大きな障害で、チームが落ち着いて影響を止め、学びを次に生かすための指揮のしかたを押さえる。

別のページで開く →

障害対応の演習を読み込んでいます…

ひとことで

インシデントコマンダーとして役割を割り振り、情報を整理し、判断する。原因の調査は担当者に任せる。

大きな障害では、全員が原因を調べ始めて誰も全体を見ていない、という状態になりがちです。そこで役割を分けます。EM はインシデントコマンダー(IC:指揮をとる人)を担うことが多いですが、自分で原因を調べるのではなく、情報を整理して判断することに集中します。

インシデント対応の役割の分担指揮(IC)判断・割り振り・交代作業(担当者)調査・切り戻し・修正連絡定期的に状況を伝える記録時刻つきで残す社内・サポート・顧客結果を IC に報告ポストモーテムの材料
IC は自分で調べず、情報を集めて判断する。やりとりの場所は1つのチャンネルにまとめる
役割やることやらないこと
指揮(IC)重大度を決める、役割を割り振る、方針(切り戻すか・待つか)を判断する、交代を決める自分でログを掘る
連絡(コミュニケーション担当)社内・顧客・サポートへ定期的に状況を伝える技術の議論に加わる
作業(担当者)調査・切り戻し・修正。やることと結果を IC に報告する勝手に大きな変更をする
記録時刻つきで出来事・判断を書く(ポストモーテムの材料)—

最初に「私が IC です。調査は A さん、連絡は B さん」と宣言し、チャットのチャンネルを1つに決めます。状況の更新は「今わかっていること・影響・次にやること・次の更新時刻」の形で、30分ごとなど決まった間隔で出します。原因が分からなくても、まず影響を止める(切り戻し・機能フラグで止める)ことを優先します。長引いたら担当者を交代させ、休ませるのも IC の仕事です。

責めないポストモーテム

面接ではこう答える

大きな障害では、全員が原因を調べ始めて誰も全体を見ていない状態になりがちなので、役割を分けます。インシデントコマンダーは指揮をとる人で、重大度を決め、調査・連絡・記録の担当を割り振り、切り戻すか待つかを判断します。自分でログを掘らず、情報を集めて判断することに集中するのがポイントです。原因が分からなくても、まず切り戻しや機能フラグで影響を止めることを優先し、長引いたら担当者の交代も決めます。

別のページで開く →

障害対応の演習を読み込んでいます…

5.2重大度の決め方

用語★★☆ 重要
ひとことで

障害の大きさを SEV1・SEV2 のような段階で表し、呼ぶ人・報告先・更新の間隔を前もって決めておく仕組み。

重大度(SEV)の例SEV1主要な機能が多くの利用者で使えない全員を呼ぶ・経営に報告SEV2一部の機能・一部の利用者に影響担当チームで対応・定期報告SEV3影響が小さい・回避策がある営業時間内に対応
段階の数と中身は一例。迷ったら高いほうで宣言し、後から下げる

重大度(SEV:severity)は、障害の大きさを段階で表したものです。最初に重大度を決めると、誰を呼ぶか・誰に報告するか・夜中でも対応するかが自動的に決まり、迷う時間が減ります。

決めておくこと例
段階の基準影響を受ける利用者の割合、止まった機能、お金やデータへの影響
呼ぶ人SEV1 は IC・担当チーム・連絡担当を必ず立てる
報告先SEV1 は経営・サポート・広報にも。SEV3 はチーム内
更新の間隔SEV1 は30分ごと、SEV2 は1時間ごと、など
ポストモーテムSEV2 以上は必ず書く、など

迷ったら高いほうで宣言するのがこつです。大げさに宣言して後から下げるのは簡単ですが、低く見積もって人が集まらないと、復旧が遅れます。

面接ではこう答える

重大度は障害の大きさを段階で表したもので、たとえば SEV1 は主要な機能が多くの利用者で使えない状態です。段階ごとに、呼ぶ人、経営やサポートへの報告、更新の間隔、ポストモーテムを書くかどうかを前もって決めておくと、障害の最中に迷う時間が減ります。判断に迷ったら高いほうで宣言し、状況が分かってから下げるようにしています。低く見積もって人が集まらないほうが、復旧の遅れにつながるからです。

障害の最中は、技術の対応と同じくらい連絡が大事です。連絡が途切れると、サポートや経営から個別の問い合わせが殺到し、対応する人の手が止まります。連絡は連絡担当に任せ、決まった形と間隔で出します。

【SEV1・更新 #3】14:30
今わかっていること:決済 API の一部でエラー。原因は調査中
影響:14:05 から、カード決済の約 30% が失敗
やっていること:直前のリリースを切り戻し中
次の更新:15:00
相手伝えることこつ
社内の関係者影響・対応状況・次の更新時刻1つのチャンネルにまとめる。個別に返さない
サポート利用者への案内の文面、回避策技術の言葉でなく、利用者に言える言葉で
顧客(ステータスページ)影響のある機能と、次の更新時刻原因が分からなくても「調査中」と早く出す
経営事業への影響、復旧の見込み、判断が必要なこと短く。決めてほしいことがあれば明確に

「次の更新時刻」を必ず書くのがポイントです。新しい情報がなくても、その時刻には「変化なし、調査を続けています」と出します。

ひとことで

障害の振り返りで、誰のミスかではなく、なぜそれが起きる仕組みだったかを問い、仕組みで再発を防ぐ。

ポストモーテムの流れ時系列何が起きたか要因なぜ起きたか対策仕組みで防ぐチケット化担当と期限共有他チームにも
「誰が」ではなく「なぜその操作ができてしまったか」を問う

ポストモーテム(障害の振り返り)は、数日〜1週間以内に書きます。責めない(ブレームレス)とは、「誰がミスしたか」ではなく「なぜその操作ができてしまったか」「なぜその判断がその時は正しく見えたか」を問うことです。人を責めると、次から事実が隠されて、同じ障害がくり返されます。

  • 構成:概要・影響(時間・利用者数)・時系列・原因・うまくいったこと・改善点・対策。
  • 対策には担当者と期限をつけ、チケットにして追いかける(書いて終わりにしない)。
  • 「注意する」「気をつける」は対策にしない。仕組み(自動チェック・権限・アラート)で防ぐ。

SRE の「ポストモーテムの構成」

面接ではこう答える

ポストモーテムは障害の振り返りの文書で、時系列・影響・原因・うまくいったこと・対策をまとめます。責めない、ブレームレスとは、誰がミスしたかではなく、なぜその操作ができてしまったか、なぜその判断がその時は正しく見えたかを問うことです。人を責めると次から事実が隠され、同じ障害がくり返されるからです。対策には「気をつける」ではなく自動チェックや権限のような仕組みを選び、担当と期限をつけてチケットで追いかけます。

対策は「強い」ものから選ぶ仕組みで防ぐ権限・自動チェックで不可能にする自動で気づくアラート・テスト手順・レビュー手順書・チェックリスト注意する人の注意に頼る強い弱い
「気をつける」は対策にしない。できるだけ左の対策を選ぶ

ポストモーテムで決めた対策が、実行されないままたまっていくのはよくある失敗です。書いて終わりにしない仕組みを作ります。

仕組み中身
チケットにする対策ごとに担当と期限をつけ、ふだんのチケットと同じ場所で管理する
優先度を決める再発したときの影響が大きいものから。すべてを同じ重さにしない
定期的に見る月1回などの振り返りで、期限切れの対策を一覧にして確かめる
計画に入れるスプリントの計画で、対策の作業の時間を先に確保する
終わったら閉じる対策が効いたか(同種の障害が減ったか)を確かめて閉じる

対策が多すぎて回らないなら、数を絞ります。効果の大きい2〜3個を確実にやるほうが、10個並べて手つかずになるよりよい結果になります。

5.6障害対応の訓練

★★☆ 重要

障害対応は、本番で初めてやるとうまくいきません。平常時に練習しておくと、役割の分担や連絡の形が身につき、手順書の穴も見つかります。

訓練の種類中身頻度の例
机上演習「決済が落ちた」などの想定を読み上げ、誰が何をするかを話し合う四半期に1回
ゲームデー検証環境などで実際に障害を起こし、検知から復旧まで動く半年に1回
復元の訓練バックアップから実際にデータを戻してみる半年に1回
新人のシャドー新しいオンコール担当が、先輩の対応を横で見る当番に入る前

訓練では、IC 役をふだん指揮しない人にも回します。EM がいないときに障害が起きても、チームで対応できるようにするためです。終わったら短い振り返りをして、手順書と連絡の形を直します。このサイトの障害対応の演習も、指揮する立場の練習に使えます。

この章のまとめ

🖨 まとめシート(印刷・PDF)
  • インシデントコマンダーは自分で調べず、役割を割り振って判断する
  • 重大度を先に決め、決まった形と間隔で状況を伝える
  • 責めないポストモーテムで仕組みを直し、対策は期限つきで追いかける
  • インシデントコマンダーの役割:インシデントコマンダーとして役割を割り振り、情報を整理し、判断する。原因の調査は担当者に任せる。
  • 重大度の決め方:障害の大きさを SEV1・SEV2 のような段階で表し、呼ぶ人・報告先・更新の間隔を前もって決めておく仕組み。
  • 責めないポストモーテム:障害の振り返りで、誰のミスかではなく、なぜそれが起きる仕組みだったかを問い、仕組みで再発を防ぐ。

この章のクイズ

面接ではこう聞かれる

まず答えを見ずに声に出して答え、そのあと開いて比べる。

Q1大きな障害のとき、EM として何をしますか?

模範回答

まず指揮をはっきりさせます。自分がインシデントコマンダーを担うなら「私が指揮をとります。調査は A さん、社内外への連絡は B さん」と宣言し、やりとりの場所を1つのチャンネルにまとめます。自分では原因を掘らず、情報を整理して「切り戻すか、待つか」を判断します。原因が分からなくても、影響を止めることを優先します。

連絡は、今わかっていること・影響・次にやること・次の更新時刻を、30分ごとなど決まった間隔で出します。メンバーのケアとして、長引いたら担当を交代させて休ませ、夜間に対応した人には翌日の休みをとってもらいます。

収まったら、数日以内に責めないポストモーテムを行います。「誰のミスか」ではなく「なぜそれが起きえたか」を問い、対策には担当と期限をつけてチケットで追いかけます。「気をつける」ではなく、自動チェックやアラートなどの仕組みで防ぐようにします。

深掘りされたら

  • 障害を起こした本人が落ち込んでいたら、どう声をかけますか?
  • 同じような障害がくり返されるとき、何を見直しますか?

見られているポイント指揮・連絡・メンバーのケア・振り返り

Q2「責めないポストモーテム」とは何ですか? なぜ大事なのですか?

模範回答

ポストモーテムは障害の振り返りです。「責めない(ブレームレス)」とは、誰がミスをしたかではなく、なぜそのミスが起きえたかを問うことです。「なぜその操作ができてしまったのか」「なぜその判断がその時は正しく見えたのか」を調べます。

大事な理由は、人を責めると次から事実が隠されるからです。正直に話せないと本当の原因にたどり着けず、同じ障害がくり返されます。人は必ずミスをするので、ミスしても障害にならない仕組みのほうが確実です。

進め方としては、数日以内に、時系列・影響・原因・うまくいったこと・改善点をまとめます。対策は「気をつける」ではなく、自動チェックや権限、アラートなどの仕組みにし、担当者と期限をつけてチケットで追いかけます。EM は会の場で、人を責める発言が出たら問いを仕組みのほうに戻す役をします。

深掘りされたら

  • 同じ人が何度もミスをする場合も、責めないのですか?
  • 対策が実行されずに残るのをどう防ぎますか?

見られているポイント目的と理由、仕組みで防ぐ対策

Q3ポストモーテムで決めた対策が、実行されないまま何十件もたまっています。どうしますか?

模範回答

まず一覧にして、再発したときの影響の大きさで並べ直します。効果の大きいものを2〜3個に絞り、担当と期限をつけて、次のスプリントの計画で時間を先に確保します。影響が小さいものや、状況が変わって不要になったものは理由を書いて閉じます。

そのうえで、たまる原因を直します。例えば、対策をふだんのチケットと別の場所で管理していた、計画のときに対策の時間を入れていなかった、といった原因が多いです。月1回の振り返りで期限切れの対策を確かめる場をつくり、対策が効いたかを確かめてから閉じる運用にします。

深掘りされたら

  • 対策の優先度を、事業側の機能開発とどう比べますか?

見られているポイント数を絞って確実にやること、たまる仕組みそのものを直すこと