本文へ移動

ホーム / ML / 第6部 面接の実践

第6部 面接の実践・第14章

経験・行動面接

★★★ 必須10トピック・面接 5問

サービスの会社では最も比重が大きい面接。知識の説明のあとに「実際にやったこと」を、モデルの指標だけでなくビジネスの指標で話せると評価が大きく変わる。各エピソードは STAR(状況・課題・行動・結果)で準備する。

14.1STAR の書き方

★★★ 必須
状況と課題は短く、行動に一番時間を使い、結果は数字でS 状況2〜3文T 課題自分の役割A 行動何を見て、どう判断し、何をしたかR 結果数字と学び「チームで」ではなく「私は」で話す。判断の理由と、他に考えた選択肢を入れる
STAR の時間配分の目安
要素書くことML エンジニアでの注意
Situation(状況)規模・時期・チーム利用者数・データ量・モデルの用途を一言で
Task(課題)何が問題で、自分の役割は何かビジネスの課題として言う(「AUC を上げる」ではなく「確認作業が追いつかない」)
Action(行動)何を見て、どう判断し、何をしたか試してだめだったこと・選ばなかった案と理由も入れる
Result(結果)数字と、その後に仕組みにしたことモデルの指標とビジネスの指標の両方。A/B テストで測ったか

以下は架空の例です。自分の経験に置き換えて作ります。

要素例
Situation月間〇〇万人が使う EC サイトで、解約の予測モデルを作り、解約しそうな人にクーポンを送る施策を担当した
Taskオフラインの AUC は高かったが、A/B テストで解約率に差が出なかった。原因を調べ、効く形にする必要があった
Action予測ログと結果を突き合わせ、上位の人の多くが「何をしても解約する人」で、クーポンでは止められないと分かった。予測の対象を「解約しそうか」から「クーポンで解約が減りそうか」(施策の効果)に変え、過去のランダムな配布のデータで学習し直した
Result再度の A/B テストで、同じ配布数で解約率が〇ポイント下がり、クーポンの費用は〇割減った。以後、施策に使うモデルは効果で評価する方針をチームで決めた

以下は架空の例です。

要素例
Situation社内の問い合わせに答える RAG のチャットボットを、3人のチームで運用していた
Taskプロンプトを直すたびに別の質問で答えが悪くなり、利用者の苦情が続いた。変更の良し悪しを判断できる仕組みを作る役割を担った
Action実際のログから 200件の評価データを作り、検索(正しい文書が上位にあるか)と生成(根拠に沿っているか)を分けて採点するようにした。LLM の採点は人の採点と〇割一致するまで基準を直し、CI で変更のたびに流すようにした
Result変更による悪化をリリース前に〇件止められ、苦情は 3か月で半分になった。検索の失敗が大半と分かり、ハイブリッド検索を入れて Recall@5 を〇ポイント上げた
質問見られているポイント
一番成果が出たプロジェクトは?課題設定・ビジネスの指標・自分の役割
オフラインでは良かったのに本番で効かなかった経験は?原因の切り分け(リーク・ずれ・指標の選び方)と学び
失敗したモデル・中止したプロジェクトは?早く見切る判断・失敗を仕組みに変えたか
ML を使わないと判断したことは?ルールとの比較・費用対効果の感覚
PdM・事業部門と意見が対立したときは?データで合意を作る・相手の目的の理解
技術選定で迷ったときどう決めた?比較の軸・小さく試す・決めた理由の記録
本番のモデルで障害を起こした経験は?影響を止めた判断・再発防止
データの品質の問題にどう向き合った?上流との協力・検証の仕組み

経験の質問は、1つの答えに対して「なぜ」「あなたは」が3段階くらい続きます。エピソードごとに次の問いへの答えを用意しておきます。

深掘りの問い用意しておくこと
なぜその方法にしたのか比べた選択肢と、選ばなかった理由
あなたは具体的に何をしたのか自分が書いたコード・決めたこと・説得した相手
その数字はどう測ったのかA/B テストか前後比較か。他の要因との切り分け
うまくいかなかった点は想定外だったこと・やり直したこと
今ならどうするか学びを踏まえた改善案
カテゴリ質問の例アピールポイント
成果一番ビジネスに効いたモデルは?A/B テストで測った効果と金額
問題解決精度が上がらなかったときどうした?データ・ラベル・リークから切り分けた手順
本番・運用本番のモデルの劣化にどう気づいた?監視・アラート・再学習の仕組み
巻き込みデータエンジニアや PdM とどう進めた?相手の目的に合わせた指標の合意
判断ML を使わない・止めると決めたことは?費用対効果・リスクの見積もり
学び続ける最近学んだ技術をどう仕事に使った?小さく試して効果を測ったこと

各カテゴリに1つずつ用意します。数字(期間・件数・割合・金額)を必ず入れます。

カテゴリ状況・課題自分の行動結果(数字)関連する技術論点
モデルで成果を出した評価指標・A/B テスト
本番で効かなかった・失敗したリーク・学習と推論のずれ
データ・ラベルの改善ラベルの品質・能動学習
推論・基盤の改善レイテンシ・GPU の費用
MLOps・自動化パイプライン・評価ゲート
監視・障害対応ドリフト・ロールバック
LLM の機能RAG・評価・安全性
他職種との協業・対立指標の合意・説明可能性
項目伝え方
退職理由不満ではなく「やりたいことが今の環境ではできない」形にする(例:モデルを本番で運用するところまで担当したい)
志望動機応募先の事業・データ・課題に具体的に触れ、自分の経験がどう効くかをつなげる
一貫性これまでの経験 → 今の課題 → 応募先でやりたいこと、が1本の線になるように
ML ならではの点「どんなデータがあり、ML がどこで価値を出しているか」を調べてから話す

14.9逆質問の例

★★★ 必須
目的質問
ML の使われ方を知る本番で動いているモデルはいくつあり、どの指標で評価されていますか
成熟度を知る再学習とデプロイはどれくらい自動化されていますか。モデルの監視はどうしていますか
役割の範囲を知るデータエンジニア・データサイエンティスト・ML エンジニアの分担はどうなっていますか
データを知る学習に使えるデータとラベルはどう集めていますか
課題を知る今いちばん解決したい ML の課題は何ですか
期待値を知る入社後半年で期待される成果は何ですか
環境を知るGPU や LLM の API などの計算資源は、どう確保・管理していますか
場面注意点
オンライン画面共有・お絵描きの道具を事前に試す。設計面接で図を描けるようにする
話し方結論から。長くなりそうなら「3点あります」と先に言う
分からないとき前提を確認する・考えを声に出す・知らないことは知らないと言う
数字エピソードの数字は覚えておく。社外秘は「約」「〇割」でぼかす
時間設計面接は時間配分を意識し、全体を一通り終えてから深掘りする
最後逆質問を2〜3個。面接で話しきれなかった強みを一言添えてもよい

この章のまとめ

🖨 まとめシート(印刷・PDF)
  • エピソードは STAR で、必ず数字(ビジネスの指標)を入れる
  • 「なぜ」「あなたは何を」の深掘りに3段階まで答えられるようにする
  • 逆質問で、ML が本番でどう使われ、どう運用されているかを確かめる

この章のクイズ

面接ではこう聞かれる

まず答えを見ずに声に出して答え、そのあと開いて比べる。

Q1オフラインの評価は良かったのに、本番で効果が出なかった経験はありますか?

模範回答

例えば次のように話します(架空の例)。「解約の予測モデルで AUC は高かったのに、クーポンを送る A/B テストでは解約率に差が出ませんでした。予測のログと結果を突き合わせると、上位の人は何をしても解約する人が多く、クーポンでは止められないと分かりました。」

「そこで、予測する対象を『解約するか』から『クーポンで解約が減るか』に変え、過去のランダムな配布のデータで学習し直しました。再度のテストでは同じ配布数で解約率が下がりました。」のように、原因をどう切り分けたか(リーク・学習と推論のずれ・指標と目的のずれを順に確かめた)を具体的に話し、最後に「施策に使うモデルは効果で評価する」と仕組みにした学びで締めます。

深掘りされたら

  • リークや学習と推論のずれではないと、どう確かめましたか?

見られているポイント原因の切り分けの手順と、学びを仕組みにしたか

Q2PdM や事業部門と、指標や進め方で意見が対立したことはありますか?

模範回答

例えば(架空の例)、PdM は「クリック率が上がったので全員に出したい」、私は「購入率が下がっている」と意見が分かれたことがあります。まず相手の目的を確かめると、PdM の目標は回遊の増加でした。そこで、主な指標を何にするかを、売上につながる購入率に置き、クリック率は補助の指標にする案を、過去のテストの数字を見せながら提案しました。

結果として、購入率を落とさずにクリック率を上げる改良版を作ってもう一度テストすることで合意しました。ポイントは、どちらが正しいかを争うのではなく、事前に決める指標とガードレールをそろえる場を作ったことです。以後、テストの前に1枚の計画書で合意する手順をチームに入れました。

深掘りされたら

  • 相手が納得しなかったら、どうしていましたか?

見られているポイント相手の目的の理解・データで合意を作る・仕組み化

Q3ML を使わないと判断した経験はありますか?

模範回答

例えば(架空の例)、問い合わせの振り分けを ML で自動化したいという相談を受けたとき、まず今の振り分けを分析しました。全体の8割が、件名にある10個ほどのキーワードで正しく振り分けられると分かり、ラベル付きのデータもほとんどありませんでした。

そこで、まずルールで8割を自動化し、残りを人が振り分ける形を提案しました。ML を入れる場合の、ラベル付け・学習・監視の手間と、増える精度の見込みを比べた結果です。ルールで出したあと、人が振り分けた結果がラベルとして溜まったので、半年後に残りの2割に ML を使う判断をしました。ML ありきではなく、基準のやり方と費用対効果で決めたことを伝えます。

深掘りされたら

  • ルールで始めたことで、後から困ったことはありますか?

見られているポイントベースラインとの比較・費用対効果・段階的な判断

Q4LLM の API と自前のモデルのように、技術選定で迷ったときはどう決めましたか?

模範回答

例えば(架空の例)、問い合わせの分類に、LLM の API を使うか、自分たちで小さなモデルを学習するかで迷いました。比較の軸を、精度・1件あたりの費用・レイテンシ・データを外部に出せるか・運用の手間、と先に決め、同じ評価データで両方を小さく試しました。

結果は、精度は API がやや上、費用は月の件数では自前のモデルが1桁安く、レイテンシも自前が速い、でした。そこで、件数の多い分類は API の出力を教師にして小さなモデルを学習し(蒸留)、迷うものだけ API に回す形にしました。決めた理由と比べた数字は設計の記録に残し、件数や価格が変わったら見直す条件も書きました。

深掘りされたら

  • 評価データはどう作りましたか?
  • 見直す条件は何にしましたか?

見られているポイント比較の軸を先に決める・小さく試す・決定の記録

Q5なぜ当社で ML エンジニアとして働きたいのですか?

模範回答

応募先の事業とデータに具体的に触れ、自分の経験がどこで効くかをつなげて答えます。例えば(架空の例)、「御社の物流のサービスは、配送の記録という大量で質の高いデータがあり、需要予測や到着時間の予測が事業の費用に直結していると記事で知りました。私はこれまで需要予測のモデルを作り、本番の運用と監視まで担当してきたので、その経験を活かせると考えています。」

続けて、「今の職場では分析の試作で終わることが多く、モデルを本番で改善し続けるところまで担当したい、というのが転職の理由です」のように、退職理由と志望動機を1本の線にします。最後に、入社後に最初に取り組みたいこと(例:予測の監視の仕組みづくり)を一言添えると、具体的に考えていることが伝わります。

深掘りされたら

  • 当社の ML の課題は何だと思いますか?

見られているポイント事業とデータの理解・経験とのつながり・一貫性