データの取得から学習・評価・登録・デプロイまでを自動で流す。
ML パイプラインは、データの取得 → 前処理・特徴量 → 学習 → 評価 → モデルの登録 → デプロイまでを、手作業ではなく決まった手順として自動で流す仕組みです。ノートブックで手で動かしていると、誰がいつどのデータで作ったモデルなのか分からなくなり、再学習のたびにミスが起きます。各段階を独立した処理(コンテナなど)にし、入力と出力を記録しておくと、途中からやり直したり、同じ結果を再現したりできます。
| 道具 | 特徴 |
|---|---|
| Kubeflow Pipelines | Kubernetes の上で動くオープンソース。自前のクラスタで細かく制御したいとき |
| Vertex AI Pipelines | Google Cloud のマネージドサービス。Kubeflow Pipelines と同じ書き方で、クラスタの管理が要らない |
| SageMaker Pipelines | AWS のマネージドサービス。SageMaker の学習・モデルレジストリとつながる |
| Airflow・Dagster・Prefect など | 汎用のワークフローの道具。データの処理と一緒に ML の処理も流せる |
どれを選ぶかは、すでに使っているクラウドやデータ基盤に合わせるのが基本です。小さく始めるなら、定期実行のジョブと実験管理の道具の組み合わせでも十分です。
面接ではこう答える
ML パイプラインは、データの取得、前処理と特徴量、学習、評価、モデルの登録、デプロイまでを、手作業ではなく決まった手順として自動で流す仕組みです。ノートブックで手で動かしていると、誰がいつどのデータで作ったモデルか分からなくなり、再学習のたびにミスが起きます。各段階を独立した処理にして入力と出力を記録しておけば、途中からやり直したり再現したりできます。道具は、すでに使っているクラウドやデータ基盤に合わせて選びます。
MLとの関わり再学習を安全にくり返すための土台で、ML エンジニアが本番を持つときに最初に整える仕組みです。