【机器学习】使用MLflow管理机器学习模型版本

作者 | Àlex Escolà Nixon

编译 | VK

来源 | Towards Data Science

在机器学习项目中工作通常需要大量的实验，例如尝试不同的模型、特征、不同的编码方法等。

我们都遇到过一个非常常见的问题，就是改变模型中的一些设置或参数，并意识到我们之前的运行可能会产生更好的结果。我们可以回到过去并不容易。或者由于其他原因，我们的可追溯性可能会发生变化，或者因为其他原因，我们的模型会发生变化。

这就是MLflow发挥作用的地方，在我们的机器学习生命周期中带来可追溯性和可再现性。

在这篇文章中，我将向你展示如何在本地设置MLflow以及使用PostgreSQL注册模型和管理端到端机器学习生命周期的数据库备份存储。

另外，在这里有一个笔记本，上面有所有的代码和解释：https://github.com/AlexanderNixon/Machine-learning-reads/blob/master/Model_versioning_with_MLflow.ipynb

介绍

MLflow提供了四个主要组件：跟踪、项目、模型和注册表。在这篇文章中，我们将关注所有组件。项目，这是一个用于打包数据科学代码的更通用的工具思想。而下面简要概述了其他组件的目标：

• MLflow跟踪：记录和查询实验：代码、数据、配置和结果
• MLflow模型：在不同的服务环境中记录和部署机器学习模型
• 模型注册表：在中央存储库中存储、注释、发现和管理模型

换句话说，「MLflow跟踪」将允许我们记录模型运行的所有参数、指标等。

我们将使用「MLflow模型」来记录给定的模型（尽管这个组件也用于部署ML模型）。而「模型注册表」可以对现有模型进行“版本化”，将它们从发布过渡到生产，并更好地管理ML项目的生命周期。

模型注册表，需要为要存储的所有数据设置一个数据库。在后端存储区中说明：

❝为了使用模型注册表功能，必须使用支持的数据库来运行服务器 ❞

我们可以在本地文件中记录所有的度量和模型，但是如果我们想利用MLflow的模型注册表组件，我们需要建立一个数据库。

在本文中，我们将学习如何：

• 设置本地postgreSQL数据库作为MLflow的后端存储
• 创建MLflow实验并跟踪参数、度量和其他
• 注册模型，允许阶段转换和模型版本控制

安装程序

我将使用WSL来处理一个Ubuntu终端环境，这将使后端存储的设置更加容易，conda将创建一个具有我们所需依赖关系的环境。

让我们先用python 3.8创建一个环境，以及我们将要使用的一些基本依赖项：

conda create --name mlflow python==3.8 matplotlib scikit-learn

然后通过conda安装postgresql：

conda install -y -c conda-forge postgresql

设置postgreSQL

然后，我们需要做的第一件事是通过initdb创建一个新的PostgreSQL数据库集群，并使用以下命令启动de database server：

initdb
pg_ctl -D /home/<your user>/pgdata -l logfile start

现在我们将使用psql来启动PostgreSQL交互终端。我们可以通过访问postgres数据库来完成此操作，该数据库已在安装中提供：

psql --dbname postgres

我们需要指定一些现有的数据库（例如postgres），因为默认情况下psql将尝试连接到与你的用户同名的数据库，由于它不存在，它将返回一个错误。

进入交互终端后，为mlflow创建一个新的数据库，以存储所有注册的模型：

postgres=# CREATE DATABASE mlflow_db;

并添加新的用户和密码以在访问数据库时进行身份验证：

CREATE USER mlflow WITH ENCRYPTED PASSWORD 'mlflow';
GRANT ALL PRIVILEGES ON DATABASE mlflow_db TO mlflow;

我们可以看到，用户已正确创建为：

postgres=# \du

我们还可以检查数据库是否已正确创建，并且用户mlflow可以访问：

\list

如果一切正常，现在可以退出控制台：

postgres=# \q

「postgreSQL中到底有哪些内容？」

我们建立的本地数据库将包含与我们注册的模型相关的数据。我们可以通过使用psql--dbname mlflow_db连接到数据库来查看其内容。然后，我们可以使用\dt查看MLflow正在创建的表：

例如，params表包含注册模型版本的所有生成参数：

MLflow

现在是时候开始MLflow了。让我们从pip安装mlflow和psycolpg2开始，这是一个针对Python的PostgreSQL适配器，我们将需要：

pip install mlflow
pip install psycopg2-binary

并为MLflow创建一个目录，以存储每次运行中生成的所有文件：

mkdir ~/mlruns

现在一切都准备好运行MLflow跟踪服务器了！为此，运行mlflow server，将postgreSQL指定为--backend-store-uri，其格式通常为<dialect>+<driver>://<username><password>@<host>:<post>/<database>，以及--default-artifact-root，其中包含我们创建mlruns文件夹的路径：

mlflow server --backend-store-uri postgresql://mlflow:mlflow@localhost/mlflow_db --default-artifact-root file:/home/<your user>/mlruns -h 0.0.0.0 -p 8000

你应该会看到这样的东西：

现在可以访问指定地址中的MLflow UIhttp://localhost:8000，并应看到：

请注意，有两个主要部分：

• 实验：你将保存你的不同的“项目”
• 模型：包含所有已注册的模型（下一节将对此进行详细说明）

请注意，每个实验都与一个实验ID相关联，这一点很重要，因为MLflow将在mlruns下创建一个新的文件夹，其中包含每次运行中生成的模型和工件。

在讨论MLflow的跟踪和模型组件的一些示例之前，让我们先用我们创建的环境设置一个笔记本。

Jupyter笔记本设置

如果还没有安装jupyter，我们首先需要在环境中安装jupyter：

conda install jupyter

设置——没有浏览器会阻止浏览器在笔记本被服务后自动打开，如果通过WSL执行，则会引发错误。

jupyter notebook --port=8889 --no-browser

现在复制指定的url，其格式为http://localhost:8889/?token=<some token>。进入浏览器并创建一个笔记本。你会注意到你创建的conda环境不能作为内核使用。为此，你必须先安装它。运行：

sudo /home/<your user>/anaconda3/envs/mlflow_training/bin/python -m ipykernel install --name mlflow

如果你现在刷新笔记本，你应该可以看到环境。

登录MLflow

要开始登录MLflow，你需要将MLflow_TRACKING_URI环境变量设置为MLflow正在服务的跟踪操作系统环境os.environ['MLFLOW_TRACKING_URI'] = 'http://localhost:8000/'。

让我们创建一个虚拟示例，将DecisionTreeClassifier拟合到iris数据集：

from matplotlib import pyplot as plt
from sklearn.datasets import load_iris
from sklearn.model_selection import train_test_split
from sklearn.tree import DecisionTreeClassifier, plot_tree, export_graphviz
from sklearn.metrics import accuracy_score
import os

os.environ['MLFLOW_TRACKING_URI'] = 'http://localhost:8000/'

# 加载iris数据集
X, y = load_iris(return_X_y=True)
X_train, X_test, y_train, y_test = train_test_split(X, y, train_size=.3)

# 分类器的拟合与测试
dt_params = {'max_depth': 5, 'max_features': 'sqrt', 'min_samples_split':6}
dt = DecisionTreeClassifier(**dt_params)
dt.fit(X_train, y_train)
y_pred = dt.predict(X_test)
acc = accuracy_score(y_test, y_pred).round(3)

# 保存
plt.figure(figsize=(10,10))
t = plot_tree(dt,
              feature_names=['sepal length', 'sepal width', 'petal length', 'petal width'],
              class_names=load_iris()['target_names'],
              filled=True,
              label='all',
              rounded=True)
tree_plot_path = "dtree.jpg"
plt.savefig(tree_plot_path)

现在让我们创建一个MLflow实验，并记录模型、其参数和我们获得的度量：

import mlflow

mlflow.set_experiment('DecisionTreeClassifier')

with mlflow.start_run(run_name='basic parameters'):
    mlflow.sklearn.log_model(sk_model=dt,
                             artifact_path='',
                             registered_model_name='tree_model')
    mlflow.log_params(dt_params)
    mlflow.log_metric('Accuracy', acc)
    mlflow.log_artifact(tree_plot_path, artifact_path='plots')

使用with语句，我们记录的所有内容都将与同一次运行相关，并且一旦退出子句，就结束MLflow。

MLflow有一组内置的模型风格，这正是我们在这里通过mlflow.sklearn.log_model注销scikit-learn模型所使用的风格。在部署这些模型时，这很方便，因为MLflow为每种风格添加了许多专门考虑的工具。

注意，除了将上述所有内容记录到运行中，我们还将这个模型注册为一个新版本(如果它不存在，它将创建这个模型和一个0版本)，因为我们在mlflow.sklearn.log_model中使用了参数registered_model_name。

首先让我们看看记录的运行在UI中是什么样子：

现在，你将在创建的决策树分类器实验中看到一个新的运行，其中包含所有记录的信息。我们可以通过单击“开始时间”下的实际运行来查看更多详细信息。在这里，我们将看到有关参数和指标的更多信息：

以及其他一些字段，如日志记录、自动生成的conda环境（如果我们想部署模型，则非常有用）和序列化模型：

MLflow模型

在“模型”部分，你将找到已注册的所有模型。通过选择其中一个，本例中的tree_model，你将看到该模型的所有现有版本。请注意，每次以相同的名称注册新模型时，都会创建一个新版本。

一旦运行了一些已注册的模型，你将得到如下内容：

通过选择特定模型并单击“阶段”部分，可以将模型从一个阶段过渡到另一个阶段：

在一篇文章中，这些知识可能已经足够了：）

在下一篇文章中，我将向你展示使用MLflow的一些更高级的示例，展示它的一些其他特性，例如自动日志记录，或者如何为注册的模型提供服务。

非常感谢你抽出时间阅读这篇文章。