工具平台对MLOps技术实践的支持

在【AI工程】02-AI工程（AI Engineering）面面观中，提到Gartner把AI工程化作为未来重要战略技术趋势，Gartner认为AI工程主要由DataOps、MLOps和DevOps三部分核心技术组成，其目标是通过跨职能协作、自动化、快速反馈等方法，来缩短数据分析、机器学习和应用部署上线的周期，从而让AI模型快速、持续地提供业务价值。开发者基于传统的工具平台很难实现MLOps等AI工程领域的实践，需要新的工具来完成对MLOps等技术实践的支持。

Kubeflow是一个基于K8S的机器学习平台，为开发者提供了从实验（Notebook）、训练（MLOps流水线）、调优以及部署、监控的端到端能力，也是当前排名第一的开源MlOps工具。

Kubeflow本身也是由一系列的开源工具组成，从它的架构图中不难看出，Kubeflow主要提供三部分能力：

ML工具：主流开源框架支持，如Tensorflow，PyTorch等。

Kubeflow应用及脚手架工具：

(1). jupyter Notebook：开箱即用的Notebook，支持多AI框架。

(2). 分布式训练：支持Tensorflow、PyTorch等多框架的分布式训练（参数服务器形式）。

(3). 流水线管理：基于Argo的工作流管理，提供训练流水线管理能力。

(4). 镜像构建：将训练、notebook代码打包，以支持训练及部署任务。

(5). Serving部署：支持多AI框架的部署。

3.周边配套：支持三方部署、监控等能力。

Canonical公司（Ubuntude发行商）在Kubeflow的基础上，包装了Charmed Kubeflow项目，提供构成KubeFlow最新版本的30多个应用程序和服务，并且让Kubeflow的部署更快，更简单。

在最新的1.6版本中，Charmed Kubeflow的Notebook原生支持了MindSpore，下面我们来看下如何基于Charmed Kubeflow 快速启动支持MindSpore的Notebook。

安装Charmed Kubeflow

要安装Kubeflow，首先得准备好K8S集群，然后通过juju这个运维管理工具安装Charmed Kubeflow。

通过MicroK8S工具部署K8S集群

Canonical提供了一个和Minikube类似的工具MicroK8S，通过Snap工具可以快速完成其安装。

在Ubuntu 20.04系统上执行如下命令：

sudo snap install microk8s --classic --channel=1.22/stable

安装完成后，为了方便使用，可以将当前的用户加入到microk8s的用户组中。

sudo usermod -a -G microk8s $USER
newgrp microk8s

确认用户可以访问kubectl的配置文件。

sudo chown -f -R $USER ~/.kube

MicroK8s在安装的时候就会启动，为了运行kubeflow，我们还需要一些额外的能力，比如DNS（服务发现）、存储、ingress（负载均衡），MicroK8S可以以插件的形式快速的添加这些能力

microk8s enable dns storage ingress metallb:10.64.140.43-10.64.140.49

整个安装需要花费一点时间，通过microk8s status --wait-ready可以确认MicroK8S是否安装成功。

microk8s is running
high-availability: no
  datastore master nodes: 127.0.0.1:19001
  datastore standby nodes: none
……

MicroK8S提供了kubectl命令，但是每次都需要在命令行输入microk8s kubectl，可以考虑增加一个别名alias kubectl='microk8s kubectl'方便使用，其次，如果集群的配置信息没有写到~/.kube/中，可以通过microk8s config > ~/.kube/config完成覆写。

通过juju安装Charmed Kubeflow

Charmed Operator Lifecycle Manager (OLM)是一个应用（以特殊格式封装，称为Charm Operator）编排的平台，它可以方便的管理混合云中部署在虚机、K8S集群、裸机上的应用，对应用进行安装、配置、维护及更新。Canonical提供了这样的OLM框架，名为Juju，同时也提供了juju这个同名的命令行工具。

首先，我们使用sudo snap install juju --classic命令安装juju。其次，通过juju bootstrap microk8s在MicroK8S部署好的集群上安装juju的controller，作为juju在集群中的代理，管理Kubeflow应用。最后为juju在集群上添加kubeflow的命名空间juju add-model kubeflow。

接下来，通过juju deploy kubeflow-lite --trust命令即可完成kubeflow的安装，通过watch -c juju status --color可以看到kubeflow组件准备状态。

最后，通过juju refresh jupyter-ui --channel=latest/edge命令确保jupyter-ui更新到最新的版本，包含MindSpore的Notebook镜像。

配置kubeflow

Kubeflow安装完成后需要做下简单的配置才能访问。首先配置访问的地址：

juju config dex-auth public-url=http://10.64.140.43.nip.io
juju config oidc-gatekeeper public-url=http://10.64.140.43.nip.io

然后配置访问的用户名和密码：

juju config dex-auth static-username=admin
juju config dex-auth static-password=ucantseeme

接下来在浏览器中输入http://10.64.140.43.nip.io，以及刚设置的用户密码，就可以看到Kubeflow完整的Dashboard了。

运行支持MindSpore的Notebook

在Kubeflow上运行Notebook非常简单。在Notebook tab选择创建notebook，输入notebook名称MindSpore，镜像选择jupyterlab，在列表中使用mindspore/jupyter-mindspore这个镜像，然后分配合适的CPU和内容资源，点击创建即可。

在Notebook界面很快就可以看到创建完成的提示。

点击Connect，我们就可以在另一个浏览器tab页打开notebook了。这里我们可以使用MindSpore官网现成的notebook，通过notebook页面将这个手写数字识别的notebook上传上去。

点击执行，就可以看到这个notebook直接运行起来了，不用额外的去安装MindSpore以及Vision套件。

总结

这是MindSpore和Charmed Kubeflow集成的第一步，后续我们还将持续的把MindSpore更多能力集成到Charmed Kubeflow中，方便开发者能在MlOps平台上更方便的使用MindSpore。

审核编辑：彭静