Kubernetes環境でMLOpsを実現する ～OpenShift AIのWorkbenchとモデルサービング～

AIモデルの開発からデプロイ、運用・監視までの一連の流れを自動化・効率化するMLOpsへの関心が高まっています。MLOpsを実現するためのプラットフォームはさまざまありますが、その一つとしてRed Hat OpenShift AIがあります。OpenShift AIはコンテナプラットフォームであるOpenShiftクラスター上に構築され、機械学習モデルの開発・学習・提供・監視を一気通貫で行うための機能を提供します。 本セミナーでは、OpenShift AIが提供する機能のうち、「Workbench」と「モデルサービング」の2つを取り上げます。WorkbenchはJupyterLabなどのIDEをGPUリソースとともに起動できる専用の開発環境です。モデルサービングは、学習済みモデルをS3ストレージ経由でAPIエンドポイントとして公開し、アプリケーションから推論を呼び出せるようにする仕組みです。 後半のデモでは、WorkbenchでGPU付きのJupyterLab環境を立ち上げてAIモデルを学習し、そのAIモデルをモデルサービングを使ってAPIとして公開するまでの一連の流れを実際に操作しながらご紹介します。