Examples

Примеры использования сервиса.

Settings

Для запуска примеров необходимо предварительно создать Project через интерфейс MLPanel.

Также потребуется скопировать MLFLOW_TRACKING_URI для настроек трекинга метрик и артефактов в экспериментах примеров.

# tracking server URI
MLFLOW_TRACKING_URI=https://<host>:<port>

Для версии Cloud, где используется авторизация пользователей и использования протокола HTTPS дополнительно требуется указать:

# authorization token
MLFLOW_TRACKING_TOKEN=<token>

# turn off ssl sertificate verification (to avoid errors with self-signed sertificates)
MLFLOW_TRACKING_INSECURE_TLS=true

Детальное описание этих и других настроек в разделе Configuration

Example 1 - Local project with Jupyter Notebook

В этом примере

• код пайплайна обучения модели в Jupyter Notebook

• как создать проект, эксперимент

• логирование метрик, моделей и артефактов для нескольких экспериментов

Репозиторий: https://github.com/mlrepa/mlpanel-examples

Папка примера: example-1-local-project-jupyter/

1. Config & Run

1) Установить и запустить локально MLPanel

2) Создайте новый проект MLPanel

3) Запустить код Example 1

# клонировать репозиторий 
git clone ....

# перейти в папку example-1-local-project-jupyter
cd example-1-local-project-jupyter 

4) Запустить докер контейнер с JupyterLab

sh start.sh

2. Run Experiments

1) Перейдите по ссылке http://0.0.0.0:8888/

2) Следуйте инструкциям в ноутбуках - обучить модель, оценить качество, логировать метрики и артефакты в MLPanel

3. Register models

• после того, как модели экспериментов сохранены в MLPanel, их можно зарегистрировать в Model Registry

4. Deploy (local)

• зарегистрированные модели можно развернуть в виде веб сервиса

• в базовом режим веб сервис с моделью запускается локально, внутри контейнера mlpanel-deploy

• запущенный веб сервис имеет API метод: /predict к которому можно направить запрос для получения прогноза

Example 2 - Local project with .py pipelines

В этом примере

• код пайплайна обучения модели в .py пайплайне

• трекинг метрик и артефактов

• регистрация модели в Model Registry

• деплой local

• получение прогнозов модели через API

Инструкции запуска аналогичны описанном в примере Example 2

Репозиторий: https://github.com/mlrepa/mlpanel-examples

Папка примера: example-2-local-project-py/

Example 3 - Deploy model as web service with GCP

В этом примере

• конфигурация MLPanel для работы с GCP

• Google Storage - для сохранения метрик, моделей и артефактов

• Google Engine - для развертывания веб сервиса с моделью

• API /predict для получения прогнозов

Репозиторий: https://github.com/mlrepa/mlpanel-examples

Папка примера: example-3-local-project-gcp-storage/

1. Create account on GCP and prepare GOOGLE_APPLICATION_CREDENTIALS_JSON

2. Install MLPanel with Base-GCP config

3. Run experiments & register model

4. Deploy to GCP

To call API /predict in example Jupyter Notebook:

• specify a deployment IP on GCP instance

Troubleshooting

ConnectionRefusedError: [Errno 111] Connection refused

Когда статус проекта Terminated

то, при запуске эксперимента появится ошибка ConnectionRefusedError: [Errno 111] Connection refused

"""
Traceback (most recent call last):
  File "/opt/conda/lib/python3.7/site-packages/urllib3/connection.py", line 160, in _new_conn
    (self._dns_host, self.port), self.timeout, **extra_kw
  File "/opt/conda/lib/python3.7/site-packages/urllib3/util/connection.py", line 84, in create_connection
    raise err
  File "/opt/conda/lib/python3.7/site-packages/urllib3/util/connection.py", line 74, in create_connection
    sock.connect(sa)
ConnectionRefusedError: [Errno 111] Connection refused

...

requests.exceptions.ConnectionError: HTTPConnectionPool(host='projects', port=5001): 
Max retries exceeded with url: /api/2.0/mlflow/experiments/get-by-name?experiment_name=example-2-local-project-py (
Caused by NewConnectionError('<urllib3.connection.HTTPConnection object at 0x7efd3e99a650>: Failed to establish a new connection: [Errno 111] Connection refused'))


"""

Решение: запустить проект (MLflow Tracking Server)

Workspace DB outdated schema leads to 'Error 500'

If database schema is updated, but you local tracking database is old, you'll show error message (with code 500) on any request:

{
  "message": "Bad (obsolete) table project schema, missing columns: {'path', 'id', 'created_at'}. Remove content of workspace/ and rerun application", 
  "status": "fail"
}

Just remove old database version in folder workspace or better remove all folder content.