Concepts and Architecture

Основные концепции и архитектура MLPanel помогают организовать работу на ML проектами и продуктами

Main Concepts

Panel (Project)

Panel - способ организовать работу команды DS/ML разработки. В различных бизнес контекстах и командах Panel может использовать для организации работы над:

• проектом по разработке AI/ML/DS решений - с четкими (или не очень) конечными целями, сроком, определенными ресурсами (скорее подойдет для больших компаний и исследовательских команд)

• продуктом с AI/ML/DS на борту (это скорее про стартапы)

• релизом большого IT продукта

Experimnent (Эксперимент)

ML эксперимент - набор подходов и процессов управления цепочкой преобразований данных для обучения обучения модели или проверки гипотез. Каждый эксперимент описывается конфигом и на выходе имеет определенные результаты - метрики и артефакты (в том числе обученную модель).

Run (Запуск)

Запуск (пайплайна) эксперимента с различными входными параметрами. Запись запуска состоит из параметров, метрик и артефактов.

Artifact (Артефакт)

Любой файл или папка, которые являются результатами эксперимента.

Registered Model (Зарегистрированная модель)

MLflow позволяет добавляет артефакты-модели в Model Registry. В результате создаются записи о моделях.

Зарегистрированная модель может иметь несколько версий. Версия модели хранит имя модели, номер версии, id запуска (Run) и путь к модели.

Версии одной и той же модели могут ссылаться на артефакты-модели разных экспериментов

Deployment (Деплоймент)

Экземпляр "развернутой" модели виде web-сервиса или batch job.

Типы деплойментов:

• local - модель развернута локально в отдельном docker контейнере или как sub-процесс

• gcp - развертывание инстансе на Google Cloud Platform (GCP)

• remote - развертывание на удаленном сервере

Architecture

При разработке и развитии MLPanel мы стараемся придерживаться следующих принципов

• интеграция проверенных Open Source инструментов для ML разработки и MLOps

• минимальный порог входа

• пользователи могут работать как локально, на своих ноутбуках, так запустить MLPanel на удаленном севере для одновременной работы нескольких команд

• минимальный набор функционала для автоматизации жизненного цикла модели (Model Life Cycle)

• обеспечение воспроизводимости (reproducibility) и автоматизации развертывания решений (MLOps)

При этом, мы работаем над тем, чтобы обеспечить минимальный порог входа для новых пользователей и развивать удобные для работы интерфейсы

Архитектура MLPanel

MLOps with MLPanel workflow

MLPanel может помочь в автоматизации развертывания ML решений для запуска моделей машинного обучения в виде web сервисов (через REST API) либо как job (Spark, Airflow) для генерации прогнозов в режиме batch