Пример развертывания ML модели в Docker с использованием Flask (REST API) + масштабирование нагрузки через Nginx балансер https://habr.com/ru/post/548910/
