Политика конфиденциальностиПравила и условия
Background

MLOps Engineer

Гибрид
IT & Data Development
Откликнуться

Задачи

  1. MLOps и ML-платформа
  • Проектировать, развивать и поддерживать ML-платформу, автоматизируя полный жизненный цикл моделей: от обучения и валидации до развёртывания, мониторинга и переобучения
  • Развивать AutoML-инфраструктуру: автоматизировать эксперименты, подбор гиперпараметров, сравнение моделей и их продвижение из staging в production
  • Внедрять и поддерживать MLflow или аналогичные инструменты для трекинга экспериментов, версионирования моделей и обеспечения воспроизводимости результатов
  • Проектировать и развивать Feature Store с онлайн- и офлайн-хранилищами, обеспечивая point-in-time корректность данных и согласованность признаков при обучении
  • Автоматизировать пайплайны обучения, переобучения и скоринга с помощью Airflow и других инструментов оркестрации, поддерживать batch scoring и real-time inference
  • Выстраивать CI/CD для ML: автоматизировать тестирование данных и моделей, проверки качества, безопасное развёртывание и откат изменений
  • Настраивать мониторинг ML-систем в production: доступность, latency, throughput, использование ресурсов, data drift, concept drift и качество моделей
  • Обеспечивать контейнеризацию, масштабирование и отказоустойчивость ML-сервисов с использованием Docker и Kubernetes
  • Развивать Infrastructure as Code (IaC), управлять конфигурациями, секретами и доступами с помощью Terraform, Ansible, Vault и аналогичных инструментов
  • Совместно с Data Engineering интегрировать ML-платформу с ClickHouse, Kafka, PostgreSQL, Redis и другими компонентами инфраструктуры данных
  • Разрабатывать стандарты MLOps, шаблоны пайплайнов и инструменты для упрощения работы команд Data Science и ML Engineering

  1. LLMOps и инфраструктура LLM
  • Развивать инфраструктуру для развёртывания и эксплуатации LLM-сервисов, включая управление окружениями, конфигурациями и версиями моделей
  • Настраивать и оптимизировать LLM inference с помощью vLLM, Ollama и аналогичных решений, управляя GPU-ресурсами, batching, latency, throughput и использованием памяти
  • Организовывать единый API-доступ к LLM через LiteLLM или аналоги, настраивать маршрутизацию запросов, fallback-механизмы и контроль использования моделей
  • Интегрировать LLM-сервисы с внутренними приложениями и платформами, включая Onyx
  • Автоматизировать развёртывание и обновление LLM-сервисов, обеспечивать воспроизводимость конфигураций и управляемый выпуск изменений
  • Настраивать мониторинг LLM-инфраструктуры, оптимизировать производительность, стоимость инференса, масштабирование и отказоустойчивость
  • При необходимости интегрировать LLM-сервисы с существующими ML-пайплайнами

Требования

  • Практический опыт построения или эксплуатации MLOps-инфраструктуры и ML-платформ
  • Уверенное владение Python и Linux, опыт автоматизации инфраструктурных задач и разработки сервисных компонентов
  • Опыт работы с Docker и понимание принципов Kubernetes и оркестрации контейнеров
  • Опыт построения CI/CD-пайплайнов и управления инфраструктурой с помощью Terraform, Ansible или аналогичных инструментов
  • Понимание полного жизненного цикла ML-моделей: обучение, валидация, регистрация, развёртывание, мониторинг и переобучение
  • Опыт работы с MLflow, Airflow, Feature Store или аналогичными решениями
  • Навыки мониторинга, логирования, алертинга и диагностики production-систем
  • Понимание batch scoring и real-time inference
  • Опыт интеграции сервисов с брокерами сообщений и аналитическими хранилищами данных
  • Опыт разработки AutoML-платформ и автоматизации экспериментов с помощью Optuna или Ray Tune
  • Практический опыт эксплуатации LLM и построения LLMOps-инфраструктуры
  • Опыт работы с vLLM, Ollama, LiteLLM, Ray или аналогичными инструментами
  • Опыт управления GPU-инфраструктурой и оптимизации LLM inference
  • Опыт работы с Feast или другими Feature Store
  • Опыт мониторинга data drift, concept drift и качества ML-моделей в production

Бенефиты

  • Highload-продукты, обрабатывающие десятки тысяч запросов в секунду и работающие на аудиторию 100M+ пользователей по всему миру
  • Медицинская страховка в странах присутствия компании
  • Годовой бюджет $2 000 после испытательного срока на медицинское страхование, изучение языков и занятия спортом
  • Частичная компенсация профессионального обучения, курсов и участия в профильных конференциях
  • Доступ к корпоративной электронной библиотеке
  • Еженедельные онлайн-консультации с психологом за счет компании
  • Возможность релокации в страны присутствия офисов компании с релокационной поддержкой после ИС