Ai Engineer (Java)

Задачи

• Проектировать и разрабатывать LLM-сервис на Java с единым API для нескольких продуктов, включая чат игроков платформы и центр помощи
• Разрабатывать пайплайны обработки базы знаний: парсинг источников, чанкинг, генерация эмбеддингов, инкрементальная переиндексация и версионирование данных
• Развивать RAG и семантический поиск: гибридный поиск (векторный + BM25), реранкинг, генерацию ответов со ссылками на источники и поддержку мультиязычных запросов
• Внедрять guardrails: защиту от prompt injection, маскирование персональных данных, ограничения ответов рамками базы знаний и соблюдение требований iGaming, включая ответственную игру, верификацию и выплаты
• Реализовывать передачу диалогов операторам и интеграцию AI-ассистента с внутренними сервисами через tool calling и structured output
• Разрабатывать систему оценки качества LLM: golden datasets, автоматические evals (LLM-as-judge, faithfulness, answer relevance) и регрессионное тестирование при изменениях моделей, промптов и поисковых индексов
• Оптимизировать производительность и стоимость LLM-сервисов: семантическое кеширование, выбор моделей под тип запроса, контроль latency и расхода токенов
• Настраивать мониторинг и наблюдаемость LLM-систем в production: трейсинг вызовов, дашборды качества и бизнес-метрики, включая долю обращений, решенных без оператора, частоту эскалаций и CSAT

Требования

• От 4 лет опыта backend-разработки на Java, уверенное владение Java 17+, Spring Boot, REST/gRPC, Kafka или RabbitMQ, PostgreSQL, Redis, Docker и Kubernetes
• Опыт вывода как минимум одного LLM-продукта в production с реальными пользователями и готовность рассказать о его архитектуре, нагрузке и метриках качества
• Практический опыт построения RAG-систем: стратегии чанкинга, подбор embedding-моделей, гибридный поиск и реранкинг
• Умение диагностировать проблемы качества LLM-ответов и определять их источник: retrieval, промпт или модель
• Опыт работы с векторными хранилищами: pgvector, Qdrant, OpenSearch/Elasticsearch kNN или аналогичными решениями
• Опыт интеграции с API LLM-провайдеров (OpenAI, Anthropic, Azure OpenAI и др.): tool/function calling, structured output, streaming, retries, fallback и rate limiting
• Навыки количественной оценки качества LLM-систем с использованием собственных eval-наборов, Ragas, promptfoo, DeepEval или аналогичных инструментов
• Сильные инженерные практики: автоматизированное тестирование, CI/CD, код-ревью, логирование, мониторинг и ответственность за стабильность сервисов в production
• Будет преимуществом опыт работы со Spring AI или LangChain4j, понимание Python-экосистемы LLM (LangChain, LlamaIndex) и умение адаптировать решения под Java; опыт работы с инструментами LLM-observability: Langfuse, Arize Phoenix, OpenTelemetry; практический опыт семантического кеширования и оптимизации стоимости LLM inference; опыт разработки мультиязычных AI-ассистентов и поиска по базам знаний на нескольких языках

Бенефиты

• Highload-продукты, обрабатывающие десятки тысяч запросов в секунду и работающие на аудиторию 100M+ пользователей по всему миру
• Медицинская страховка в странах присутствия компании
• Годовой бюджет $2 000 после испытательного срока на медицинское страхование, изучение языков и занятия спортом
• Частичная компенсация профессионального обучения, курсов и участия в профильных конференциях
• Доступ к корпоративной электронной библиотеке
• Еженедельные онлайн-консультации с психологом за счет компании
• Возможность релокации в страны присутствия офисов компании с релокационной поддержкой после ИС