Описание
Что мы предлагаем
Возможность влиять на архитектуру и развитие AI-направления.
Работу над реальными продуктами и задачами с измеримым бизнес-эффектом.
Современный технологический стек и возможность тестировать новые AI-подходы.
Профессиональную команду и культуру открытого обмена знаниями.
Возможность развивать команду AI-инженеров и участвовать в принятии стратегических решений.
Конкурентную заработную плату по результатам интервью.
Гибкий формат работы: офис, гибрид или удаленная работа.
Возможности профессионального развития, обучения и участия в международных проектах
Обязанности
# Senior LLM Engineer / Старший инженер по большим языковым моделям
Мы ищем Senior LLM Engineer, который будет отвечать за проектирование, разработку и внедрение решений на базе больших языковых моделей. Специалист будет работать над созданием интеллектуальных AI-функций, интеграцией LLM в продукты компании, повышением качества ответов моделей и построением масштабируемой инфраструктуры для эксплуатации AI-решений.
## Основные задачи
* Проектировать и разрабатывать production-ready решения на базе LLM.
* Интегрировать языковые модели в веб-сервисы, мобильные приложения и внутренние системы компании.
* Разрабатывать RAG-системы для работы с корпоративными документами и базами знаний.
* Создавать AI-агентов и многошаговые сценарии взаимодействия с внешними инструментами и API.
* Настраивать prompt engineering, structured output и function calling.
* Проводить fine-tuning и адаптацию моделей под конкретные бизнес-задачи.
* Разрабатывать механизмы обработки, очистки, разметки и индексации данных.
* Выбирать подходящие LLM, embedding-модели, reranker-модели и векторные базы данных.
* Создавать систему оценки качества LLM-решений: offline- и online-метрики, тестовые наборы и автоматические проверки.
* Снижать количество галлюцинаций, повышать точность, безопасность и воспроизводимость ответов.
* Оптимизировать скорость обработки запросов, стоимость inference и использование вычислительных ресурсов.
* Настраивать мониторинг качества моделей, latency, token usage, ошибок и стоимости запросов.
* Участвовать в проектировании AI-архитектуры и принятии технических решений.
* Проводить code review и поддерживать высокие стандарты разработки.
* Менторить AI/ML-инженеров и помогать команде развивать экспертизу в области LLM.
* Взаимодействовать с Product Manager, Backend, Data, DevOps, QA и бизнес-командами.
## Обязательные требования
* От 4–5 лет опыта в Software Engineering, Machine Learning или Data Science.
* Практический опыт разработки и запуска LLM-решений в production.
* Уверенное владение Python.
* Хорошее знание FastAPI, Flask или аналогичных backend-фреймворков.
* Опыт работы с LLM API и open-source моделями.
* Понимание архитектуры Transformer, механизмов attention, tokenization и embeddings.
* Практический опыт разработки RAG-пайплайнов.
* Опыт работы с LangChain, LlamaIndex, Haystack или аналогичными инструментами.
* Опыт работы с векторными базами данных: pgvector, Pinecone, Weaviate, Milvus, Qdrant или аналогами.
* Знание методов semantic search, hybrid search, reranking и chunking.
* Опыт работы с PyTorch и экосистемой Hugging Face.
* Понимание подходов fine-tuning, LoRA, QLoRA и model quantization.
* Опыт разработки и интеграции REST API.
* Знание SQL и опыт работы с PostgreSQL или другими базами данных.
* Опыт контейнеризации с использованием Docker.
* Опыт работы с облачной инфраструктурой AWS, Google Cloud или Microsoft Azure.
* Понимание принципов MLOps, CI/CD, мониторинга и версионирования моделей.
* Умение проектировать надежные, безопасные и масштабируемые системы.
* Английский язык на уровне, достаточном для работы с технической документацией и международными командами.
## Будет преимуществом
* Опыт разработки AI-агентов и multi-agent систем.
* Опыт работы с multimodal-моделями.
* Опыт эксплуатации собственных моделей через vLLM, TGI или аналогичные inference-сервисы.
* Знание Kubernetes.
* Опыт работы с MLflow, Weights & Biases или аналогичными платформами.
* Понимание GPU-инфраструктуры и оптимизации inference.
* Опыт построения систем защиты от prompt injection и утечек конфиденциальных данных.
* Опыт работы с персональными или финансовыми данными.
* Знание требований к информационной безопасности и ответственному использованию AI.
* Опыт технического лидерства и менторинга инженеров.
* Опыт работы в финтехе, банкинге, EdTech или других регулируемых отраслях.
## Ожидаемые результаты
В первые месяцы работы специалист должен:
* провести аудит существующей AI-архитектуры и используемых моделей;
* определить технические стандарты разработки LLM-решений;
* подготовить архитектуру ключевых AI-компонентов;
* внедрить систему оценки качества моделей;
* улучшить точность, скорость и стоимость обработки запросов;
* обеспечить стабильный вывод AI-функциональности в production;
* сформировать лучшие практики для AI-команды.
## Что мы предлагаем
* Возможность влиять на архитектуру и развитие AI-направления.
* Работу над реальными продуктами и задачами с измеримым бизнес-эффектом.
* Современный технологический стек и возможность тестировать новые AI-подходы.
* Профессиональную команду и культуру открытого обмена знаниями.
* Возможность развивать команду AI-инженеров и участвовать в принятии стратегических решений.
* Конкурентную заработную плату по результатам интервью.
* Гибкий формат работы: офис, гибрид или удаленная работа.
* Возможности профессионального развития, обучения и участия в международных проектах.
## Технологический стек
Python, FastAPI, PyTorch, Hugging Face, LangChain/LlamaIn
Требования
В первые месяцы работы специалист должен:
провести аудит существующей AI-архитектуры и используемых моделей;
определить технические стандарты разработки LLM-решений;
подготовить архитектуру ключевых AI-компонентов;
внедрить систему оценки качества моделей;
улучшить точность, скорость и стоимость обработки запросов;
обеспечить стабильный вывод AI-функциональности в production;
сформировать лучшие практики для AI-команды.
Условия
- Город: Бишкек
- Тип занятости: Полная занятость
- Формат: Гибрид
- Опыт: Более 6 лет
