Старший Инженер по ИИ

ОсОО Кайтек

300 000 – 500 000 KGS

Описание

Что мы предлагаем Возможность влиять на архитектуру и развитие AI-направления. Работу над реальными продуктами и задачами с измеримым бизнес-эффектом. Современный технологический стек и возможность тестировать новые AI-подходы. Профессиональную команду и культуру открытого обмена знаниями. Возможность развивать команду AI-инженеров и участвовать в принятии стратегических решений. Конкурентную заработную плату по результатам интервью. Гибкий формат работы: офис, гибрид или удаленная работа. Возможности профессионального развития, обучения и участия в международных проектах

Обязанности

# Senior LLM Engineer / Старший инженер по большим языковым моделям Мы ищем Senior LLM Engineer, который будет отвечать за проектирование, разработку и внедрение решений на базе больших языковых моделей. Специалист будет работать над созданием интеллектуальных AI-функций, интеграцией LLM в продукты компании, повышением качества ответов моделей и построением масштабируемой инфраструктуры для эксплуатации AI-решений. ## Основные задачи * Проектировать и разрабатывать production-ready решения на базе LLM. * Интегрировать языковые модели в веб-сервисы, мобильные приложения и внутренние системы компании. * Разрабатывать RAG-системы для работы с корпоративными документами и базами знаний. * Создавать AI-агентов и многошаговые сценарии взаимодействия с внешними инструментами и API. * Настраивать prompt engineering, structured output и function calling. * Проводить fine-tuning и адаптацию моделей под конкретные бизнес-задачи. * Разрабатывать механизмы обработки, очистки, разметки и индексации данных. * Выбирать подходящие LLM, embedding-модели, reranker-модели и векторные базы данных. * Создавать систему оценки качества LLM-решений: offline- и online-метрики, тестовые наборы и автоматические проверки. * Снижать количество галлюцинаций, повышать точность, безопасность и воспроизводимость ответов. * Оптимизировать скорость обработки запросов, стоимость inference и использование вычислительных ресурсов. * Настраивать мониторинг качества моделей, latency, token usage, ошибок и стоимости запросов. * Участвовать в проектировании AI-архитектуры и принятии технических решений. * Проводить code review и поддерживать высокие стандарты разработки. * Менторить AI/ML-инженеров и помогать команде развивать экспертизу в области LLM. * Взаимодействовать с Product Manager, Backend, Data, DevOps, QA и бизнес-командами. ## Обязательные требования * От 4–5 лет опыта в Software Engineering, Machine Learning или Data Science. * Практический опыт разработки и запуска LLM-решений в production. * Уверенное владение Python. * Хорошее знание FastAPI, Flask или аналогичных backend-фреймворков. * Опыт работы с LLM API и open-source моделями. * Понимание архитектуры Transformer, механизмов attention, tokenization и embeddings. * Практический опыт разработки RAG-пайплайнов. * Опыт работы с LangChain, LlamaIndex, Haystack или аналогичными инструментами. * Опыт работы с векторными базами данных: pgvector, Pinecone, Weaviate, Milvus, Qdrant или аналогами. * Знание методов semantic search, hybrid search, reranking и chunking. * Опыт работы с PyTorch и экосистемой Hugging Face. * Понимание подходов fine-tuning, LoRA, QLoRA и model quantization. * Опыт разработки и интеграции REST API. * Знание SQL и опыт работы с PostgreSQL или другими базами данных. * Опыт контейнеризации с использованием Docker. * Опыт работы с облачной инфраструктурой AWS, Google Cloud или Microsoft Azure. * Понимание принципов MLOps, CI/CD, мониторинга и версионирования моделей. * Умение проектировать надежные, безопасные и масштабируемые системы. * Английский язык на уровне, достаточном для работы с технической документацией и международными командами. ## Будет преимуществом * Опыт разработки AI-агентов и multi-agent систем. * Опыт работы с multimodal-моделями. * Опыт эксплуатации собственных моделей через vLLM, TGI или аналогичные inference-сервисы. * Знание Kubernetes. * Опыт работы с MLflow, Weights & Biases или аналогичными платформами. * Понимание GPU-инфраструктуры и оптимизации inference. * Опыт построения систем защиты от prompt injection и утечек конфиденциальных данных. * Опыт работы с персональными или финансовыми данными. * Знание требований к информационной безопасности и ответственному использованию AI. * Опыт технического лидерства и менторинга инженеров. * Опыт работы в финтехе, банкинге, EdTech или других регулируемых отраслях. ## Ожидаемые результаты В первые месяцы работы специалист должен: * провести аудит существующей AI-архитектуры и используемых моделей; * определить технические стандарты разработки LLM-решений; * подготовить архитектуру ключевых AI-компонентов; * внедрить систему оценки качества моделей; * улучшить точность, скорость и стоимость обработки запросов; * обеспечить стабильный вывод AI-функциональности в production; * сформировать лучшие практики для AI-команды. ## Что мы предлагаем * Возможность влиять на архитектуру и развитие AI-направления. * Работу над реальными продуктами и задачами с измеримым бизнес-эффектом. * Современный технологический стек и возможность тестировать новые AI-подходы. * Профессиональную команду и культуру открытого обмена знаниями. * Возможность развивать команду AI-инженеров и участвовать в принятии стратегических решений. * Конкурентную заработную плату по результатам интервью. * Гибкий формат работы: офис, гибрид или удаленная работа. * Возможности профессионального развития, обучения и участия в международных проектах. ## Технологический стек Python, FastAPI, PyTorch, Hugging Face, LangChain/LlamaIn

Требования

В первые месяцы работы специалист должен: провести аудит существующей AI-архитектуры и используемых моделей; определить технические стандарты разработки LLM-решений; подготовить архитектуру ключевых AI-компонентов; внедрить систему оценки качества моделей; улучшить точность, скорость и стоимость обработки запросов; обеспечить стабильный вывод AI-функциональности в production; сформировать лучшие практики для AI-команды.

Условия

  • Город: Бишкек
  • Тип занятости: Полная занятость
  • Формат: Гибрид
  • Опыт: Более 6 лет