AI Engineer / LLM Engineer (Python)

На данный момент Разработчик BebrGPT (собственный проект).

Мои компетенции и опыт

Разрабатываю BebrGPT — собственный AI-сервис с несколькими LLM, поиском по документам и веб-поиском. Отвечаю за продукт целиком: Python backend, TypeScript/React-клиент, интеграции моделей и развёртывание. Ищу позицию AI Engineer / LLM Engineer с фокусом на прикладные LLM-системы.

BebrGPT — текущий собственный проект

• Интегрировал LLM через OpenAI/OpenRouter API и реализовал автоматический выбор модели под запрос. Добавил tool calling для веб-поиска, загрузки страниц и работы с документами.
• Реализовал RAG для PDF: извлечение текста, разбиение на фрагменты, embeddings, семантический поиск в PostgreSQL/pgvector и текстовый fallback. Ответы могут ссылаться на страницы исходного документа.
• Построил асинхронную генерацию с передачей ответа через SSE, отменой запросов и обработкой временных ошибок провайдера. Сохраняю историю и ветки диалога для продолжения работы с контекстом.
• Реализовал учёт стоимости LLM-вызовов: резервирование лимита, фиксацию фактической стоимости провайдера и последующую сверку. Интегрировал подписки и платежи через ЮKassa.
• Написал pytest-тесты для маршрутизации, обработки ошибок, embeddings и биллинга. Настроил автоматические проверки и развёртывание через GitHub Actions и Docker Compose.

Другой релевантный опыт

• cyber•Fund, Research Analyst, октябрь 2024 — октябрь 2025: разработал и интегрировал AI-систему автоматической подготовки due-diligence отчётов по входящим проектам.
• Huawei, Research Intern, июль — август 2023: исследовал сжатие числовых данных автоэнкодерами и создал платформу сравнения методов по степени сжатия и ошибке восстановления. Python, TensorFlow.
• ML-проекты: командный трекер объектов MDETR + SORT, диплом за лучший проект школы AIRI/Сириус; первое место в хакатоне с кейсом VK — Word2Vec и CatBoost. Оба проекта — 2022.

Стек

Python, FastAPI, asyncio, LLM API, RAG, embeddings, pgvector, function/tool calling, PostgreSQL, SQLAlchemy, Redis, SSE, pytest, Docker, GitHub Actions. ML-база: PyTorch, TensorFlow, NumPy, CatBoost.

Образование и условия

ИТМО, прикладная математика и информатика, 2021–2026; обмен в National Tsing Hua University, Тайвань, весна 2023. Олимпиадное программирование со школы, победитель регионального этапа ВсОШ по информатике, 2021. Английский C2. Рассматриваю удалённую работу.