Ярослав Бондарев

AI Engineer · LLM / GenAI

Довожу LLM-системы до прода: оркестрация нескольких моделей, RAG и гибридный поиск, ASR, eval-пайплайны и self-hosted inference. Решения по цифрам, а не по ощущению.

rag-ru-reports

Демо онлайн2026

RAG по годовым отчётам российских эмитентов: вопрос на русском → ответ с цитатами и ссылками на исходные PDF. Целиком на бесплатном плане Cloudflare.

80%
recall@5 — при 50 векторах вместо 4 835
3 мс
CPU на запрос из бюджета в 10
0 ₽
инфраструктуры
  • RAG
  • BM25/FTS5
  • bge-m3
  • int8
  • eval
  • Cloudflare Workers
ДемоGitHub

OpticsERP

В проде2026

Offline-first POS/ERP для сети оптик: касса продаёт и печатает фискальный чек ≥8 часов без связи с ОФД и не теряет ни одного чека после восстановления.

21
точка в ежедневной эксплуатации
≥8 ч
автономной работы кассы
3
вендора ККТ за одним API
  • Odoo 17
  • FastAPI
  • offline-first
  • 54-ФЗ
  • PostgreSQL
  • SQLite
Презентация готовитсяКод приватный

LLM / GenAI

  • LangGraph
  • LangChain
  • Claude
  • GPT
  • Gemini
  • ансамбли моделей
  • prompt engineering
  • агентные сценарии
  • eval и A/B

RAG и поиск

  • гибридный retrieval
  • BM25 / FTS5
  • bge-m3
  • int8-квантизация
  • чанкинг с таблицами
  • recall@k
  • grounding-проверка

ASR и голос

  • Whisper
  • WhisperX
  • faster-whisper
  • диаризация NeMo
  • pyannote
  • AssemblyAI
  • ElevenLabs

Inference и MLOps

  • vLLM
  • AWQ
  • KV-cache / VRAM
  • GPU в облаке
  • инженерия стоимости
  • Logfire
  • OpenTelemetry

Backend и данные

  • Python
  • FastAPI
  • Flask
  • SQLAlchemy
  • PySpark
  • pandas
  • ETL
  • PostgreSQL
  • SQLite
  • SQL Server
  • Oracle

Web и инфраструктура

  • TypeScript
  • Next.js
  • React
  • Cloudflare Workers
  • AWS
  • Terraform
  • Docker
  • GitHub Actions
  • Linux