101 статей для Senior Data Scientist / ML-инженера: большая подборка
Материалы по архитектуре и управлению ML-системами: ML-платформы, drift, масштабирование, LLM и RAG, рекомендации, эксперименты, Responsible AI и техническое лидерство.
Архитектура ML-систем
- Nvidia Triton Inference Server: строим production ML без разработчиков
Чтобы принимать устойчивые архитектурные решения.
- Введение в архитектуры нейронных сетей
Чтобы принимать устойчивые архитектурные решения.
- Зачем Авито нужна своя Inference-платформа для ML/LLM-сервисов: PaaS vs отдельное решение
Чтобы принимать устойчивые архитектурные решения.
- Проектирование ML-сервиса для прогнозирования котировок акций (для Advisors’ Axiom от Росбанка)
Чтобы принимать устойчивые архитектурные решения.
- Архитектура рекомендаций: как дать пользователю соцсети то, что ему понравится
Чтобы принимать устойчивые архитектурные решения.
- ML System Design: Что на самом деле проверяют на собеседовании?
Чтобы принимать устойчивые архитектурные решения.
- Архитектура реальной системы машинного обучения
Чтобы принимать устойчивые архитектурные решения.
- Инженерный подход к MLOps: как принципы расчётной механики ложатся в архитектуру AutoML
Чтобы принимать устойчивые архитектурные решения.
- Как мы пришили LLM «спинной мозг»: архитектура рефлексов для ИИ-агентов в 60 FPS
Чтобы принимать устойчивые архитектурные решения.
- Что я бы хотел знать про ML System Design раньше
Чтобы принимать устойчивые архитектурные решения.
ML-платформа и MLOps
- Как я уместил весь MLOps-пайплайн в 10 строк
Чтобы надёжно выпускать и обновлять ML-модели.
- Как компании строят MLOps без собственной ML-платформы: workflow-фреймворки
Чтобы надёжно выпускать и обновлять ML-модели.
- Как компании строят MLOps без собственной ML-платформы: managed-сервисы
Чтобы надёжно выпускать и обновлять ML-модели.
- Инструменты для MLOps: выбираем между вендорскими и Open Source-решениями
Чтобы надёжно выпускать и обновлять ML-модели.
- Каким должен быть Feature Store, чтобы оптимизировать работу с ML-моделями
Чтобы надёжно выпускать и обновлять ML-модели.
- Ликбез по LLM, новинки от Nvidia и видеокейс по внедрению MLOps
Чтобы надёжно выпускать и обновлять ML-модели.
- Что такое MLOps? Самый подробный текст про работу с ML-системами, который вы найдете в интернете
Чтобы надёжно выпускать и обновлять ML-модели.
- Open Source для MLOps: сравнение популярных решений
Чтобы надёжно выпускать и обновлять ML-модели.
- Как и зачем мы в YADRO сделали свою MLOps-платформу
Чтобы надёжно выпускать и обновлять ML-модели.
- «Взрыв поверхности» или «вертикальный срез»: какой подход выбрать при построении MLOps-платформы?
Чтобы надёжно выпускать и обновлять ML-модели.
- Челленджи деплоя, сетевых политик и планировщика: как мы внедряли ML-платформу Kubeflow
Чтобы надёжно выпускать и обновлять ML-модели.
- Как за 5 недель построить рекомендательную систему в TravelTech: Kafka и MongoDB вместо Feature Store
Чтобы надёжно выпускать и обновлять ML-модели.
Мониторинг, drift и качество
- Что такое дрифт ML-моделей и как его мониторить?
Чтобы быстро находить причины сбоев.
- ML‑датасет для Data Scientist: практический гайд по проверке качества данных перед обучением модели
Чтобы быстро находить причины сбоев.
- Система мониторинга ML-моделей: превращаем данные в полезный инструмент
Чтобы быстро находить причины сбоев.
- Как создавать качественные ML-системы. Часть 1: каждый проект должен начинаться с плана
Чтобы быстро находить причины сбоев.
- Как создавать качественные ML-системы. Часть 2: приручаем хаос
Чтобы быстро находить причины сбоев.
- Система мониторинга ML-моделей: что важно контролировать и почему
Чтобы быстро находить причины сбоев.
- Как мы поймали drift в Kubernetes и зачем после этого перешли на GitOps
Чтобы быстро находить причины сбоев.
- Когда чат-бот продаёт Chevrolet за доллар: как тестировать и мониторить LLM-приложения
Чтобы быстро находить причины сбоев.
- Тестирование ML-моделей. От «пробирки» до мониторинга боевых данных
Чтобы быстро находить причины сбоев.
- Как мы создавали self-service функционал проверки качества данных для ML-моделей
Чтобы быстро находить причины сбоев.
- Мониторинг ML-систем. «6 лет назад vs сегодня»
Чтобы быстро находить причины сбоев.
Масштабирование обучения и инференса
- Тестируем NVIDIA HGX B300 — инференс-сервер с 8 GPU и 2,3 ТБ VRAM на DeepSeek, Qwen и MiniMax
Чтобы выдерживать рост трафика и данных.
- «Золотая рыбка, хочу LLM без GPU»: как собрать Inference-сервер на CPU
Чтобы выдерживать рост трафика и данных.
- «Возрождение» больших данных, оптимизация инференса LLM и новинки от AMD
Чтобы выдерживать рост трафика и данных.
- Как готовить Triton: рецепты вашей собственной Inference-платформы
Чтобы выдерживать рост трафика и данных.
- Causal Inference: прозрение и практика. Лекция 1. Основные понятия Causal Inference
Чтобы выдерживать рост трафика и данных.
- Почему инференс LLM становится дорогим и как снизить расходы на GPU без покупки новых карт
Чтобы выдерживать рост трафика и данных.
- Экономика AI-инфраструктуры: как не разориться на ИИ-моделях, промптах, GPU и инференсе
Чтобы выдерживать рост трафика и данных.
- Пять элементов Inference-платформы Selectel. Как мы сделали своего Аватара
Чтобы выдерживать рост трафика и данных.
- Оптимизация инференса больших языковых моделей: комплексный анализ современных подходов и практических реализаций
Чтобы выдерживать рост трафика и данных.
- Выбор GPU-карты для Inference: честное сравнение H100, A100 и V100
Чтобы выдерживать рост трафика и данных.
- Инференс LLM на кластере старых ноутбуков
Чтобы выдерживать рост трафика и данных.
- Скрытая цена LLM: как KV-cache увеличивает стоимость инференса и как эту проблему решает Google TurboQuant
Чтобы выдерживать рост трафика и данных.
LLM и RAG в production
- Hybrid RAG knowledge base за 15 минут — почему пришлось собрать свою lite версию RAG и в чем опасность RAG фреймворков
Чтобы создавать системы для работы с текстом.
- Внешняя память для LLM: как RAG дает моделям доступ к новым знаниям
Чтобы создавать системы для работы с текстом.
- Как на самом деле работают LLM
Чтобы создавать системы для работы с текстом.
- Как работает адаптивный RAG, которому вообще не нужна LLM
Чтобы создавать системы для работы с текстом.
- Системы ценностей больших языковых моделей
Чтобы создавать системы для работы с текстом.
- Как устроены LLM-агенты: архитектура, планирование и инструменты
Чтобы создавать системы для работы с текстом.
- 3 самых очевидных способа вручную обнаружить текст от большой языковой модели
Чтобы создавать системы для работы с текстом.
- Применение LLM + RAG для диалоговых систем в службе поддержки
Чтобы создавать системы для работы с текстом.
- Добавление собственных данных в LLM с помощью RAG
Чтобы создавать системы для работы с текстом.
- Как я устал тестировать LLM-системы вручную и написал универсальный сканер уязвимостей
Чтобы создавать системы для работы с текстом.
- Как я перестал «вайбкодить» с LLM и собрал процесс разработки, который не разваливает проект
Чтобы создавать системы для работы с текстом.
- Книга: «Промт-инжиниринг для LLM. Искусство построения приложений на основе больших языковых моделей»
Чтобы создавать системы для работы с текстом.
Поиск и рекомендательные системы
- Разбираю рекомендательную ленту свитера (анализ алгоритма ранжирования)
Чтобы персонализировать выдачу для пользователя.
- ARGUS: как масштабировать рекомендательные трансформеры
Чтобы персонализировать выдачу для пользователя.
- Подборка книг о нейронных сетях и рекомендательных системах: теория и практика
Чтобы персонализировать выдачу для пользователя.
- 130+ датасетов для машинного обучения: гид, который сэкономит часы поиска нужных данных
Чтобы персонализировать выдачу для пользователя.
- Как устроен рекомендательный сервис, который выдерживает 700 тысяч запросов в секунду. Доклад Яндекса
Чтобы персонализировать выдачу для пользователя.
- Приглашаем на Ozon Tech Intro meetup: как работают системы поиска, рекомендаций и рекламы
Чтобы персонализировать выдачу для пользователя.
- Как продвигать твиты в X: разбираем рекомендательный алгоритм Twitter
Чтобы персонализировать выдачу для пользователя.
- Анатомия рекомендательных систем. Часть первая
Чтобы персонализировать выдачу для пользователя.
- Построили рекомендательную систему для игр и поняли, почему простые решения работают, а сложные нет
Чтобы персонализировать выдачу для пользователя.
- ML-тренды рекомендательных технологий: шесть приёмов, которые помогают угадывать желания пользователя
Чтобы персонализировать выдачу для пользователя.
- Рекомендательные системы: идеи, подходы, задачи
Чтобы персонализировать выдачу для пользователя.
- Как LLM научила рекомендательную модель видеть больше, чем историю взаимодействий
Чтобы персонализировать выдачу для пользователя.
Эксперименты и причинный анализ
- Чемпионат среди uplift-моделей: групповой этап, плей-офф и неожиданный лидер
Чтобы проверять влияние изменений на метрики.
- Как «воспитать ламу» и ускорить ML-эксперименты
Чтобы проверять влияние изменений на метрики.
- Все ли волки страшные: AUF или как приручить uplift?
Чтобы проверять влияние изменений на метрики.
- Туториал по uplift моделированию. Часть 1
Чтобы проверять влияние изменений на метрики.
- Волков бояться — uplift в прод не катить, или AUF 2.0
Чтобы проверять влияние изменений на метрики.
- Как мы не обожглись на быстрых ML-экспериментах: опыт с 10% аудитории, холиварами с аналитиками и «лампой для лишая»
Чтобы проверять влияние изменений на метрики.
- Модель обещает uplift. А сколько это в рублях?
Чтобы проверять влияние изменений на метрики.
- Гайд по трекингу экспериментов в ML
Чтобы проверять влияние изменений на метрики.
- Кратко про Uplift-моделирование
Чтобы проверять влияние изменений на метрики.
- Продвинутые методы Uplift-моделирования
Чтобы проверять влияние изменений на метрики.
- AI Routing Lab: машинное обучение для оптимизации сетевых маршрутов
Чтобы проверять влияние изменений на метрики.
- KD+SM Uplift Modeling. Вошли и вышли, приключение на 20 минут
Чтобы проверять влияние изменений на метрики.
Responsible AI и безопасность ML
- Интерпретация моделей и диагностика сдвига данных: LIME, SHAP и Shapley Flow
Чтобы снижать риски и смещения ML-систем.
- Повышаем интерпретируемость SHAP-графиков
Чтобы снижать риски и смещения ML-систем.
- Как DDoS-атаки стали для нас рутиной и как ML помогает их отражать
Чтобы снижать риски и смещения ML-систем.
- Как интерпретировать предсказания моделей в SHAP
Чтобы снижать риски и смещения ML-систем.
- Ваше лицо кажется знакомым: разведка, анализ и методы атак на ML в системах распознавания лиц
Чтобы снижать риски и смещения ML-систем.
- «Щит» или «дуршлаг»? ML упрощает жизнь разработчиков, но способен проделать новые дыры в безопасности
Чтобы снижать риски и смещения ML-систем.
- Трехфазная защита ваших ИИ‑агентов от современных угроз с детальным разбором на базе модели безопасности OGL‑Mini
Чтобы снижать риски и смещения ML-систем.
- Безопасность ML — фантазии, или реальность?
Чтобы снижать риски и смещения ML-систем.
- AI/LLM Firewall на практике: сценарии атак и методы защиты
Чтобы снижать риски и смещения ML-систем.
- ML IPS в Ideco NGFW: бессигнатурная защита от атак нулевого дня
Чтобы снижать риски и смещения ML-систем.
- Shap-графики: как наглядно объяснить заказчику логику работы модели
Чтобы снижать риски и смещения ML-систем.
- LIME и SHAP
Чтобы снижать риски и смещения ML-систем.
ML-стратегия и техническое лидерство
- Как ML изменит бизнес в 2026 году: прогноз Selectel, GlowByte и Data Sapience
Чтобы улучшить совместную работу и развитие команды.
- Как мы починили процессы в ML-команде и сократили T2M на 20%
Чтобы улучшить совместную работу и развитие команды.
- Нужен ли продакт в ML-команде? Мнение изнутри
Чтобы улучшить совместную работу и развитие команды.
- Горизонтальная структура команды разработки, или Как доводить ML проекты до продакшена
Чтобы улучшить совместную работу и развитие команды.
- CV/ML-проект от идеи до продакшена: практическое руководство
Чтобы улучшить совместную работу и развитие команды.
- Запуск ML-модели в бизнесе — что нужно знать предпринимателям
Чтобы улучшить совместную работу и развитие команды.
- Hadoop в любой непонятной ситуации. Как выжить кластеру в большой ML команде
Чтобы улучшить совместную работу и развитие команды.
Управление ML-командой
- Что такое Загруженность команды: как использовать и для чего
Чтобы улучшить совместную работу и развитие команды.