Подборка материалов · Senior

101 статей для Senior Data Scientist / ML-инженера: большая подборка

Материалы по архитектуре и управлению ML-системами: ML-платформы, drift, масштабирование, LLM и RAG, рекомендации, эксперименты, Responsible AI и техническое лидерство.

101 статей · 10 тем · материалы на русском языке

Архитектура ML-систем

  1. Nvidia Triton Inference Server: строим production ML без разработчиков

    Чтобы принимать устойчивые архитектурные решения.

  2. Введение в архитектуры нейронных сетей

    Чтобы принимать устойчивые архитектурные решения.

  3. Зачем Авито нужна своя Inference-платформа для ML/LLM-сервисов: PaaS vs отдельное решение

    Чтобы принимать устойчивые архитектурные решения.

  4. Проектирование ML-сервиса для прогнозирования котировок акций (для Advisors’ Axiom от Росбанка)

    Чтобы принимать устойчивые архитектурные решения.

  5. Архитектура рекомендаций: как дать пользователю соцсети то, что ему понравится

    Чтобы принимать устойчивые архитектурные решения.

  6. ML System Design: Что на самом деле проверяют на собеседовании?

    Чтобы принимать устойчивые архитектурные решения.

  7. Архитектура реальной системы машинного обучения

    Чтобы принимать устойчивые архитектурные решения.

  8. Инженерный подход к MLOps: как принципы расчётной механики ложатся в архитектуру AutoML

    Чтобы принимать устойчивые архитектурные решения.

  9. Как мы пришили LLM «спинной мозг»: архитектура рефлексов для ИИ-агентов в 60 FPS

    Чтобы принимать устойчивые архитектурные решения.

  10. Что я бы хотел знать про ML System Design раньше

    Чтобы принимать устойчивые архитектурные решения.

ML-платформа и MLOps

  1. Как я уместил весь MLOps-пайплайн в 10 строк

    Чтобы надёжно выпускать и обновлять ML-модели.

  2. Как компании строят MLOps без собственной ML-платформы: workflow-фреймворки

    Чтобы надёжно выпускать и обновлять ML-модели.

  3. Как компании строят MLOps без собственной ML-платформы: managed-сервисы

    Чтобы надёжно выпускать и обновлять ML-модели.

  4. Инструменты для MLOps: выбираем между вендорскими и Open Source-решениями

    Чтобы надёжно выпускать и обновлять ML-модели.

  5. Каким должен быть Feature Store, чтобы оптимизировать работу с ML-моделями

    Чтобы надёжно выпускать и обновлять ML-модели.

  6. Ликбез по LLM, новинки от Nvidia и видеокейс по внедрению MLOps

    Чтобы надёжно выпускать и обновлять ML-модели.

  7. Что такое MLOps? Самый подробный текст про работу с ML-системами, который вы найдете в интернете

    Чтобы надёжно выпускать и обновлять ML-модели.

  8. Open Source для MLOps: сравнение популярных решений

    Чтобы надёжно выпускать и обновлять ML-модели.

  9. Как и зачем мы в YADRO сделали свою MLOps-платформу

    Чтобы надёжно выпускать и обновлять ML-модели.

  10. «Взрыв поверхности» или «вертикальный срез»: какой подход выбрать при построении MLOps-платформы?

    Чтобы надёжно выпускать и обновлять ML-модели.

  11. Челленджи деплоя, сетевых политик и планировщика: как мы внедряли ML-платформу Kubeflow

    Чтобы надёжно выпускать и обновлять ML-модели.

  12. Как за 5 недель построить рекомендательную систему в TravelTech: Kafka и MongoDB вместо Feature Store

    Чтобы надёжно выпускать и обновлять ML-модели.

Мониторинг, drift и качество

  1. Что такое дрифт ML-моделей и как его мониторить?

    Чтобы быстро находить причины сбоев.

  2. ML‑датасет для Data Scientist: практический гайд по проверке качества данных перед обучением модели

    Чтобы быстро находить причины сбоев.

  3. Система мониторинга ML-моделей: превращаем данные в полезный инструмент

    Чтобы быстро находить причины сбоев.

  4. Как создавать качественные ML-системы. Часть 1: каждый проект должен начинаться с плана

    Чтобы быстро находить причины сбоев.

  5. Как создавать качественные ML-системы. Часть 2: приручаем хаос

    Чтобы быстро находить причины сбоев.

  6. Система мониторинга ML-моделей: что важно контролировать и почему

    Чтобы быстро находить причины сбоев.

  7. Как мы поймали drift в Kubernetes и зачем после этого перешли на GitOps

    Чтобы быстро находить причины сбоев.

  8. Когда чат-бот продаёт Chevrolet за доллар: как тестировать и мониторить LLM-приложения

    Чтобы быстро находить причины сбоев.

  9. Тестирование ML-моделей. От «пробирки» до мониторинга боевых данных

    Чтобы быстро находить причины сбоев.

  10. Как мы создавали self-service функционал проверки качества данных для ML-моделей

    Чтобы быстро находить причины сбоев.

  11. Мониторинг ML-систем. «6 лет назад vs сегодня»

    Чтобы быстро находить причины сбоев.

Масштабирование обучения и инференса

  1. Тестируем NVIDIA HGX B300 — инференс-сервер с 8 GPU и 2,3 ТБ VRAM на DeepSeek, Qwen и MiniMax

    Чтобы выдерживать рост трафика и данных.

  2. «Золотая рыбка, хочу LLM без GPU»: как собрать Inference-сервер на CPU

    Чтобы выдерживать рост трафика и данных.

  3. «Возрождение» больших данных, оптимизация инференса LLM и новинки от AMD

    Чтобы выдерживать рост трафика и данных.

  4. Как готовить Triton: рецепты вашей собственной Inference-платформы

    Чтобы выдерживать рост трафика и данных.

  5. Causal Inference: прозрение и практика. Лекция 1. Основные понятия Causal Inference

    Чтобы выдерживать рост трафика и данных.

  6. Почему инференс LLM становится дорогим и как снизить расходы на GPU без покупки новых карт

    Чтобы выдерживать рост трафика и данных.

  7. Экономика AI-инфраструктуры: как не разориться на ИИ-моделях, промптах, GPU и инференсе

    Чтобы выдерживать рост трафика и данных.

  8. Пять элементов Inference-платформы Selectel. Как мы сделали своего Аватара

    Чтобы выдерживать рост трафика и данных.

  9. Оптимизация инференса больших языковых моделей: комплексный анализ современных подходов и практических реализаций

    Чтобы выдерживать рост трафика и данных.

  10. Выбор GPU-карты для Inference: честное сравнение H100, A100 и V100

    Чтобы выдерживать рост трафика и данных.

  11. Инференс LLM на кластере старых ноутбуков

    Чтобы выдерживать рост трафика и данных.

  12. Скрытая цена LLM: как KV-cache увеличивает стоимость инференса и как эту проблему решает Google TurboQuant

    Чтобы выдерживать рост трафика и данных.

LLM и RAG в production

  1. Hybrid RAG knowledge base за 15 минут — почему пришлось собрать свою lite версию RAG и в чем опасность RAG фреймворков

    Чтобы создавать системы для работы с текстом.

  2. Внешняя память для LLM: как RAG дает моделям доступ к новым знаниям

    Чтобы создавать системы для работы с текстом.

  3. Как на самом деле работают LLM

    Чтобы создавать системы для работы с текстом.

  4. Как работает адаптивный RAG, которому вообще не нужна LLM

    Чтобы создавать системы для работы с текстом.

  5. Системы ценностей больших языковых моделей

    Чтобы создавать системы для работы с текстом.

  6. Как устроены LLM-агенты: архитектура, планирование и инструменты

    Чтобы создавать системы для работы с текстом.

  7. 3 самых очевидных способа вручную обнаружить текст от большой языковой модели

    Чтобы создавать системы для работы с текстом.

  8. Применение LLM + RAG для диалоговых систем в службе поддержки

    Чтобы создавать системы для работы с текстом.

  9. Добавление собственных данных в LLM с помощью RAG

    Чтобы создавать системы для работы с текстом.

  10. Как я устал тестировать LLM-системы вручную и написал универсальный сканер уязвимостей

    Чтобы создавать системы для работы с текстом.

  11. Как я перестал «вайбкодить» с LLM и собрал процесс разработки, который не разваливает проект

    Чтобы создавать системы для работы с текстом.

  12. Книга: «Промт-инжиниринг для LLM. Искусство построения приложений на основе больших языковых моделей»

    Чтобы создавать системы для работы с текстом.

Поиск и рекомендательные системы

  1. Разбираю рекомендательную ленту свитера (анализ алгоритма ранжирования)

    Чтобы персонализировать выдачу для пользователя.

  2. ARGUS: как масштабировать рекомендательные трансформеры

    Чтобы персонализировать выдачу для пользователя.

  3. Подборка книг о нейронных сетях и рекомендательных системах: теория и практика

    Чтобы персонализировать выдачу для пользователя.

  4. 130+ датасетов для машинного обучения: гид, который сэкономит часы поиска нужных данных

    Чтобы персонализировать выдачу для пользователя.

  5. Как устроен рекомендательный сервис, который выдерживает 700 тысяч запросов в секунду. Доклад Яндекса

    Чтобы персонализировать выдачу для пользователя.

  6. Приглашаем на Ozon Tech Intro meetup: как работают системы поиска, рекомендаций и рекламы

    Чтобы персонализировать выдачу для пользователя.

  7. Как продвигать твиты в X: разбираем рекомендательный алгоритм Twitter

    Чтобы персонализировать выдачу для пользователя.

  8. Анатомия рекомендательных систем. Часть первая

    Чтобы персонализировать выдачу для пользователя.

  9. Построили рекомендательную систему для игр и поняли, почему простые решения работают, а сложные нет

    Чтобы персонализировать выдачу для пользователя.

  10. ML-тренды рекомендательных технологий: шесть приёмов, которые помогают угадывать желания пользователя

    Чтобы персонализировать выдачу для пользователя.

  11. Рекомендательные системы: идеи, подходы, задачи

    Чтобы персонализировать выдачу для пользователя.

  12. Как LLM научила рекомендательную модель видеть больше, чем историю взаимодействий

    Чтобы персонализировать выдачу для пользователя.

Эксперименты и причинный анализ

  1. Чемпионат среди uplift-моделей: групповой этап, плей-офф и неожиданный лидер

    Чтобы проверять влияние изменений на метрики.

  2. Как «воспитать ламу» и ускорить ML-эксперименты

    Чтобы проверять влияние изменений на метрики.

  3. Все ли волки страшные: AUF или как приручить uplift?

    Чтобы проверять влияние изменений на метрики.

  4. Туториал по uplift моделированию. Часть 1

    Чтобы проверять влияние изменений на метрики.

  5. Волков бояться — uplift в прод не катить, или AUF 2.0

    Чтобы проверять влияние изменений на метрики.

  6. Как мы не обожглись на быстрых ML-экспериментах: опыт с 10% аудитории, холиварами с аналитиками и «лампой для лишая»

    Чтобы проверять влияние изменений на метрики.

  7. Модель обещает uplift. А сколько это в рублях?

    Чтобы проверять влияние изменений на метрики.

  8. Гайд по трекингу экспериментов в ML

    Чтобы проверять влияние изменений на метрики.

  9. Кратко про Uplift-моделирование

    Чтобы проверять влияние изменений на метрики.

  10. Продвинутые методы Uplift-моделирования

    Чтобы проверять влияние изменений на метрики.

  11. AI Routing Lab: машинное обучение для оптимизации сетевых маршрутов

    Чтобы проверять влияние изменений на метрики.

  12. KD+SM Uplift Modeling. Вошли и вышли, приключение на 20 минут

    Чтобы проверять влияние изменений на метрики.

Responsible AI и безопасность ML

  1. Интерпретация моделей и диагностика сдвига данных: LIME, SHAP и Shapley Flow

    Чтобы снижать риски и смещения ML-систем.

  2. Повышаем интерпретируемость SHAP-графиков

    Чтобы снижать риски и смещения ML-систем.

  3. Как DDoS-атаки стали для нас рутиной и как ML помогает их отражать

    Чтобы снижать риски и смещения ML-систем.

  4. Как интерпретировать предсказания моделей в SHAP

    Чтобы снижать риски и смещения ML-систем.

  5. Ваше лицо кажется знакомым: разведка, анализ и методы атак на ML в системах распознавания лиц

    Чтобы снижать риски и смещения ML-систем.

  6. «Щит» или «дуршлаг»? ML упрощает жизнь разработчиков, но способен проделать новые дыры в безопасности

    Чтобы снижать риски и смещения ML-систем.

  7. Трехфазная защита ваших ИИ‑агентов от современных угроз с детальным разбором на базе модели безопасности OGL‑Mini

    Чтобы снижать риски и смещения ML-систем.

  8. Безопасность ML — фантазии, или реальность?

    Чтобы снижать риски и смещения ML-систем.

  9. AI/LLM Firewall на практике: сценарии атак и методы защиты

    Чтобы снижать риски и смещения ML-систем.

  10. ML IPS в Ideco NGFW: бессигнатурная защита от атак нулевого дня

    Чтобы снижать риски и смещения ML-систем.

  11. Shap-графики: как наглядно объяснить заказчику логику работы модели

    Чтобы снижать риски и смещения ML-систем.

  12. LIME и SHAP

    Чтобы снижать риски и смещения ML-систем.

ML-стратегия и техническое лидерство

  1. Как ML изменит бизнес в 2026 году: прогноз Selectel, GlowByte и Data Sapience

    Чтобы улучшить совместную работу и развитие команды.

  2. Как мы починили процессы в ML-команде и сократили T2M на 20%

    Чтобы улучшить совместную работу и развитие команды.

  3. Нужен ли продакт в ML-команде? Мнение изнутри

    Чтобы улучшить совместную работу и развитие команды.

  4. Горизонтальная структура команды разработки, или Как доводить ML проекты до продакшена

    Чтобы улучшить совместную работу и развитие команды.

  5. CV/ML-проект от идеи до продакшена: практическое руководство

    Чтобы улучшить совместную работу и развитие команды.

  6. Запуск ML-модели в бизнесе — что нужно знать предпринимателям

    Чтобы улучшить совместную работу и развитие команды.

  7. Hadoop в любой непонятной ситуации. Как выжить кластеру в большой ML команде

    Чтобы улучшить совместную работу и развитие команды.

Управление ML-командой

  1. Что такое Загруженность команды: как использовать и для чего

    Чтобы улучшить совместную работу и развитие команды.

Все подборки для Data Scientist / ML-инженера →