Интерактивный учебник по ML и LLM
Интерактивный учебник для подготовки к собеседованиям: от линейной регрессии и нейросетей до трансформеров, RAG и AI-агентов. Каждая тема — объяснение простыми словами, интерактивная визуализация и мини-тест.
Основы машинного обучения
- Что такое машинное обучение
- Типы обучения: с учителем, без и с подкреплением
- Линейная регрессия
- Градиентный спуск
- Логистическая регрессия и классификация
- Теорема Байеса и наивный Байес
- Переобучение и регуляризация
- Метрики качества
- Деревья решений и ансамбли
- SVM и kernel trick
- kNN и кластеризация
- Снижение размерности и PCA
- Фичи и утечки данных (data leakage)
- Временные ряды и прогнозирование
Нейронные сети
Языковые модели: от n-грамм до трансформера
LLM: обучение и инференс
- Претрейнинг и scaling laws
- Fine-tuning: SFT, LoRA, PEFT
- Alignment: RLHF и DPO
- Reasoning-модели и test-time compute
- Сэмплирование: temperature, top-k, top-p
- Инференс: KV-cache, квантизация, спекулятивный декодинг
- Дистилляция и сжатие моделей
- Оценка LLM: бенчмарки и LLM-as-judge
- Работа с контекстом и разметка сообщений
- Промпт-паттерны и structured outputs