А. Ю. Долганов - Базовые алгоритмы машинного обучения на языке python

А. Ю. ДОЛГАНОВ
М. В. РОНКИН
А. В. СОЗЫКИН

БАЗОВЫЕ АЛГОРИТМЫ
МАШИННОГО ОБУЧЕНИЯ
НА ЯЗЫКЕ PYTHON
Учебно-методическое пособие

Министерство науки и высшего образования
Российской Федерации
Уральский федеральный университет
имени первого Президента России Б. Н. Ельцина

А. Ю. Долганов, М. В. Ронкин, А. В. Созыкин

БАЗОВЫЕ АЛГОРИТМЫ
МАШИННОГО ОБУЧЕНИЯ
НА ЯЗЫКЕ PYTHON
Учебно-методическое пособие

Рекомендовано методическим советом
Уральского федерального университета
для студентов вуза, обучающихся по направлениям подготовки
09.03.01, 09.04.01 — Информатика и вычислительная техника,
09.03.03, 09.04.03 — Прикладная информатика,
09.03.04, 09.04.04 — Программная инженерия,
09.04.02 — Информационные системы и технологии

Екатеринбург
Издательство Уральского университета
2023

УДК 004.85(075.8)
ББК 32.813я73
Д64
Рецензенты:
канд. физ.-мат. наук, заведующий отделом вычислительных систем
Института математики и механики им. Н. Н. Красовского УрО РАН
А. М. Григорьев;
канд. физ.-мат. наук, руководитель исследовательского центра
ООО «Сайберлимфа» Ю. Ю. Чернышов
Научный редактор — д‑р физ.-мат. наук, проф. Д. Б. Берг
Долганов, Антон Юрьевич.
Д64     Базовые алгоритмы машинного обучения на языке Python : учебно-методическое пособие / А. Ю. Долганов, М. В. Ронкин, А. В. Созыкин ; М‑во
науки и высшего образования РФ. — Екатеринбург : Изд-во Урал. ун-та,
2023. — 124 с.
ISBN 978-5-7996-3632-6
Учебно-методическое пособие посвящено изучению основ анализа данных
и реализации базовых алгоритмов машинного обучения на языке Python. Целью
данного пособия является формирование у студентов теоретических знаний и практических навыков в области базовых алгоритмов машинного обучения, овладение
инструментарием, моделями и методами машинного обучения.
Для успешного освоения курса необходимо базовое знание языка программирования Python и высшей математики.
УДК 004.85(075.8)
ББК 32.813я73

ISBN 978-5-7996-3632-6

© Уральский федеральный
университет, 2023

Оглавление

Предисловие......................................................................................... 5
Глава 1. Машинное обучение: общие сведения и понятия.................... 7
Типы данных....................................................................................... 8
Обучение модели............................................................................... 13
Разложение ошибки на смещение и дисперсию.............................. 17
Задачи машинного обучения............................................................ 19
Базовые понятия линейной алгебры................................................ 21
Ключевые понятия математического анализа................................. 24
Контрольные вопросы...................................................................... 28
Глава 2. Исследовательский анализ данных....................................... 29
Библиотека Pandas для анализа данных........................................... 29
Предварительная обработка данных................................................ 35
Инженерия признаков...................................................................... 43
Практические задания ...................................................................... 45
Контрольные вопросы...................................................................... 45
Глава 3. Линейная регрессия.............................................................. 47
Генерируемые данные....................................................................... 48
Модель линейной регрессии............................................................. 51
Полиномиальная регрессия.............................................................. 64
Регуляризация линейной регрессии................................................. 66
Практические задания....................................................................... 69
Контрольные вопросы...................................................................... 70
Глава 4. Логистическая регрессия...................................................... 71
Генерируемые данные ...................................................................... 72
Модель логистической регрессии..................................................... 73
Метрики классификации ................................................................. 77
Практические задания....................................................................... 79
Контрольные вопросы...................................................................... 79

3

Оглавление

Глава 5. Уменьшение размерности...................................................... 81
Генерируемые данные ...................................................................... 81
Метод главных компонент................................................................ 83
Набор данных MNIST....................................................................... 85
Практические задания....................................................................... 89
Контрольные вопросы...................................................................... 90
Глава 6. Кластеризация...................................................................... 91
Метрики расстояния......................................................................... 92
Алгоритм --">