Андрей Бурков - Машинное обучение без лишних слов

Особенности алгоритмов обучения................................................................. 67
Глава 5. Практические основы.................................................................................. 69
5.1. Проектирование признаков............................................................................. 69
5.2. Выбор алгоритма обучения............................................................................. 74
5.3. Три набора..................................................................................................... 76
5.4. Недообучение и переобучение........................................................................ 78
5.5. Регуляризация................................................................................................ 81
5.6. Оценка эффективности модели....................................................................... 82
5.7. Настройка гиперпараметров............................................................................ 88
Глава 6. Нейронные сети и глубокое обучение.......................................................... 91
6.1. Нейронные сети.............................................................................................. 91
6.2. Глубокое обучение......................................................................................... 95
Глава 7. Проблемы и решения................................................................................. 110
7.1. Ядерная регрессия........................................................................................ 110
7.2. Многоклассовая классификация.................................................................... 112
7.3. Одноклассовая классификация..................................................................... 113
7.4. Классификация с многими метками............................................................... 116
7.5. Обучение ансамбля....................................................................................... 118
7.6. Обучение маркировке последовательностей................................................. 123
7.7. Обучение преобразованию последовательностей в последовательности....... 124
7.8. Активное обучение....................................................................................... 126
7.9. Обучение с частичным привлечением учителя.............................................. 128
7.10. Обучение с первого раза............................................................................. 131
7.11. Обучение без подготовки............................................................................ 133

Оглавление   7

Глава 8. Продвинутые методики.............................................................................. 135
8.1. Работа с несбалансированными наборами данных........................................ 135
8.2. Объединение моделей.................................................................................. 137
8.3. Обучение нейронных сетей........................................................................... 139
8.4. Продвинутая регуляризация......................................................................... 140
8.5. Обработка нескольких входов....................................................................... 141
8.6. Обработка нескольких выходов.................................................................... 142
8.7. Перенос обучения......................................................................................... 143
8.8. Эффективность алгоритмов.......................................................................... 144
Глава 9. Обучение без учителя............................................................................... 147
9.1. Оценка плотности......................................................................................... 147
9.2. Кластеризация.............................................................................................. 149
9.3. Сокращение размерности.............................................................................. 159
9.4. Обнаружение аномалий................................................................................ 164
Глава 10. Другие формы обучения.......................................................................... 165
10.1. Определение метрик................................................................................... 165
10.2. Определение ранга..................................................................................... 167
10.3. Обучение делать рекомендации.................................................................. 170
10.4. Самообучение с учителем: вложения слов.................................................. 174
Глава 11. Заключение............................................................................................. 177
11.1. Что не было затронуто................................................................................ 177
11.2. Благодарности............................................................................................ 181
Алфавитный указатель........................................................................................ 183

Моим родителям Татьяне и Валерию и моей семье:
дочерям Катрин и Еве и брату Дмитрию

Все модели ошибочны, но некоторые
­полезны.
Джордж Бокс
Письмо это вышло более длинным
только потому, что мне некогда было
написать его короче.
Блез Паскаль

Предисловие
к русскому изданию

Машинное обучение, наверное, самая горячая и быстроразвивающаяся дисциплина в современной информатике, если не в современной науке вообще. Каждый день появляются новые модели и выходят новые статьи, раз в пару месяцев
происходит очередной прорыв, который попадает в новости и открывает новые
возможности, а раз в год-два происходит переворот в целой отрасли. Вот уже
десять лет, после революции глубокого обучения, мы живем на новой (третьей)
волне хайпа искусственного интеллекта, и пока ничто не предвещает, что она
скоро --">