Грант Бейлевельд , Джон Крон , Аглаэ Бассенс - Глубокое обучение в картинках. Визуальный гид по искусственному интеллекту

переобучения).......................178
Регуляризация L1 и L2.........................................................................................................180
Прореживание.........................................................................................................................181
Обогащение данных..............................................................................................................184
Необычные оптимизаторы.........................................................................................................184
Метод моментов......................................................................................................................185

Оглавление

  9

Метод Нестерова....................................................................................................................185
AdaGrad.....................................................................................................................................185
AdaDelta и RMSProp............................................................................................................186
Adam............................................................................................................................................187
Глубокая нейронная сеть на основе Keras............................................................................188
Регрессия..........................................................................................................................................189
TensorBoard.....................................................................................................................................192
Итоги.................................................................................................................................................195

ЧАСТЬ III. ИНТЕРАКТИВНЫЕ ПРИЛОЖЕНИЯ ГЛУБОКОГО ОБУЧЕНИЯ...........................................197
Глава 10. Компьютерное зрение....................................................................... 198
Сверточные нейронные сети.....................................................................................................198
Двумерная структура визуальных изображений........................................................199
Вычислительная сложность...............................................................................................199
Сверточные слои....................................................................................................................200
Множество фильтров............................................................................................................202
Пример сверточной сети......................................................................................................203
Гиперпараметры сверточных фильтров.........................................................................207
Слои субдискретизации..............................................................................................................209
LeNet-5 в Keras...............................................................................................................................211
AlexNet и VGGNet в Keras.........................................................................................................217
Остаточные сети............................................................................................................................220
Затухание градиентов: ахиллесова пята глубоких сверточных сетей.................220
Остаточные связи...................................................................................................................221
ResNet.........................................................................................................................................223
Применения компьютерного зрения......................................................................................224
Обнаружение объектов........................................................................................................225
Сегментация изображений.................................................................................................229
Перенос обучения..................................................................................................................231
Капсульные сети . ..................................................................................................................235
Итоги.................................................................................................................................................236
Глава 11. Обработка естественного языка......................................................... 238
Предварительная обработка данных на естественном языке........................................238
Лексемизация..........................................................................................................................241
Преобразование всех символов в нижний регистр....................................................244
Удаление стоп-слов и знаков препинания....................................................................244

10  

ОГЛАВЛЕНИЕ

Стемминг...................................................................................................................................245
Обработка n-грамм................................................................................................................246
Предварительная обработка полного корпуса.............................................................248
Создание векторных представлений с помощью алгоритма word2vec......................251
Теоретические основы алгоритма word2vec.................................................................251
Вычисление векторов слов.................................................................................................254
Запуск word2vec.....................................................................................................................254
Отображение векторов слов на графике........................................................................259
Площадь под кривой ROC.........................................................................................................262
Матрица ошибок....................................................................................................................264
Вычисление метрики ROC AUC......................................................................................265
Классификация естественного языка с использованием уже знакомых сетей.......268
Загрузка отзывов к --">