Ханнес Хапке , Кэтрин Нельсон - Разработка конвейеров машинного обучения. Автоматизация жизненных циклов модели с помощью TensorFlow

распределения...............................................................................115
Настройка модели...........................................................................................118
Стратегии настройки гиперпараметров....................................................118
Настройка гиперпараметров в конвейерах TFX.......................................119
Резюме..............................................................................................................119

Глава 7. Анализ и проверка модели.......................................................120
Как проанализировать модель.......................................................................121
Метрики классификации............................................................................121
Метрики регрессии......................................................................................124
Анализ модели TensorFlow..............................................................................125
Анализ одной модели в TFMA....................................................................126
Анализ нескольких моделей в TFMA..........................................................129
Анализ достоверности модели.......................................................................130
Формирование срезов для прогнозов модели в TFMA.............................132
Проверка пороговых значений решений с использованием
метрик справедливости..............................................................................134
Проведение более детального анализа с помощью инструмента
анализа альтернатив (What-If Tool)...........................................................136

8 

Оглавление

Объяснение модели.........................................................................................140
Генерация объяснений с помощью WIT....................................................142
Другие методы объяснения........................................................................143
Анализ и проверка модели в TFX...................................................................145
ResolverNode................................................................................................145
Компонент Evaluator...................................................................................146
Проверка при помощи компонента Evaluator...........................................147
Компонент TFX Pusher................................................................................148
Резюме..............................................................................................................148

Глава 8. Развертывание модели с помощью
TensorFlow Serving........................................................................................149
Простой сервер моделей.................................................................................150
Недостатки развертывания моделей с помощью API на основе Python...... 151
Отсутствие разделения кода.......................................................................151
Отсутствие контроля версий модели.........................................................152
Неэффективный вывод модели..................................................................152
TensorFlow Serving...........................................................................................152
Обзор архитектуры TensorFlow......................................................................153
Экспорт моделей для TensorFlow Serving.......................................................153
Сигнатуры моделей.........................................................................................155
Методы сигнатуры......................................................................................155
Проверка экспортированных моделей..........................................................157
Проверка модели.........................................................................................158
Тестирование модели..................................................................................159
Установка TensorFlow Serving.........................................................................160
Установка Docker.........................................................................................160
Установка на Ubuntu....................................................................................160
Сборка TensorFlow Serving из исходного кода...........................................161
Настройка сервера TensorFlow........................................................................161
Конфигурация при работе с одной моделью.............................................162
Конфигурация при работе с несколькими моделями...............................164
REST или gRPC.................................................................................................166
REST..............................................................................................................166
gRPC..............................................................................................................166
Выполнение прогнозов на сервере моделей.................................................167
Получение прогнозов модели с использованием REST............................167
Работа с TensorFlow Serving через gRPC.....................................................169
A/B-тестирование модели с использованием TensorFlow Serving...............172
Запрос метаданных модели с сервера моделей............................................173
REST-запросы метаданных модели............................................................173
Запросы gRPC для метаданных модели.....................................................174

Оглавление 

9

Пакетные запросы на вывод прогнозов модели...........................................175
Настройка использования пакетного режима в прогнозировании.........177
Другие функции оптимизации TensorFlow Serving.......................................179
Альтернативы TensorFlow --">