Кэти Уорр - Надежность нейронных сетей: укрепляем устойчивость ИИ к обману

глубокого обучения...................................................... 21
Неожиданное открытие: оптические иллюзии искусственного интеллекта........ 23
Что такое вредоносные входные данные........................................................... 26
Вредоносное искажение............................................................................... 28
Неестественные вредоносные входные данные............................................ 29
Вредоносная заплатка.................................................................................. 31
Вредоносные образы в физическом мире..................................................... 33
Вредоносное машинное обучение в более широком смысле.............................. 35
Последствия воздействия вредоносных входных данных................................... 36
Глава 2. Мотивация к атакам................................................................................. 38
Обход веб-фильтров.......................................................................................... 39
Репутация в Интернете и управление брендом.................................................. 41
Камуфляж против видеонаблюдения................................................................. 42
Личная конфиденциальность в Интернете......................................................... 43

Оглавление   7

Дезориентация автономных транспортных средств........................................... 44
Устройства с голосовым управлением................................................................ 46
Глава 3. Основные понятия ГНС............................................................................ 48
Машинное обучение.......................................................................................... 48
Концептуальные основы глубокого обучения.................................................... 50
Модели ГНС как математические функции......................................................... 55
Входные и выходные данные ГНС................................................................. 58
Внутреннее содержимое ГНС и обработка
с прямым распространением........................................................................ 59
Как обучается ГНС....................................................................................... 63
Создание простого классификатора изображений............................................. 69
Глава 4. ГНС-обработка изображений, аудио- и видеоданных............................... 76
Изображения..................................................................................................... 77
Цифровое представление изображений....................................................... 78
ГНС для обработки изображений.................................................................. 80
Общие сведения о сверточных нейронных сетях.......................................... 81
Аудиоданные..................................................................................................... 87
Цифровое представление аудиоданных........................................................ 88
ГНС для обработки аудиоданных.................................................................. 89
Общие сведения о рекуррентных нейронных сетях...................................... 91
Обработка речи............................................................................................ 94
Видеоданные..................................................................................................... 96
Цифровое представление видеоданных....................................................... 96
ГНС для обработки видеоданных.................................................................. 96
Соображения о вредоносности.......................................................................... 97
Классификация изображений с помощью сети ResNet50.................................... 99

Часть II. Генерация вредоносных входных данных
Глава 5. Базовые принципы вредоносных входных данных................................. 104
Входное пространство..................................................................................... 105
Обобщение обучающих данных.................................................................. 110
Эксперименты с данными вне распределения............................................ 113
Что «думают» ГНС........................................................................................... 114
Искажающая атака: максимальный эффект
при минимальном изменении.......................................................................... 120

8  

Оглавление

Вредоносная заплатка: максимальное отвлечение внимания........................... 122
Оценка выявляемости атак.............................................................................. 123
Математические методы оценки искажения............................................... 124
Особенности человеческого восприятия..................................................... 127
Резюме............................................................................................................ 129
Глава 6. Методы генерации вредоносных искажений.......................................... 132
Методы белого ящика...................................................................................... 135
Поиск во входном пространстве................................................................. 136
Использование линейности модели............................................................ 139
Вредоносная значимость............................................................................ 148
Повышение надежности вредоносного искажения...................................... 154
Разновидности методов белого ящика........................................................ 156
Методы ограниченного черного ящика............................................................ 157
Методы черного --">