Джон Д. Келлехер - Глубокое обучение. Самый краткий и понятный курс

интеллекта, посвящен­
ный моделированию крупных нейронных сетей, которые способны прини­
мать верные решения на основе данных. Глубокое обучение особенно хорошо
себя проявляет в задачах со сложными данными и огромными массивами
информации. На сегодняшний день оно применяется в большинстве ин­
тернет-компаний и высококачественных потребительских технологий. На­
пример, Facebook использует его, помимо прочего, для анализа текста в онлайн-переписках. Google, Baidu и Microsoft выполняют с его помощью поиск
по изображениям и машинный перевод. Системы глубокого обучения при­
сутствуют во всех современных смартфонах; например, они стали стандарт­
ной технологией для распознавания речи, а также для обнаружения лиц в ци­
фровых камерах. В сфере здравоохранения они применяются для обработки
медицинских изображений (рентгеновских снимков, результатов компью­
терной магнитно-резонансной томографии) и для диагностики состояния
здоровья. Глубокое обучение также является ключевым элементом беспи­
лотных автомобилей, отвечая за локализацию и сопоставление, планирова­
ние движения, рулевое управление и восприятие окружающей обстановки,
а также за отслеживание состояния водителя.
Возможно, самым известным примером глубокого обучения является
AlphaGo* от DeepMind. Го — это настольная игра, похожая на шахматы.
AlphaGo стала первой компьютерной программой, сумевшей победить про­
фессионального игрока. В марте 2016 года она обыграла ведущего корей­
ского профессионала Ли Седоля в матче, за которым следило больше двухсот
миллионов человек. А в 2017 году она выиграла у китайца Кэ Цзе, находив­
шегося на вершине мирового рейтинга.

* https://deepmind.com/research/alphago/. — Здесь и далее — прим. авт.

8

ГЛАВА 1

В 2016 году успех AlphaGo стал большим сюрпризом. На тот момент боль­
шинство людей считали, что компьютеры смогут на равных соперничать с иг­
роками высшего уровня лишь спустя много лет. Уже давно было известно, что
запрограммировать компьютер для игры в го намного сложнее, чем для игры
в шахматы. В го намного больше потенциальных комбинаций. Это обуслов­
лено тем, что го имеет большую доску и более простые правила. На самом
деле возможных комбинаций в го больше, чем атомов во вселенной. Такое
громадное пространство поиска и высокая степень ветвления (количество
состояний доски, которых можно достичь за один ход) делает го невероятно
сложной игрой — как для людей, так и для компьютеров.
Чтобы проиллюстрировать разницу в сложности между го и шахматами
с точки зрения компьютерных программ, можно сравнить историю поедин­
ков между людьми и компьютерами в этих двух играх. В 1967 году шахмат­
ная программа МасНаск-6, разработанная в MIT, успешно соперничала с жи­
выми игроками и имела рейтинг Эло* куда выше начального уровня. В мае
1997 года компьютер DeepBlue сумел обыграть чемпиона мира Гари Каспа­
рова. Для сравнения: первая полноценная программа для игры в го была на­
писана лишь в 1968 году, а в 1997-м сильные игроки по-прежнему легко обы­
грывали компьютеры.
Такое отставание отражает разницу в вычислительной сложности между
этими двумя играми. Тем не менее второй пример демонстрирует, насколько
революционным оказалось влияние глубокого обучения на конкурентоспо­
собность компьютеров при игре в го. Шахматным программам потребова­
лось 30 лет, чтобы достичь уровня чемпиона мира. Но благодаря глубокому
обучению программы для игры в го всего за семь лет преодолели разрыв ме­
жду опытным любителем и лучшим профессиональным игроком. Повышение
эффективности оказалось совершенно экстраординарным, и оно свидетель­
ствует также о прогрессе, который глубокое обучение принесло во многие
отрасли.
AlphaGo использует глубокое обучение для оценки состояний доски и для
выбора следующего хода. Этот факт помогает понять, почему глубокое об­
учение приносит значительную пользу во множестве разных предметных об­
ластей. Принятие решений играет ключевую роль в нашей жизни. Решения
можно принимать «интуитивно», доверившись своему «чутью». Но, наверное,
большинство людей согласятся с тем, что решения лучше всего основывать
* Рейтинговая система Эло — это метод определения уровня игроков в играх с нуле­
вой суммой, таких как шахматы. Она названа в честь ее создателя, Арпада Эло.

ВВЕДЕНИЕ В ГЛУБОКОЕ ОБУЧЕНИЕ

9

на соответствующей --">