Сверточные нейронные сети | Глубокое обучение на Python
Краткий обзор архитектуры сверточных нейронных сетей. Страница курса – http://www.asozykin.ru/courses/nnpython.
Принципы сверточных нейронных сетей (convolutional neural networks):
– Локальное восприятие.
– Разделяемые веса.
– Уменьшение размерности.
Сверточная сеть состоит из чередующихся слоев свертки и подвыборки.
Нейроны сверточного слоя подключаются не ко всем нейронам предыдущего слоя, а к ограниченной области размером 3х3 или 5х5 нейронов (иногда больше). На этой области выполняется операция свертки с использованием так называемого ядра свертки – матрицы такой же размерности, как и область входных сигналов.
В нейронных сетях ядра свертки определяются автоматически в процессе обучения.
Слой подвыборки выполняет уменьшение размерности. Раньше использовалось усреднение, а теперь чаще применяется выбор максимального значения.
Рассматривается пример сверточной сети LeNet-5, которую разработал Ян Лекун для распознавания рукописных цифр индекса на почтовых отправлениях.
Для обучения сверточных сетей используется алгоритм обратного распространения ошибки с ограничением на веса.
При реализации проекта используются средства поддержки, выделенные в качестве гранта на основании конкурса, проведенного Общероссийской общественно-государственной просветительской организации «Российское общество «Знание».
Мой канал с краткими и понятными объяснениями сложных тем в ИТ и компьютерных науках:
https://goo.gl/kW93MA
Андрей Созыкин
Меня зовут Андрей Созыкин, я работаю в университете, веду курсы по компьютерным наукам. Здесь представлены видеолекции, подготовленные на основе этих курсов. Для видеолекций я отбираю самые важные материалы, необходимые для понимания предмета, и рассказываю их кратко, без лишних деталей, которые затруднят восприятие. Несмотря на краткость, изложение ведется системно; это не набор забавных видео, никак не связанных между собой.
Последние сообщения
127 полезных и бесплатных онлайн академий
24.04.2019
Ресурсы для objective-C программистов
21.03.2018