Цель – построение, обучение и тестирование нейронной сети, предназначенной для определения направления сдвига двоичного кода.
Задание.
1. Создать и обучить нейронную сеть для определения направление циклического сдвига четырехпозиционного двоичного кода.
2. Проверить работоспособность нейронной сети.
3. Ответить на вопросы для самопроверки № 5 – 8.
Решение.
Рис. 1 Нейронная сеть 8-9-1
Рис. 2 Паттерн для сдвига
Рис. 3 График обучения
Рис. 4 Статистика (после обучения)
5. К какому типу алгоритмов обучения относится алгоритм обратного распространения, и в чем отличительная черта этих алгоритмов.
Ответ. Алгоритмы делятся на алгоритмы обучения с учителем и без учителя. Метод обратного распространения ошибки - метод обучения многослойного персептрона, относящийся к алгоритмам обучения с учителем (обучающая выборка). Используется с целью минимизации ошибки работы многослойного персептрона и получения желаемого выхода. Основная идея этого метода состоит в распространении сигналов ошибки от выходов сети к её входам, в направлении, обратном прямому распространению сигналов в обычном режиме работы.
6. Дайте свое определение «многослойному персептрону».
Ответ. Многослойный персептрон – это искусственная нейронная сеть, частный случай персептрона Розенблата, в которой один алгоритм обратного распространения ошибки обучает все слои, а именно особенностью этой ИНС является наличие более чем одного обучаемого слоя.
7. В чем заключается задача классификации?
Ответ. Задача классификации – формализованная задача, в которой имеется множество объектов, разделенных некоторым образом на классы. Задано конечное множество объектов, для которых известно, к каким классам они относятся. Это множество называется выборкой. Классовая принадлежность остальных объектов неизвестна. Требуется построить алгоритм, способный классифицировать произвольный объект из исходного множества. Классифицировать объект - значит, указать номер класса, к которому относится данный объект.
8. Почему, по Вашему мнению, наиболее распространенной топологией сети является модель обратного распространения информации?
Ответ. Модель сети с обратным распространением информации, то есть использующей метод обратного распространения ошибки, наиболее широко применяется, так как обладает наиболее быстрой скоростью расчета градиента, что позволяет сократить вычислительную сложность его расчета. И само обучение таким методом состоит в том, чтобы минимизировать ошибку на выходах сети. Поэтому он может считаться наиболее оптимальным, именно поэтому, скорее всего, и получил широкое распространение.
Дополнительное задание: создать нейронную сеть для сложения двух одноразрядных чисел. Проверить работу на двухзначных числах.
Решение.
Рис. 5 Нейронная сеть 2-3-1
Рис. 6 График обучения
Рис. 7 Обучающая выборка для суммы
Рис. 8 Статистика (после обучения)
Рис. 9 Проверка работоспособности сети
Рис. 10 Проверка работоспособности сети на двузначных числах
Вывод: если на выходе ожидается значение большее, чем было представлено на выходах обучающей выборки, то сеть в качестве выхода вернет именно это максимальное значение из обучающей выборки.
ЛАБОРАТОРНАЯ РАБОТА № 7.
РАСПОЗНАВАНИЕ СИМВОЛОВ
Цель – разработать и исследовать нейронную сеть обратного распространения, предназначенную для распознавания образов.
Задание.
1. Построить и обучить нейронную сеть, которая могла бы решать задачу распознавания символов.
2. Произвести тестирование нейронной сети при добавлении шума.
Решение.
Рис. 1 Нейронная сеть 9-6-4
Рис. 2 График обучения
Рис. 3 Паттерн для распознавания букв
Рис. 4 Статистика (после обучения)
Рис. 5 Распознавание буквы «X»
Рис. 6 Распознавание буквы «X» с шумом
Дополнительное задание: создать нейронную сеть для распознавания цифр. Протестировать при добавлении шума.
Решение.
Рис. 7 Нейронная сеть 15-16-10
Рис. 8 Паттерн для распознавания цифр
Рис. 9 График обучения
Рис. 10 Статистика (после обучения)
Рис. 11 Распознание цифры «0»
Рис. 12 Распознание цифры «0» с шумом
Дополнительное задание.
Цель – разработать и исследовать ИНС обратного распространения для искусственного носа, предназначенного для химического анализа воздушной среды.
Задание.
1. Исследовать и проанализировать имеющиеся экспериментальные данные, и определить количество вводов и выводов, требуемых для полносвязанной ИНС обратного распространения.
2. Создать и обучить нейронную сеть, которая будет способна указывать наличие определенных примесей в воздухе при анализе показаний химических датчиков.
3. Обучить нейронную сеть, расшив количество представительских выборок (обучающих пар), применяемых для обучения ИНС
4. Определить оптимальную структуру нейронной сети с точки зрения минимизации среднеквадратической ошибки обучения.
5. Обучить ИНС, изменив параметры алгоритма обратного распространения.
6. Для пп. 1–3 построить графические зависимости среднеквадратической ошибки обучения от количества нейронов, используемых в скрытых слоях, и от количества итераций, используемых для обучения.
7. Сравнить результаты обучения в пп. 1–3.
8. Ответить на вопросы лабораторной работы.
Решение.
Рис. 13 Нейронная сеть 11-4-6
Рис. 14 Паттерн для распознавания состояния «нет»
Рис. 15 График обучения
Рис. 16 Статистика (после обучения)
Рис. 17 Распознавание выхода «нет»
Рис. 18 Нейронная сеть 11-100-6
Рис. 19 График обучения
Рис. 20 Паттерн для распознавания 6 состояний
Рис. 21 Статистика (после обучения)
Рис. 22 Распознавание состояния «аммиак»
Рис. 23 Зависимость ошибки от количества нейронов во внутреннем слое (1000 эпох, 1 выборка)
Рис. 24 Зависимость ошибки от количества эпох
(100 нейронов, 1 выборка)
Рис. 25 Зависимость ошибки от количества нейронов во внутреннем слое (1000 эпох, 6 выборок)
Рис. 26 Зависимость ошибки от количества эпох
(100 нейронов, 6 выборок)
1. Назовите основное свойство многослойных нейронных сетей прямого распространения.
Ответ. Она состоит из простых вычислительных элементов (нейронов), которые связаны между собой посредством синаптических связей. Ее особенностью является послойная организация нейронов и односторонняя передача сигнала от предыдущего слоя к последующему. Слои нейронов с первого по предпоследний называются скрытыми слоями, а последний слой называется выходным.
2. Какие существуют модификации алгоритма обратного распространения?
Ответ. На данный момент существует несколько модификаций алгоритма обратного распространения:
· Метод ускорения сходимости алгоритма обратного распространения (обратное распространение второго порядка)
· Метод улучшения характеристик обучения сетей обратного распространения
3. Назовите распространенные направления применения искусственного носа.
Ответ. Искусственный нос может применяться для контроля атмосфера в воздушной среде промышленных, офисных и домашних помещениях.