Применение нейронных сетей.

История ИИ.

Можно выделить несколько этапов становления науки о ИИ:

1. XIII век. Решение задач на основе всеобщей классификации понятий.
2. XVIII век. Попытка создания машины для символьных вычислений (Декарт и Лейбниц независимо). Была предложена классификация всех наук.
3. 40ые г.г. XX века. Появление кибернетики (Норберт Винер).

1956 г. - Появление термина AI (artificial intelligence) на конференции, посвящённой решению логических задач.

Выделяют 2 направления развития теории ИИ:

1. Моделирование деятельности человеческого мозга или нейрокибернетика. Используются психологические, нейрофизиологические исследования.
2. Кибернетика чёрного ящика.

Кибернетика проходит следующие этапы:

1. 50-е гг. XX века.

a) Решение задач выхода из лабиринта.

b) Оптимизации пути на графе.

c) Пятнашки.

d) Ханойская башня.

e) Шашки, шахматы.

f) Сочинение стихов, музыки.

g) Переводы с одного языка на другой.

1. 60ые гг. Появление эвристического программирования.
2. Конец 60ых гг. Появление методов логического программирования.

a) Метод резолюций – решение задач от обратного.

b) Метод обратного вывода

Появление первых языков ИИ на основе предложенных методов (Lisp, Prolog).

Появление моделей представления знаний: семантической сети (Кулиан), Фреймовая модель (Минский).

1. 1973 г. Конгресс в Великобритании о результатах вложение в исследования, на котором финансирование было сокращено, т.к. особых результатов не было.
2. 70ые гг. Финансирование в США работ по созданию ИИ.

Появление экспертных систем: по нефтеразведке, медицинская система (диагностика заболеваний и создание лекарств).

Использование нейронных сетей в военной промышленности

1. 80ые гг. ЕС начинает усиленное финансирование программы ESPRIT, в которую включена проблематика ИИ
2. Проект по созданию компьютеров 5го поколения в Японии.

Были созданы Lisp- и Prolog-процессоры и машины баз дынных и баз знаний.

Появление большого количества специалистов в области ИИ.

 

С конца 80ых гг. происходит коммерциализация систем ИИ.

 

Основные направления развития ИИ.

1. Фундаментальные исследования. Изучения деятельности мозга (институт мозга, психологии, лингвистики). Работы по совершенствованию шахматного процессора.
2. Внешняя интеллектуализация компьютеров существующей архитектуры (распознавание текста, изображений, синтез речи, мультимедиа).
3. Внутренняя интеллектуализация. Разработка новых компьютеров, построенных на принципах ИИ.

a) Ориентация на символьную обработку.

b) Распараллеливание процессов, т.е. решение задач на нескольких процессорах, создание распределённых приложений.

c) Аппаратная поддержка операций.

1. Новые технологии в различных областях:

a) Автоматизация программирования.

b) Автоматизация научных исследований.

c) Когнитивная компьютерная графика, которая автоматизирует процессы в различных системах.

d) Производство.

1. Создание роботов.

a) Специализированные вычислители

b) Сенсорные датчики.

c) Задачи движения.

d) Принятие решений.

 

В настоящее время выделяют следующие системы ИИ:

1. Информационно-поисковые (вопросно-ответные).
2. Расчётно-логические системы с ППП (MathCAD, MathLab, MathView).
3. Экспертные системы. Работают по принципу “причинаàследствие” и “если àто”.
4. Нейросистемы = программы + нейрочипы. Принцип обучения на примерах.
5. Гибридные системы ИИ – используют комбинацию различных систем методов.

 

Проблемы ИИ.

1. Центральная проблема – представление знаний.

Данные (синтаксис) – интерпретация (семантика)

Модели представления знаний носят декларативно-процедурный характер, т.е. в одной модели объединяются синтаксическая и семантическая модели:

· Семантические сети.

· Фреймовые модели.

· Продукционные системы.

· Логические (добавляется нечёткая логика).

1. Компьютерная лингвистика:

· Естественное языковое общение.

· Автоматический перевод.

1. Компьютерная логика. Моделирование человеческих рассуждений и принятия решений.
2. Адаптация и гибкость в решении задач. Возможность автоматического выбора подходящей модели, метода и алгоритма решения задачи предметной области.

 

Нейронные сети.

Выделяют особенности мозга:

· Массовый параллелизм.

· Высокая организация связей.

· Распределённые вычисления.

· Толерантность к ошибкам в информации.

· Контекстуальная обработка информации.

· Низкое энергопотребление (используются электрохимические сигналы с низким потенциалом и тд).

· Адаптивность.

· Обучаемость.

 

 

Искусственные нейронные сети – это обобщенное название нескольких групп алгоритмов и моделей, способных обучаться на примерах, извлекая скрытые закономерности из потока данных. Данные, поступающие на нейронную сеть, могут быть неполны и зашумлены.

Нейронная сеть способна автоматически настроиться на существующую взаимосвязь между данными.

Исторические этапы развития этой теории:

1. 1943 год – Был предложен искусственный нейрон (Макколокс, Питс).
2. Начало 60-х годов – многослойная нейронная сеть – перцепртрон (персепптрон) Розенблата. Основная идея: преобразование входного пространства признаков в пространство признаков соответствующих выходных сигналам.

Развитие работ пошло по направлению увеличения слоёв нейронной сети и организации связей между слоями. Основная проблема была в сходимости процесса обучения.

В конце 60-х ученым Минским доказана теорема об ограниченных возможностях обучения перцептрона.

3. Начало 80-х годов, модель Хопфилда – это сеть специальной архитектуры с набором ограничений, что позволило разработать алгоритм обучения на основе минимизации энергии сети. Для многослойного перцептрона Минским разработан алгоритм обратного распространения ошибки для обучения сети.

4. Конец 80-х годов и по нынешний день применение нейронных сетей для различных приложений, поскольку была доказана сходимость основных моделей, а также получена приемлемая точность решения задач.

 

Применение нейронных сетей.

1. Распознавание образов.
• Классификация, т. е. отнесение образа к одному из известных классов.
• Кластеризация. Происходит при обучении без учителя. Происходит формирование кластера, основанное на объективном подобии образов.
2. Аппроксимация функций. Есть обучающая выборка, которая генерируется неизвестной функцией, возможно искаженной шумом. Необходимо найти оценку этой функции. Данная функция минимизирует среднеквадратическую ошибку во входных данных.
3. Прогнозирование. Есть набор значений в последовательные моменты времени, необходимо найти (предсказать) значение в некоторый момент времени.
4. Задачи оптимизации. Оптимизация заключается в максимизации или минимизации целевой функции, которая удовлетворяет заданным ограничениям.
5. Ассоциативная память, то есть память, адресуемая по содержанию. Данная память позволяет получить информацию по неформальному описанию близкому к естественному восприятию, к примеру визуальный запрос.
6. Решение задач управления (u(t), y(t)). Необходимо в моменты времени вырабатывать такую последовательность управляющих сигналов, чтобы выходные сигналы соответствовали заданной модели.

Особенности:

1. Нейронные сети позволяют также оценивать важность различных видов информации для целевого поведения.
2. Кроме того, позволяют уменьшать объём входной информации без потери существенных данных.
3. Система может реагировать на нестандартные ситуации с учетом выделенных факторов.