Моделирование искусственных нейронных сетей

«МОДЕЛИРОВАНИЕ ИНС (ИСКУССТВЕННЫХ НЕЙРОННЫХ СЕТЕЙ)»
1) Содержание дисциплины
Тема 1. История, состояние и направления развития искусственного интеллекта.
Понятие искусственного интеллекта. История развития идей искусственного интеллекта.
Выделение
искусственного
Нейрокибернетика.
интеллекта
Кибернетика
нейросетевых устройств
и
в
самостоятельное
«черного
ящика».
алгоритмов. Проблемы
лабиринтного поиска. Эвристическое
научное
направление.
Основоположники
первых
моделирования мозга. Модель
программирование. Направления развития
искусственного интеллекта.
Тема 2. Интеллектуальные алгоритмы.
Метод «отжига» (Simulated annealing). Начальное решение. Оценка
решения.
Случайный поиск решения. Критерий допуска. Снижение температуры. Пример решения
задачи о размещении N ферзей (NQP). Алгоритмы муравья (Ant algorithms). Естественная
мотивация. Граф. Начальная популяция. Движение муравьев. Испарение фермента.
Пример решения задачи коммивояжера. Теория адаптивного резонанса (Adaptive
Resonance Theory). Биологическая мотивация. Алгоритм ART1. Детали алгоритма.
Обучение в ART1. Семейство алгоритмов ART. Пример решения задачи кластеризации
покупателей и подбора товара.
Тема 3. Нейронные сети и перцептроны.
Понятие искусственных нейронных сетей. Постановка задачи в терминах нейронной
сети. Выбор и анализ нейроархитектуры, адекватной задаче. Строение биологической
нервной системы. Нейрон. Формальный нейрон. Функции активации. Нейронные связи.
Моделирование булевых выражений. Однослойный перцептрон. Входной, ассоциативный
и эффекторный слои. Связи между слоями. Веса связей. Алгоритмы обучения и работы.
Пример решения задачи распознавания образов крестика и нолика.
Тема 4. Многослойные нейронные сети.
Проблема
отделимости
отделимости
(моделирование
многослойным
перцептроном
функции
XOR).
(MLP).
Решение
Функции
проблемы
активации
для
многослойных нейронных сетей. Алгоритм работы многослойных нейронных сетей.
Алгоритмы
обучения
многослойных
распространения
(Backpropagation
распространения
для
ошибки.
нейронных
algorithm).
Изменение
сетей.
Прямой
весов
Алгоритм
ход.
соединений.
обратного
Обратный
Расчет
ход
поведения
искусственного интеллекта для компьютерных игр. Архитектура нейроконтроллера.
Пример
реализации
алгоритма
обратного
распространения
при
реализации
нейроконтроллера для компьютерной игры.
Тема 5. Нейродинамика и прогнозирование.
Нейродинамическое программирование. Задача присваивания коэффициентов доверия
(credit assignment problem). Эффективный баланс между текущими и будущими затратами
для
оптимального
планирования.
Наблюдение
за
собственным
поведением.
Самосовершенствование. Моделирование с помощью метода Монте-Карло. Поиск
оптимальной стратегии. Проклятие размерности (curse of dimensionality). Неполнота
информации (incomplete information). Оптимальные и субоптимальные стратегии.
Функция отсчета. Приближенные затраты. Универсальные аппроксиматоры. Сети на
основе радиальных базисных функций. Пример нейросетевого решения задачи
прогнозирования колебания струны.
Тема 6. Системы, основанные на знаниях.
Терминология, используемая при представлении знаний и их соотношении с
данными. Виды знаний. Процедурные и декларативные знания. Методы представления
знаний. Продукционные правила. Фреймы. Семантические сети. Нечеткая логика.
2) Учебно-методическое обеспечение
а) основная литература:
1. А.А. Арзамасцев, Н.А. Зенкова. Искусственный интеллект и распознавание
образов: учеб. пособие / А. А. Арзамасцев, Н. А. Зенкова ; М-во обр. и науки РФ,
ГОУВПО «Тамб. гос. ун-т им. Г. Р. Державина». Тамбов: Издательский дом ТГУ им. Г. Р.
Державина, 2010. 196 с.
2. Девятков В.В. Системы искусственного интеллекта: Учеб. пособие для вузов. – М.:
Изд-во МГТУ им.Н.Э. Баумана, 2005. – 352 с.
3. Джордж Ф. Люггер, «Искусственный интеллект. Стратегии и методы решения
сложных проблем», Москва, «Вильямс», 2005.
4. Джонс М.Т. Программирование искусственного интеллекта в приложениях. – М.:
ДМК Пресс, 2004. – 312 с.
5. Сидоров С.Г., Чернышева Л.П., Ершов Б.Л., Ясинский Ф.Н. Нейрокомпьютеры.
Работа, устройство, моделирование на ПК. – Иваново.: ИГЭУ, 2005 г. – 24 с.
6. Хайкин Саймон. Нейронные сети: полный курс, 2-е издание. – М.: Издательский
дом "Вильямс", 2006. – 1104 с.
7. Ясницкий Л.Н. Введение в искусственный интеллект: Учеб. пособие для студ.
высш. учеб. заведений. – М.: Издательский центр "Академия", 2005. – 176 с.
8. В. Круглов, М. Дли, Р. Голунов Нечеткая логика и искусственные нейронные сети
Издательство: ФИЗМАТЛИТ, 2001 г., 224 с.
б) дополнительная литература:
9.
Алексеева И. Ю., «Человеческое знание и его компьютерный образ»,
Москва, «Наука», 2004.
10.
Вебер А.В., Данилов А.Д., Шифрин С.И. Knowledge-технологии в
консалтинге и управлении предприятием. – СПб: Наука и техника, 2007. – 176 с.
11.
Дюк В., Самойленко А. Data Mining: Учебный курс. – СПб.: Питер, 2005 г. –
368 с.
12.
Нейроматематика. Кн.6: Учеб. пособие для вузов / Агеев А.Д., Балухто А.Н.,
Бычков А.В и др.; Общая ред.А.И.Галушкина. – М.: ИПРЖР, 2006. – 448 с.
13.
Рутковская
Д.,
Пилиньский
М.,
Рутковский
Л.
Нейронные
сети,
генетические алгоритмы и нечеткие системы. – М.: Горячая линия – Телеком, 2006. – 452
с.
14.
Джесси Рассел Искусственная нейронная сеть 2012 г. 86 с.
15.
В. Боровиков Нейронные сети. Statistica Neural Networks. Методология и
технологии современного анализа данных. Издательство: Горячая Линия - Телеком, 2008
г., 392 с.
3) Требования
к
уровню
освоения
программы,
промежуточного контроля по дисциплине
формы
текущего,
Вопросы к зачету:
1. Понятие искусственного интеллекта. История развития идей искусственного
интеллекта.
2. Нейрокибернетика. Кибернетика «черного ящика». Проблемы моделирования
мозга.
3. Модель лабиринтного поиска. Эвристическое программирование.
4. Эволюционное моделирование.
5. Направления развития искусственного интеллекта.
6. Метод «отжига» (Simulated annealing).
7. Алгоритмы муравья (Ant algorithms).
8. Теория адаптивного резонанса (Adaptive Resonance Theory).
9. Семейство алгоритмов ART.
10. Биологический нейрон. Формальный нейрон. Функции активации.
11. Понятие искусственных нейронных сетей.
12. Нейронные связи. Веса связей. Обучение.
13. Моделирование булевых выражений.
14. Однослойный перцептрон. Алгоритмы обучения и работы.
15. Проблема отделимости (моделирование функции XOR).
16. Многослойный перцептрон (MLP). Функции активации для многослойных
нейронных сетей. Алгоритм работы многослойных нейронных сетей.
17. Алгоритм обратного распространения (Backpropagation algorithm).
18. Архитектура нейроконтроллера.
19. Нейродинамическое программирование.
20. Сети на основе радиальных базисных функций.
21. Нечеткая логика.
22. Терминология, используемая при представлении знаний. Виды знаний.
23. Методы представления знаний.