Министерство экономического Министерство общего и

Министерство экономического
развития и торговли
Российской Федерации
Министерство общего и
профессионального образования
Российской Федерации
Государственный университет Высшая школа экономики
Программа дисциплины
«Нейросетевые технологии»
для направления 521500 — Менеджмент (третья ступень высшего
профессионального образования — магистерская подготовка)
Москва 2001 г.
1. Пояснительная записка
Автор программы: программу дисциплины разработал к-т.н., с.н.с. Грекул В.И..
Требования к студентам:
дисциплина "Нейросетевые технологии" рекомендуется для студентов магистратуры направления
«Менеджмент» и предусматривает предварительное изучение таких дисциплин, как:
"Математический анализ", "Теория вероятностей и математическая статистика", "Исследование
операций ", "Информатика ".
Ключевые понятия: искусственный нейрон, искусственные нейронные сети, модели
искусственных нейронных сетей, обучение искусственных нейронных сетей, нейросетевое
прогнозирование и рейтингование, извлечение правил из искусственных нейронных сетей.
Аннотация:
Моделирование нейронных сетей - одно из перспективных направлений информатики,
объединяющее совокупность параллельных вычислительных процедур "имитирующих" работу мозга
человека.
озможности нейросетевой технологии позволяют реализовывать решение задач из различных
отраслей экономики и областей деятельности человеческого общества. Но наиболее эффективным
является применение искусственных нейронных сетей для решения трудноформализуемых и
неформализуемых задач, а также процедур высокой вычислительной сложности. К ним относятся:
• распознавание образов, сцен (например финансовый анализ временных данных, диагностика в
медицине и т.п.) и ситуационное управление;
• поиск оптимальных решений задач, описываемых сложным деревом целей (например прокладка графика вычислительных и телекоммуникационных сетей, игра в шахматы,
принятие решений в экспертных системах и т.п.);
• изучение и прогноз временной эволюции сложных многофакторных систем, включающих в
себя экономические и социологические системы, системы управления и пр.;
• семантический анализ данных;
• поведенческие решения в робототехнике.
Курс лекций содержит систематизированный материал, представляющий методы решения задач,
основанные на принципах обработки информации биологическими системами.
В качестве примеров использования рассматриваемых нейросетевых технологий
рассматривается решение конкретных прикладных задач информатики - обработка финансовых
временных рядов, принятие решений в бизнесе, извлечение знаний, рейтингование.
В процессе лабораторных работ слушатели приобретут навыки использования нейроприложений
при работе с пакетами Neural Networks Toolbox, Fuzzy Logic Toolbox и др.
Учебная задача дисциплины.
В результате изучения дисциплины слушатель должен:
- знать основные подходы решения задач на базе нейросетевьк технологий;
- уметь поставить и представить конкретную задачу в нейросетевом логическом базисе;
- иметь представление о возможностях и сферах применения современной теории
искусственных нейронных сетей;
- обладать навыками решения задач маркетинга и финансового анализа с помощью
инструментальных средств искусственных нейронных сетей.
Формы контроля:
текущий контроль:
эссе,
контрольная работа,
лабораторная работа;
итоговый контроль - зачет.
Итоговая оценка складывается из оценок текущего контроля (Оэ - оценка за эссе, Окр - за
контрольную работу. Одр - за лабораторную работу) и оценки итогового тестирования (Оит) в 10балльной шкале.
Весовые коэффициенты форм текущего и итогового контроля:
- эссе
-0,1,
- контрольная работа - 0,2,
- лабораторная работа - 0,2,
- итоговый тест - 0,5.
Средневзвешенная оценка
Оср = 0,1*0э + 0,2*0кр + 0,2*0лр + 0,5*0^. Результирующая
оценка
если Оср > 3, то О = "зачет";
если Оср < 3, то О = "незачет".
2. Содержание программы.
Тема 1. Введение в теорию искусственных нейронных сетей. Примеры решения задач.
Первые разработки нейрокомпьютеров. Персептрон Ф. Розенблатта. Теоретические работы Д.
Хопфилда. Предложения Д. Румельхарта по методике обучения нейронных сетей.
Нейросетевые системы в экономике и бизнесе: предварительной обработки транзакций на
валютных биржах, управления портфелями, контроля транзакций по пластиковым картам,
предсказания риска, оптимизации товарных и денежных потоков, предсказания финансовых
временных рядов.
Нейросетевые системы в Internet, медицине, технике, связи.
Тема 2. Биологические предпосылки разработки искусственных нейронных сетей.
Структура мозга. Биологическая модель нейрона. Нейронные структуры нервной системы. Левое
и правое полушария коры головного мозга человека. Нейронный компьютер и правое полушарие
коры головного мозга человека.
Сравнительные характеристики традиционных ЭВМ и нейрокомпьютеров. Нейронные
компьютеры - компьютеры 6-го поколения. Перспективы развития нейрокомпьютинга.
Тема 3. Математическая формализация нейронной структуры и алгоритмов решения задач.
Модели искусственного нейрона, слоя нейронов, искусственной нейронной сети. Синаптические
связи нейронов. Функции активации. Понятия нейронного алгоритма, шага работы нейронной сети.
Нейронный алгоритм и нейронная сеть решения задачи обращения числа. Нейронный алгоритм
сортировки, использующий нейросеть с аналитически определяемыми весовыми коэффициентами.
Нейронный алгоритм сортировки, использующий нейронную сеть с настраиваемыми весовыми
коэффициентами. Нейронные алгоритмы решения систем алгебраических и дифференциальных
уравнений.
Темя 4. Классические модели искусственных нейронных сетей.
Многослойный персептрон. Архитектура сети. Процедура обучения. Критерий оценки ошибки
обобщения. Параметрические особенности выбора оптимальной модели структуры нейронной сети.
Области применения.
Искусственная нейронная сеть Кохонена. Архитектура сети. Процедура обучения сети.
Использование латеральных связей. Предобработка входной и выходной информации.
Параметрические особенности выбора оптимальной модели структуры нейронной сети.
Кластеризация.
Искусственная нейронная сеть Хопфилда. Архитектура сети. Функция энергии сети. Матрица
синаптических связей. Функционирование сети. Решение задачи коммивояжера
Базисно-радиальные искусственные нейронные сети. Архитектура сети. Процедура обучения сети.
Области применения.
Тема 5. Предобработка данных.
Принципы кодирования входной и выходной информации. Нормировка данных. Понижение
размерности входов. Квантование входов.
Тема 6. Нейросетевое предсказание и рейтингование.
Технический анализ и нейронные сети. Методика предсказания временных рядов. Метод
погружения. Теорема Такенса. Формирование входного пространства признаков. Метод
искусственных примеров. Выбор функционала ошибки. Использование комитетов нейронных сетей.
Понятие рейтингования. Нейросетевое рейтингование ценных бумаг. Предсказание банкротств.
Сравнительный анализ финансового состояния фирм.
Тема 7. Извлечение правил. Анализ значимости входов.
Искусственный интеллект, экспертные системы и нейронные сети. Извлечение правил из
нейронных сетей. Алгоритм NEURORUL. Прореживание нейронных сетей. Обучение нейронных
сетей с одновременным исправлением данных. Алгоритм TREPAN для извлечения деревьев решений
с использованием нейронных сетей.
Сравнительные характеристики нейросетевых методов и экспертных систем. Нейросетевые
экспертные системы. Сети интервальных нейронов. Принятие решений в торговых операциях.
3. Учебно-методическое обеспечение дисциплины.
1. Литература
Основная литература:
1.
Круглой В.В., Борисов В.В. Искусственные нейронные сети. Теория и
Горячая линия - Телеком, 2001
практика.
М.:
Дополнительная литература:
1. Веденов А.А. Моделирование элементов мышления. М.: Наука, 1988
2. Кохонен Т. Ассоциативная память. М: Мир, 1980
3. Розенблатт Ф. Принципы нейродинамикн. М.: Мир, 1964
4. Широков Ф.В. Введение в нейрокомпьютннг. М.: ИНФРА-М, 1995
5.
Широков Ф.В. Нейросети на шине УМЕ. Краткая история нейроинформатики. М.: ТАМАНИ,
1998
6.
Горбань А.Н., Росснев Д.А. Нейронные сети на персональном компьютере. М.: СП "Наука"
РАН, 1996
7.
Круглов В.В., Дли М.И., Голунов Р.Ю. Нечеткая логика и искусственные нейронные сети.
М:.Физматлит, 2001
2.
Тематика эссе.
1.
Оценка стоимости недвижимости с помощью нейросетевых технологий.
2.
Нейросетевое предсказание финансовых рынков.
3.
Применение нейросетевых технологий в медицине.
4.
Применение нейросетевых технологий в глобальной сети Internet.
5.
Нейросетевые системы контроля транзакций по пластиковым картам.
6.
Нейросетевые системы принятия решений в торговых операциях.
7.
История развития нейрокомпьютинга.
4. Тематический расчет часов
№ п\п Наименование разделов Аудиторные часы
и тем
Лекции
Сем.или
практ.
занятия
Beer о
Контр. и\или Самосто
курсовые
ятельная
работы
работа
Всего
часов
1
Тема 1. Введение в
теорию искусственных
нейронных сетей.
Примеры решения
задач.
2
2
4
6
2
Тема 2. Биологические
предпосылки
разработки
искусственных
нейронных сетей.
2
2
4
6
3
ТемаЗ. Математическая 2
формализация
нейронной структуры и
алгоритмов решения
задач.
4
6
6
12
4
Темя 4. Классические
модели искусственных
нейронных сетей.
6
8
6
14
5
Тема 5. Предобработка
данных.
4
4
2
6
6
Тема 6. Нейросетевое
предсказание и
рейтингование.
2
6
8
8
16
7
Тема 7. Извлечение
правил. Анализ
значимости входов.
2
4
6
6
12
Итого часов
12
24
36
36
72
2