Информационные технологии управления персоналом Направления подготовки: 080500.62 МЕНЕДЖМЕНТ (профиль

advertisement
Информационные технологии управления персоналом
Направления подготовки: 080500.62 МЕНЕДЖМЕНТ (профиль
Управление персоналом), 080400.62 УПРАВЛЕНИЕ ПЕРСОНАЛОМ
Институт ИИБС, кафедра ИСПИ, ауд.1448
Винтонива Наталья Ивановна
Тема 8. Современные
направления развития
нейрокомпьютерных
технологий
Содержание
Нейронная сеть
Модели нейронных сетей
Искусственные нейронные сети
Обучение искусственной нейронной сети,
виды обучения
5. Способы реализации нейронных сетей
6. Нейрокомпьютеры
7. Практическое применение нейронных
сетей
1.
2.
3.
4.
Термин «нейронные сети»
• у многих ассоциируется с фантазиями об
андроидах и бунте роботов, о машинах,
заменяющих и имитирующих человека.
• Это впечатление усиливают многие
разработчики нейросистем, рассуждая о
том, как в недалеком будущем, роботы
начнут осваивать различные виды
деятельности, просто наблюдая за
человеком.
Нейронная сеть
• представляет собой совокупность
большого числа сравнительно
простых элементов - нейронов,
топология соединений которых
зависит от типа сети.
Нейронные сети
подходят для
распознавания
образов и решения
задач
классификации,
оптимизации и
прогнозирования
Распознавание образов:
• изображений, человеческих лиц, букв и
иероглифов, отпечатков пальцев в
криминалистике, речи, сигналов радара и
сонара, элементарных частиц и
происходящих с ними физических
процессов (эксперименты на ускорителях
или наблюдение за космическими лучами),
заболеваний по симптомам (в медицине),
местностей, где следует искать полезные
ископаемые (в геологии, по косвенным
признакам), признаков опасности в
системах безопасности.
Прогнозирование в
реальном времени:
• погоды, курса акций (и других
финансовых показателей), исхода
лечения, политических событий
(результатов выборов,
международных отношений и др.),
поведения противника (реального или
потенциального) в военном конфликте
и в экономической конкуренции,
устойчивости супружеских отношений.
Оптимизация
• — поиск наилучших вариантов: при
конструировании технических
устройств, при выборе экономической
стратегии, при подборе команды (от
сотрудников предприятия до
спортсменов и участников полярных
экспедиций), при лечении больного.
Чтобы создать нейронную сеть для
решения какой-либо конкретной задачи
• необходимо выбрать, каким образом
следует соединять нейроны друг с
другом, и соответствующим образом
подобрать значения весовых
параметров на этих связях.
Модели нейронных сетей
• Модель Маккалоха
• Модель Розенблата
• Модель Хопфилда
Модель Маккалоха
• Теоретические основы
нейроматематики были заложены в
начале 40-х годов.
• В 1943 году У. Маккалох и его ученик
У. Питтс сформулировали основные
положения теории деятельности
головного мозга.
Учеными были получены
следующие результаты:
• разработана модель нейрона как простейшего
процессорного элемента, выполняющего
вычисление переходной функции от скалярного
произведения вектора входных сигналов и вектора
весовых коэффициентов;
• предложена конструкция сети таких элементов для
выполнения логических и арифметических
операций;
• сделано основополагающее предположение о том,
что такая сеть способна обучаться, распознавать
образы, обобщать полученную информацию.
Модель Розенблата
• В 1958 году он предложил свою
модель нейронной сети.
Американский нейрофизиолог
Френсис Розенблат (Корнелльский
университет) ввел в модель
Маккаллока и Питтса способность
связей к модификации, что сделало
ее обучаемой. Эта модель была
названа перцептроном.
Модель Розенблата
• Первоначально перцептрон представлял
собой однослойную структуру с жесткой
пороговой функцией процессорного
элемента и бинарными или многозначными
входами.
• Первые перцептроны были способны
распознавать некоторые буквы латинского
алфавита. Впоследствии модель
перцептрона была значительно
усовершенствована.
Алгоритм обучения перцептрона
выглядит следующим образом:
• системе предъявляется эталонный образ;
• если выходы системы срабатывают
правильно, весовые коэффициенты связей
не изменяются;
• если выходы срабатывают неправильно,
весовым коэффициентам дается
небольшое приращение в сторону
повышения качества распознавания.
Модель Хопфилда
• Начало современному
математическому моделированию
нейронных вычислений было
положено работами Хопфилда в 1982
году, в которых была сформулирована
математическая модель
ассоциативной памяти на нейронной
сети.
Черты живых нейронных
сетей
• В основу искусственных нейронных
сетей положены следующие черты
живых нейронных сетей,
позволяющие им хорошо справляться
с нерегулярными задачами:
Черты живых нейронных
сетей
• простой обрабатывающий элемент нейрон;
• очень большое число нейронов участвует в
обработке информации;
• один нейрон связан с большим числом
других нейронов (глобальные связи);
• изменяющиеся веса связей между
нейронами;
• массированная параллельность обработки
информации.
Биологический нейрон
• Прототипом для создания нейрона
послужил биологический нейрон
головного мозга.
• Биологический нейрон имеет тело,
совокупность отростков - дендридов,
по которым в нейрон поступают
входные сигналы, и отросток - аксон,
передающий выходной сигнал
нейрона другим клеткам.
Нейроны
• - это специальная клетки, способные
распространять электрохимические
сигналы.
Схема биологического
нейрона (нервная клетка)
Синапс
• Точка соединения дендрида и аксона
называется синапсом.
• Когда импульс достигает
синаптического окончания,
вырабатываются химические
вещества, называемые
нейротрансмиттерами.
Функционирование нейрона
• Нейротрансмиттеры проходят через
синаптичную щель, и в зависимости
от типа синапса, возбуждая или
тормозя способность нейронаприемника генерировать
электрические импульсы.
Функционирование нейрона
• Результативность синапса настраивается
проходящими через него сигналами,
поэтому синапсы обучаются в зависимости
от активности процессов, в которых они
принимают участие.
• Нейроны взаимодействуют с помощью
короткой серии импульсов. Сообщение
передается с помощью частотноимпульсной модуляции.
Искусственные нейронные сети
• представляют собой устройства
параллельных вычислений,
состоящие из множества
взаимодействующих простых
процессоров.
Искусственные нейронные
сети
• Нейронные сети находят свое
применение в системах
распознавания образов, обработки
сигналов, предсказания и
диагностики, в робототехнических и
бортовых системах.
Базовый искусственный
нейрон
Входные сигналы xn взвешенные
весовыми коэффициентами соединения
wn складываются, проходят через
передаточную функцию, генерируют
результат и выводятся.
Диаграмма простой
нейронной сети
Искусственные нейронные
сети
• Слой входных нейронов получает
данные или из входных файлов, или
непосредственно с электронных
датчиков. Выходной слой пересылает
информацию непосредственно во
внешнюю среду, ко вторичному
компьютерному процессу, или к
другому устройству.
Искусственные нейронные
сети
• Между этими двумя слоями может
быть несколько скрытых слоев,
содержащих много разнообразно
связанных нейронов. Входы и выходы
каждого из скрытых нейронов
соединены с другими нейронами.
Обучение нейронных сетей
• Нейронные сети не программируются
в привычном смысле этого слова, они
обучаются. Возможность обучения —
одно из главных преимуществ
нейронных сетей перед
традиционными алгоритмами.
Обучение искусственной
нейронной сети
• Для процесса обучения необходимо иметь
модель внешней среды, в которой
функционирует нейронная сеть - нужную
для решения задачи информацию. Вовторых, необходимо определить, как
настраиваются весы связей сети. Алгоритм
обучения означает процедуру, в которой
используются правила обучения для
настраивания весов.
Существуют три вида обучения:
• "с учителем",
• "без учителя"
(самообучение)
и
• смешанное
Обучение «с учителем»
• В первом случае нейросеть имеет в
своем распоряжении правильные
ответы (выходы сети) на каждый
входной пример.
• Весы настраиваются так, чтобы сеть
вырабатывала ответы близкие к
известным правильным ответам.
Обучение «без учителя»
• Обучение «без учителя» не требует
знания правильных ответов на
каждый пример обучающей выборки.
В этом случае используется
внутренняя структура данных и
корреляция между образцами в
обучающем множестве для
распределения образцов по
категориям.
Смешанное обучение
• При смешанном обучении часть весов
определяется по помощи обучения с
учителем, в то время как другая
определяется по помощи
самообучения.
Простой пример:
• нейронная сеть обучалась предсказывать
результаты выборов президента США по
ряду экономических и политических
показателей. Обученные сети были
минимизированы по числу входных
параметров и связей. Оказалось, что для
надежного предсказания исхода выборов в
США достаточно знать ответы всего на пять
вопросов, приведенных ниже в порядке
значимости:
Вопросы:
• Была ли серьезная конкуренция при
выдвижении от правящей партии?
• Отмечались ли во время правления
существенные социальные волнения?
• Был ли год выборов временем спада или
депрессии?
• Произвел ли правящий президент
значительные изменения в политике?
• Была ли в год выборов активна третья
партия?
Нейрокомпьютинг
• - это научное направление,
занимающееся разработкой
вычислительных систем шестого
поколения - нейрокомпьютеров,
которые состоят из большого числа
параллельно работающих простых
вычислительных элементов
(нейронов).
Нейрокомпьютеры
• - это системы, в которых алгоритм
решения задачи представлен
логической сетью элементов частного
вида - нейронов с полным отказом от
булевских элементов типа И, ИЛИ,
НЕ.
Появление
нейрокомпьютеров
• обусловлено объективными
причинами: развитие элементной
базы, позволяющее на одной плате
реализовать персональный
компьютер – полнофункциональный
компьютер (модель нейрона), и
необходимость решения важных
практических задач, поставленных
действительностью.
Отличия нейрокомпьютеров от
вычислительных устройств предыдущих
поколений:
• параллельная работа очень большого
числа простых вычислительных устройств
обеспечивает огромное быстродействие;
• нейронная сеть способна к обучению,
которое осуществляется путем настройки
параметров сети;
• высокая помехо- и отказоустойчивость
нейронных сетей;
Отличия нейрокомпьютеров от
вычислительных устройств предыдущих
поколений:
• простое строение отдельных
нейронов позволяет использовать
новые физические принципы
обработки информации для
аппаратных реализаций нейронных
сетей.
Недостатки
нейрокомпьютеров
1. Они создаются специально для решения
конкретных задач, связанных с нелинейной
логикой и теорией самоорганизации.
Решение таких задач на обычных
компьютерах возможно только численными
методами.
2. В силу своей уникальности эти устройства
достаточно дорогостоящи. Практическое
применение нейрокомпьютеров.
Нейрокомпьютеры бывают
двух типов:
1. Большие универсальные компьютеры
построенные на множестве нейрочипов.
2. Нейроимитаторы, представляющие
собой программы для обычных
компьютеров, имитирующие работу
нейронов.
Нейроимитаторы
• В основе такой программы заложен
алгоритм работы нейрочипа с
определенными внутренними
связями. Что — то типа “Черного
ящика”, по принципу которого он и
работает.
Нейроимитаторы
• На вход такой программы подаются
исходные данные и на основании
закономерностей, связанных с
принципом работы головного мозга,
делаются выводы о правомерности
полученных результатов.
Разработки в области
нейрокомпьютинга ведутся по
следующим направлениям:
• разработка нейроалгоритмов;
• создание специализированного
программного обеспечения для
моделирования нейронных сетей;
• разработка специализированных
процессорных плат для имитации
нейросетей;
• электронные реализации нейронных сетей;
• оптоэлектронные реализации нейронных
сетей.
Применение нейросетей для
решения практических задач
• Банки и страховые компании:
– автоматическое считывание чеков и
финансовых документов;
– проверка достоверности подписей;
– оценка риска для займов;
– прогнозирование изменений
экономических показателей.
Применение нейросетей для
решения практических задач
• Административное обслуживание:
– автоматическое считывание документов;
– автоматическое распознавание
штриховых кодов.
Нефтяная и химическая
промышленность:
• анализ геологической информации;
• идентификация неисправностей
оборудования;
• разведка залежей минералов по
данным аэрофотосъемок;
• анализ составов примесей;
• управление процессами.
Военная промышленность и
аэронавтика:
– обработка звуковых сигналов
(разделение, идентификация,
локализация);
– обработка радарных сигналов
(распознавание целей, идентификация и
локализация источников);
– обработка инфракрасных сигналов
(локализация);
– обобщение информации;
– автоматическое пилотирование.
Промышленное
производство:
– управление манипуляторами;
– управление качеством;
– управление процессами;
– обнаружение неисправностей;
– адаптивная робототехника;
– управление голосом.
Служба безопасности:
• распознавание лиц, голосов,
отпечатков пальцев.
Биомедицинская
промышленность:
•
анализ рентгенограмм;
•
обнаружение отклонений в
ЭКГ.
Телевидение и связь:
• адаптивное управление сетью
связи;
• сжатие и восстановление
изображения.
Способы реализации
нейронных сетей
• Нейронные сети могут быть
реализованы двумя путями:
• - это программная модель НС,
• второй - аппаратная.
НейроБИС
• Основными коммерческими
аппаратными изделиями на основе
НС являются и, вероятно, в
ближайшее время будут оставаться
нейроБИС.
НейроБИС
• Среди разрабатываемых в настоящее
время нейроБИС выделяются модели
фирмы Adaptive Solutions (США) и
Hitachi (Япония).
НейроБИС фирмы Adaptive
Solutions
• является одной из самых
быстродействующих: объявленная
скорость обработки составляет 1,2
млрд. соединений/с. (НС содержит 64
нейрона и 262144 синапса).
НейроБИС фирмы Hitachi
• позволяет реализовать НС,
содержащую до 576 нейронов.
• Эти нейроБИС, несомненно, станут
основой новых нейрокомпьютеров и
специализированных
многопроцессорных изделий.
Специализированные
нейрокомпьютеры, непосредственно
реализующие принципы НС
• Типичными представителями таких
систем являются компьютеры
семейства Mark фирмы TRW (первая
реализация перцептрона,
разработанная Розенблатом,
называлась Mark I).
Модель Mark III фирмы TRW
• представляют собой рабочую
станцию, содержащую до 15
процессоров семейства Motorola
68000 с математическими
сопроцессорами. Все процессоры
объединены шиной VME.
Mark IV • это однопроцессорный
суперкомпьютер с конвейерной
архитектурой.
• Он поддерживает до 236 тыс.
виртуальных процессорных
элементов, что позволяет
обрабатывать до 5 млн.
межсоединений/с.
Компьютеры семейства Mark
• имеют общую программную оболочку
ANSE (Artificial Neural System
Environment), обеспечивающую
программную совместимость
моделей.
Нейрокомпьютер NETSIM
• Другой интересной моделью является
нейрокомпьютер NETSIM, созданный
фирмой Texas Instruments на базе
разработок Кембриджского университета.
• Компьютер NETSIM используется для
моделирования таких моделей НС, как сеть
Хопфилда - Кохонена и НС с обратным
распространением. Его
производительность достигает 450 млн.
межсоединений/с.
Российские разработки
• В России уже успешно функционирует один
из первых мощных нейрокомпьютеров для
финансового применения - CNAPS PC/128
на базе 4-х нейроБИС фирмы Alaptive
Solutions.
• По данным фирмы "Торацентр" в число
организаций, использующих нейронные
сети для решения своих задач, уже вошли:
Центробанк, МЧС, Налоговая Инспекция,
более 30 банков и более 60 финансовых
компаний.
Нейрокомпьютер “Эмбрион”
Виртуальный
нейрокомпьютер
“Эмбрион” — модель
мозга человека ,
возбуждение
квазинейронов в нём
создаёт виртуальное
квантовое когерентное
волновое поле, которое
имеет прямое отношение
к проблеме создания
Квантового
нейрокомпьютера (КНК).
Нейрокомпьютер “Эмбрион”
• представляет собой некоторую
разновидность квантовой
МАКРОсистемы или квантовомеханической системы, то есть
квантовый когерентный
нейрокомпьютер, и требует для своего
воплощения совершенно другой, по
сравнению с обычным ПК,
функциональной элементной базы
или “мозговой массы”.
Использование материалов презентации
Использование данной презентации, может осуществляться только при условии соблюдения требований законов РФ
об авторском праве и интеллектуальной собственности, а также с учетом требований настоящего Заявления.
Презентация является собственностью авторов. Разрешается распечатывать копию любой части презентации для
личного некоммерческого использования, однако не допускается распечатывать какую-либо часть презентации с
любой иной целью или по каким-либо причинам вносить изменения в любую часть презентации. Использование
любой части презентации в другом произведении, как в печатной, электронной, так и иной форме, а также
использование любой части презентации в другой презентации посредством ссылки или иным образом допускается
только после получения письменного согласия авторов.
70
Download