Лабораторная работа «Модели нейронных сетей» (часть 1) Цель работы

Лабораторная работа «Модели нейронных сетей» (часть 1)
Цель работы – понять принцип действия математического нейрона Маккаллока-Питса.
Учебный вопрос: персептрон; математический нейрон Маккаллока-Питса.
Изучив данную тему, студент должен:
знать:
- принцип действия нейронных сетей;
- что такое математический нейрон и персептрон;
уметь:
- осуществлять математическую постановку исследуемых задач;
владеть:
- навыком построения таблиц значимости для булевых функций «И» и «ИЛИ»;
- навыками проектирования и практического применения интеллектуальных
информационных систем на базе математического нейрона Маккаллока-Питса;
- навыком обучения однонейронного персептрона логическим операциям;
- навыком построения двухслойного персептрона (ПК-9, ПК-13).
1. Краткое изложение основных теоретических и методических аспектов работы
1.1. Математический нейрон
Математический нейрон был предложен американскими учёными Уорреном
Маккаллоком и Вальтером Питсем в 1943 году.
Математический нейрон – это математическая модель биологического нейрона мозга. Его
изображают в виде кружочка со стрелками, обозначающими входы и выход. На рис. 1
математический нейрон
имеет J входов и один
выход.
Рис. 1. Математический нейрон Маккаллока-Питса.
Через входы математический нейрон принимает входные сигналы xj, которые суммирует,
умножая каждый входной сигнал на некоторый весовой коэффициент wj:
J
S   wj x j .
(1)
j 1
Затем математический нейрон формирует свой выходной сигнал согласно правилу:
1, если S  
y
,
(2)
0, если S  
в котором величину θ называют порогом чувствительности нейрона.
Таким образом, математический нейрон может существовать в двух состояниях. Если
взвешенная сумма входных сигналов S меньше порога θ, то его выходной сигнал y равен
нулю. В этом случае говорят, что нейрон не возбуждён. Если же входные сигналы
достаточно интенсивны и их взвешенная сумма достигает порога чувствительности θ, то
нейрон переходит в возбуждённое состояние, и на его выходе, согласно формуле (2),
образуется сигнал y=1.
Весовые коэффициенты wj имитируют электропроводность нервных волокон – силу
синаптических связей между нейронами. Чем эти силы выше, тем больше вероятность
перехода нейрона в возбуждённое состояние. С другой стороны, вероятность перехода
нейрона в возбуждённое состояния повышается при уменьшении порога
чувствительности θ.
Логическая функция (2) называется активационной функцией нейрона. Её графическое
изображение имеет вид, представленный на рис. 2. За этот вид её иногда называют
«функцией-ступенькой».
Рис. 2. Активационная функция нейрона «ступенька».
С помощью математического нейрона можно моделировать различные логические
функции, например, функцию логического отрицания «НЕ» («NOT»). Таблица истинности
этой логической функции приведена на рис. 3.
Рис. 3. Таблица истинности логической функции «НЕ».
С помощью этой таблицы и формул (1)-(2) нетрудно убедиться, что математический
нейрон с одним входом моделирует функцию «НЕ» при задании w=-1 и θ=0.
Рис. 4. Математический нейрон, моделирующий логическую функцию «НЕ».
Задачи, которые с помощью однослойного персептрона решены быть не могут, называют
линейно неразделимыми задачами. В своё время учёные потратили немало сил и средств,
пытаясь решить такие задачи, ошибочно полагая, что причина их неудач состоит в
недостаточной мощности существующих компьютеров и в недостаточном количестве
совершённых попыток.
В заключение отметим, что в современной литературе иногда вместо понятия порога
чувствительности нейрона θ используют термин нейронное смещение b, которое
отличается от порога только знаком: b=- θ. Если величину добавить к сумме (1):
J
S   wj x j  b ,
(3)
j 1
то пороговая активационная функция нейрона примет вид:
1, если S  0
.
y
0, если S  0
Графическое представление этой активационной функции приведено на рис. 5, а.
Рис. 5. Пороговые активационные функции нейрона, заданные формулами:
а – (4); б – (5)
Ещё более симметричный вид, представленный на рис. 5, б, активационная функция
нейрона приобретает при использовании формулы:
 1, если S  0
y
.
 1, если S  0
В формуле (3) нейронное смещение b можно рассматривать как вес w0 некоторого
дополнительного входного сигнала x0, величина которого всегда равна единице:
J
J
j 1
j 0
S   w j x j  w0 x0   w j x j
Нейрон с дополнительным входом x0 изображён на рис. 7.
Рис. 7. Нейронное смещение b интерпретируется как вес дополнительного входа w0,
сигнал которого x0 всегда равен 1.
(4)
(5)
(6)
Контрольные вопросы
1. Сколько входов и сколько выходов может иметь математический нейрон МаккаллокаПитса?
2. Напишите формулы, с помощью которых происходит преобразование сигналов в
математическом нейроне Маккаллока-Питса.
3. Нарисуйте графическое изображение активационной функции математического
нейрона Маккаллока – Питса.
4. Нарисуйте математические нейроны, реализующие логические функции «ИЛИ», «НЕ»,
и приведите соответствующие им значения сил синаптических связей и порогов.
5. Нарисуйте математический нейрон и напишите формулы, по которым он работает, с
использованием понятия смещения вместо порога. Какой вид при этом имеет
активационная функция нейрона?
6. Чем весовые коэффициенты отличаются от синаптических весов и от сил
синаптических связей?
7. Чем нейронное смещение b отличается от порога чувствительности ?
2. Порядок выполнения задания
1. Перед выполнением задания изучите теоретический материал и ответьте на
контрольные вопросы.
2. Постройте таблицы истинности функций «AND», «OR», «XOR».
3. Нарисуйте математический нейрон, реализующий логическую функцию «AND».
4. Подберите два набора параметров нейрона, при которых он моделирует функцию
логического умножения «AND».
5. Подберите два набора параметров нейрона, при которых он моделирует функцию
логического сложения «OR».
6. Подберите два набора параметров нейрона, при которых он моделирует функцию
«XOR».
7. Сделайте выводы, предъявите отчёт и защитите работу.
3. Требования к оформлению, процедура защиты
1. Отчёт по данной работе должен содержать описание хода выполнения основных задач.
При защите необходимо дать требуемые пояснения к содержанию отчёта и ответить на
контрольный вопрос.
2. При защите необходимо ответить на вопросы преподавателя. Допускается
представление отчёта в электронном варианте.