Пример 12

Сеть Хемминга является одной из наиболее многообещающих
распознающих и классифицирующих нейронных сетей. В ней черно-белые
изображения представляются в виде -мерных биполярных векторов.
Свое название сеть получила от расстояния Хемминга, которое
используется в мере сходства входного изображения и эталонного. Мера
сходства определяется соотношением:
(1)
где
- число компонент входного и эталонных векторов;
расстояние Хемминга.
Расстоянием Хемминга между двумя двоичными
называется число компонент, в которых векторы различны.
-
векторами
Запишем для некоторых биполярных векторов
и
их скалярное произведение через число совпадающих и
отличающихся компонент:
где
и
- число одинаковых и различных компонент векторов S и
V.
Пример 12:
1
4
7
2
5
8
3
6
9
1
4
7
2
5
8
3
6
9
S=(1,1,1,1,-1,1,1,1,1);
V=(1,1,-1,-1,1,-1,-1,1,-1).
SV=1*1+1*1+1*(-1)+1*(-1)+ (-1)*1+1*(-1)+1*(-1)+1*1+1*(-1)=3-6=-3
SV=
=3-6=-3 – разность совпадающих и не совпадающих
элементов изображений.
В соответствии с формулой (1) получаем:
Из которой получаем:
(2)
В
правой
коэффициенты
части
будем
выделять
смещение
–
и
весовые
.
Сеть Хемминга состоит из двух подсетей, верхняя подсеть полностью
копирует сеть Maxnet.
На вход подается сигнал смещения и входное изображение
Веса связей, содержащих информацию о
-м эталонном изображении
определяются:
(3)
Функция активации Z-элементов описывается соотношением:
0, если
если
.
(4)
, если
где
- входной сигнал нейрона;
,
- константы
При предъявлении входного изображения
каждый Z-нейрон
рассчитывает свой входной сигнал в соответствием с выражением (2):
(5)
С помощью функции активации (4) определяются выходные сигналы
, которые являются входными сигналами подсети Maxnet.
Если среди входных сигналов А-нейронов имеется один наибольший
сигнал, то в результате итерационного процесса, только один нейрон
останется с выходным сигналом, большим нуля, т.е. станет «победителем».
Выходные сигналы
А-элементов поступают на входы Yэлементов, которые имеют функцию активации:
(6)
В результате на выходе сети Хемминга только один нейрон Y окажется
с единичным выходным сигналом, который будет указывать на то, что
предъявленное изображение S наиболее близко, в смысле заданной меры
близости (1) к эталонному изображению V.
Существенное достоинство сети Хемминга заключается в том, что она
не требует трудоемких вычислительных процедур для своего обучения.
Заметный недостаток сети: она не выделяет два и более эталонных
изображений, имеющих с предъявленным одинаковые максимальные меры
близости.
Пример 13: Разработать сеть Хемминга, имеющую в качестве
эталонных пять черно-белых изображений
. Определить реакцию
сети на приведенные изображения:
Так как задано 5 эталонных изображений, то сеть должна иметь по 5
Z,A и Y нейронов. Поскольку каждое изображение содержит по 9 чернобелых элементов, то сеть будет содержать 9 входов и один сигнал смещения.
Из эталонных изображений получим входные векторы:
По соотношению (3) рассчитаем матрицу весов связей нижней подсети:
Рассчитаем смещения
:
Для функции активации (4) выберем
=0,1 и
=10.
Для подсети Maxnet найдем
=1/5=0,2.
Рассмотрим функционирование сети Хемминга при предъявлении
изображения =(-1,-1, 1,1,1,1,1, -1, 1).
Рассчитаем входной сигнал для каждого из 5-ти Z-нейронов.
По формуле (4) рассчитаем выходной сигнал каждого Z-нейрона:
- является входным вектором подсети Maxnet, которая начинает
итерационный процесс выделения максимального выходного сигнала:
Аналогично вычисляются выходные сигналы А-нейронов при =2,3 и
4.
Итерационный процесс в подсети Maxnet заканчивается при t=5, т.к. на
этом шаге не изменится ни один выходной элемент.
Вектор выходных сигналов А-элементов, записанный в последней
строке поступает на входы Y-элементов. В соответствии с функцией
активации (6), только на выходе появится единичный сигнал, что означает,
что предъявленное изображение наиболее близко к эталонному изображению
. Визуальное сопоставление этих изображений подтверждает правильность
работы сети.
Определим реакцию сети при предъявлении изображения
1,1,-1,-1, -1,-1).
Аналогично получаем:
=(-1,-1, 1,-
=6;
=2;
=0,6;
=4;
=0,2;
=4;
=8.
=0,4;
=0,4;
=0,8.
Так как
является максимальным сигналом, то в результате
работы подсети Maxnet только на нейроне
окажется положительный
сигнал, который вызовет единичный сигнал на выходе нейрона
.
Следовательно, изображение наиболее близко к эталонному изображению
.
Определим реакцию сети при предъявлении изображения
1,1,-1,-1,1,-1).
=(-1,-1,-1,-
Получаем:
=8;
=0,8;
=0;
=1;
=0;
=2;
=0,1;
=8.
=0,2;
=0,8.
Т.е. получили два максимальных значения на выходах первой подсети.
Следовательно, подсеть Maxnet не сможет выделить единственный выходной
сигнал, и в результате ее функционирования на всех выходах А и Y-нейронов
появятся нулевые сигналы.
Таким образом, сеть Хемминга не может определить, к какому из
эталонных изображений наиболее близко предъявленное изображение .