Презентация. - Кафедра общей экологии

XVI Международная конференция
МАТЕМАТИКА. КОМПЬЮТЕР. ОБРАЗОВАНИЕ
Пущино, 19 – 24 января 2009 г.
ПРИМЕНЕНИЕ ФУНКЦИЙ
ЛЯПУНОВА В ИССЛЕДОВАНИИ
КОГНИТИВНЫХ ПРОЦЕССОВ И
ФИЗИОЛОГИИ ЧЕЛОВЕКА
А.Т. Терехин, Е.В. Будилова
Биологический факультет МГУ
Институт когнитивной нейрологии СГА
1
http://ecology.genebee.msu.ru/3_SOTR/CV_Terekhin.htm
2
Елена Вениаминовна Будилова
Старший научный сотрудник
кафедры общей экологии
Биологического факультета
МГУ им. М.В. Ломоносова,
кандидат технических наук
Адрес: 119992, Россия, Москва,
Ленинские горы 1, строение 12,
Биологический факультет МГУ,
кафедра общей экологии
Телефон: +7(495)939-32-51
E-mail: [email protected]
3
Каковы общие принципы работы нервной,
эндокринной, иммунной и генной систем
регуляции организма?
Каковы общие возрастные тенденции
изменения характера когнитивной деятельности
и физиологии человека?
Каковы
общие
принципы
возможного
воздействия на регуляторную систему организма
с
целью
повышения
эффективности
ее
функционирования?
В данном сообщении мы пытаемся ответить
на эти вопросы, рассматривая регуляторную
систему организма как нейроподобную сеть и
анализируя свойства ее функции Ляпунова. 4
Терехин А.Т., Будилова Е.В. Сетевые механизмы
биологической регуляции. Успехи физиологических
наук, 1995, т. 26(4), 75-97.
Карпенко М.П., Качалова Л.М., Будилова Е.В,
Терехин А.Т. Когнитивные преимущества третьего
возраста: нейросетевая модель старения мозга.
Журнал высшей нервной деятельности, 2009, №2.
Терехин А.Т., Будилова Е.В., Карпенко М.П.,
Качалова Л.М., Савко Т.Г., Чмыхова Е.В..
Онтогенетическая
эволюция
и
инволюция
когнитивной деятельности мозга: нейросетевой
подход.
Круглый
стол
«Теория
развития:
дифференционно-интеграционная
парадигма»
5
Москва, 12-13 февраля 2009 г.
Нейронная сеть Хопфилда
Hopfield J.J. Neurons with graded response have collective computational
properties like those of two-state neurons. PNAS, 1984, v. 81, 3088–3092.
Динамика состояний:
2
xi 

1
 G  wij x j
1 e
1.0
G=10
G=1
Y
0.5
Динамика весов
(правило Хебба):
wij  wij  xi x j
0.0
G=0.1
-0.5
-1.0
-4
-2
0
X
2
4
6
Функция Ляпунова (функция энергии)
Для рассматриваемой сети можно построить
соответствующую ей функцию Ляпунова (функцию
энергии, потенциальную функцию), обладающую
тем свойством, что состояние сети всегда
изменяется в направлении уменьшения функции
энергии.
7
Функция энергии для сети Хопфилда
является суммой двух членов:
n
n
n
E ( x1 , x2 ,..., xn )   12  xi wij x j  G1  ln[( 1 xi )1 xi (1  xi )1 xi ]
i 1 j 1
i 1
При больших G преобладающее значение
имеет первый член:
1.0
G=10
1
2
0.5
n
 x w x
i
i 1 j 1
ij
Y
E1  
n
j
0.0
-0.5
-1.0
-4
-2
0
2
4
X
При малых G преобладает второй член:
1.0
1
G
 ln[( 1 x )
1 xi
i
i 1
1 xi
(1  xi )
0.5
]
Y
E2 
n
0.0
G=0.1
-0.5
8
-1.0
-4
-2
0
X
2
4
Функция энергии для сети из двух нейронов
E1
E2
E2
2
1
E1+E2
E=E1+E2
0
-1
-2
E1
-1
0
(x1+x2)/2
1
0.5
9
Увеличение глубины аттракторов при
увеличении числа запомненных образов
10
Увеличении глубины аттрактора при
увеличении параметра крутизны G
8
10000
10
5
G=48/10
5
G=56/10
0
5
G=64/10
5
G=72/10
8
-10
-10000
k=15
k=50
k=100
k=130
k=180
При уменьшении G сначала исчезают самые мелкие
11
аттракторы, а затем все более и более глубокие
Уменьшение числа аттракторов сети из 81 нейрона при
уменьшении G (по результатам моделирования)
12
Модель старения мозга
С возрастом в мозге происходит множество
нейроанатомических и нейрохимических изменений,
способствующих ослаблению межнейронных связей.
Например, начиная с 20-летнего возраста постоянно
снижается плотность многих постсинаптических
рецепторов,
вследствие
чего
снижается
чувствительность нейронов к входящим сигналам.
Соответственно,
процесс
старения
мозга можно ассоциировать с уменьшением
величины параметра крутизны G сигмоидной
кривой:
2
xi 

1
 G  wij x j
1 e
13
Поскольку, как было показано, уменьшение
параметра G приводит к сглаживанию рельефа
функции энергии нейронной сети и уменьшению
числа аттракторов, то можно сделать вывод о том,
что при старении мозга наряду с отрицательными,
на первый взгляд, изменениями его когнитивных
свойств, такими как ослабление памяти, у человека
появляется ценная способность видеть проблемные
ситуации с более общей точки зрения, выделять в
них главное и, в конечном итоге, находить
стратегически более эффективные решения, т.е.
возникает
способность,
которую
можно
рассматривать как составляющую часть мудрости –
когнитивного
свойства,
ассоциируемого
традиционно с пожилым возрастом.
14
Когнитивный эффект возрастного сглаживания
функции энергии сети
Терехин А.Т., Будилова Е.В, Качалова Л.М.
Когнитивные преимущества третьего возраста.
Материалы конференции "Третий возраст: старшее
поколение в современной информационной среде",
Москва, СГА, 30 января 2008 г.
15
«Я думаю, что сейчас я более успешно
работаю в науке, чем когда был молод.
В науке очень важна проницательность
(judgement), а я теперь лучше понимаю,
какие проблемы важны, а какие – нет.»
Эрик Кандел,
лауреат Нобелевской премии
по медицине 2000 г.
77 лет
16
Глобальный аттрактор нейронной сети мозга –
какому понятию он соответствует? Может быть, это
солженицинское «изображение вечности»?
«В такие минуты весь смысл существования —
его самого за долгое прошлое и за короткое будущее, и
его покойной жены, и его молоденькой внучки, и всех
вообще людей представлялся ему не в их главной
деятельности, которою они постоянно только и
занимались, в ней полагали весь интерес и ею были
известны людям. А в том, насколько удавалось им
сохранить неомутненным, непродрогнувшим,
неискаженным — изображение вечности, зароненное
каждому. Как серебряный месяц в спокойном пруду.»
А.И. Солженицын. Раковый корпус.
Глава 30 - Старый доктор.
17
М., Новый мир, 1991.
Развитие мозга
В период младенчества и раннего детства, наоборот,
усложненяется рельеф функции и увеличивается
число ее аттракторов, поскольку растет число
межнейронных
связей
и
их
интенсивность
увеличивается. Однако в последующие годы детства,
отрочества
и
юности
значительная
часть
межнейронных связей (до 40%) элиминируется.
Казалось бы, рельеф функции энергии должен
сглаживаться. Однако наши расчеты показывают, что
при не слишком больших масштабах элиминации
наиболее слабых межнейронных связей локальные
минимумы функции энергии, наоборот, углубляются –
происходит
как
бы
контрастирование
18
сформировавшихся образов (понятий).
Процент элиминированных межнейронных связей
и значения функции энергии сети из 200 нейронов
в локальном минимуме k = 100 при G = 7210-5.
8
10000
10
5
G=48/10
5
G=56/10
0
5
G=64/10
5
G=72/10
8
-10
-10000
k=15
k=50
k=100
k=130
k=180
19
Таким образом, в период младенчества, детства,
отрочества и юности рельеф функции Ляпунова
нейронной сети мозга усложняется, а ее локальные
минимумы углубляются. Развитие мозга в
направлении от простого к сложному имеет
принципиальное значение. Сложный
неструктурированный мозг не способен эффективно
усвоить захлестывающий его поток слабо
структурированной внешней информации. Он должен
быть сначала простым, чтобы уловить наиболее общие
внешние закономерности, и только после этого
постепенно усложняясь, усвоить детали. На уровне
компьютерного моделирования эта «важность
начинания с малого» была показана Дж. Элманом на
примере спонтанного усвоения правил грамматики
20
искусственной нейронной сетью [Elman 1993].
Телескопический эффект автобиографической памяти
100
15
ПРОЦЕНТ ВСПОМНЕННЫХ СОБЫТИЙ
25
ВОЗ
Р АС
80
Т, В
35
КОТ
ОРО
МБ
ЫЛ
45
ОВ
СПО
МН
Е НО
55
60
С ОБ
ЫТ
ИЕ
65
40
20
0
10
15
20
25
30
35
40
45
50
55
60
ВОЗРАСТ, В КОТОРОМ БЫЛО ЗАПОМНЕНО СОБЫТИЕ
65
21
70
Таким образом, в молодости рельеф функции
энергии нейронной сети усложняется, а в
пожилом возрасте сглаживается, как бы
приближаясь к его детскому состоянию. Кроме
того, с возрастом растет доля вспоминаний о
далеком прошлом. Учитывая также, что все
регуляторные системы организма образуют
единую нейрогеногуморальную сеть, следует
сделать вывод о том, что в пожилом возрасте
должен наблюдаться не только ментальный, но
и эмоциональный возврат к прошлому, т.е.
происходить как бы обратное движение во
времени. Можно сказать, что, в некотором
смысле, жизнь это долгое возвращение в
детство – к тому «изображению вечности», 22
которое было «заронено» в нас при рождении.