1А - iai.donetsk.ua

1А
Писаренко В.Г., Писаренко И.А., Варава И.А.
УДК
В.Г. Писаренко, И.А. Писаренко, И.А. Варава
Институт кибернетики им. В.М. Глушкова НАН Украины, г. Киев
Информационная модель эффективности
долговременной памяти живой нейросети
с учетом новых данных молекулярной
биофизики
В проведенных ранее авторами данной работы экспериментах по изучению зависимости
математического ожидания так называемой «силы навыка» V(n) по запоминанию группой
испытуемых списка пар слов «стимул-реакция» от номера n места данной пары во всем
предъявляемом списке был обнаружен весьма специфический вид функциональной зависимости
экспериментальной кривой V(n). Новые данные молекулярной биофизики нейросетей [1], [2]
согласованы с результатами названных экспериментов авторов [3], включая форму
экспериментальной кривой V(n), и с помощью имитационного моделирования при использовании
предложенной авторами гипотезы об экспоненциальном темпе снижения exp(–nβ) с ростом номера
пары ПСР в предъявляемом списке для интенсивности процесса выработки белков памяти в ядре
нейрона.
Для ряда актуальных практических задач интеллектуальной робототехники,
нейрофизиологии, психологии, теории информации, а также в практике обучения
операторов представляет значительный интерес использование последних
достижений в области механизмов памяти на уровне молекулярной биофизики
живого мозга c учетом детальных механизмов формирования кратковременной и
долговременной памяти.
Согласованные с недавними экспериментами молекулярные механизмы памяти
свидетельствуют о том, что память живого мозга формируется как следствие
прохождения сигналов между нейронами через синапсы (от передающего нейрона,
называемого пресимпатическим) к нейрону, принимающему информацию (такой
нейрон называется постсимпатическим) [1], [2]. А именно, когда отросток
пресимпатического нейрона (аксон), передающий информационный сигнал
(биоэлектрический потенциал действия), сближается с одним из десятков выростов
(дендритов) следующего (т.е. постсимпатического) нейрона в нейросети, то
информация о передающем сигнале (на входе получаемой таким образом ячейки
памяти) передается через синаптическую щель в форме микросгустков специфической
жидкости (нейромедиатор) в соответствующий дендрит постсимпатического нейрона.
При этом при определенных условиях (часть которых будет указана ниже) в аксоне
постсимпатического
нейрона
формируется
«выходной»
сигнал
в
виде
биоэлектрического
возбуждения
(потенциала
действия).
Так
образуется
кратковременная память в данной ячейке, и далее ячейка хранит информацию о том,
что такое-то возбуждение было подано на вход данному нейрону (данная ячейка
памяти) через данный набор передавших ее синапсов. Но эта информация сохраняется
здесь недолго (обычно от нескольких минут до первых часов).
26
«Искусственный интеллект» 2’2006
Информационная модель єффективности долговременной памяти…
1А
Для сохранения этой информации значительно более продолжительное время,
согласно результатам работ [1], [2], живой мозг обладает способностью
формирования долговременной памяти через механизм генерации специального
белка (так называемый «белок памяти»), формируемого из ядра постсимпатического
нейрона данной ячейки. При этом на молекулярном уровне значительную роль, как
показали
недавние
эксперименты [2],
здесь
играет
так
называемый
транскрипционный фактор CREB, активируемый в нейроне (при определенных
условиях). Через посредство фактора СREB запускается механизм поиска в ядре
нейрона такого участка ДНК, который содержит программу названного спецбелка, с
последующим копированием этой программы на матричную РНК (мРНК). После
этого мРНК проникает в цитоплазму клетки, где специальные клеточные органеллы
считывают закодированную в ней программу и синтезируют молекулы этого
специального белка памяти. В результате названной цепочки процессов,
протекающих на молекулярном уровне, молекулы белка памяти пояляются за
пределами ядра нейрона, что и приводит к закреплению той синаптической связи
данного нейрона с предыдущей ячейкой памяти, где хранится закодированная (до
этого кратковременная) информация о сигнале, принятом данным нейроном
несколько ранее. Так формируется долговременная память в данной ячейке памяти.
Как установлено в недавних биофизических экспериментах [2], в названном
процессе на генетическом уровне важную роль играет ген zif-268, участвующий в
процессах временного кодирования информации и управления клеточной мембраной
ядра нейрона.
Если интенсивность суммарного сигнала, пришедшего на синапсы
постсимпатического нейрона превышает пороговый уровень возбуждения данного
нейрона, то он генерирует в своем аксоне «сигнал выхода» в форме
биоэлектрического потенциала действия. Этот потенциал действия, по сути,
формирует соответствующую закодированную информацию, передаваемую через
синаптическую щель на дендрит следующего нейрона всей нейросети.
Из экспериментов [2] установлено, что вероятность «срабатывания»
постсимпатического нейрона с возбуждением потенциала действия (как
необходимый процесс для форирования кратковременной памяти в данном нейроне
нейросети) повышается при наличии следующих факторов:
1) количество синапсов (то есть мест связи аксонов пресимпатических
нейронов нейросети с одним из дендритов постсимпатического нейрона как ячейки
памяти) достаточно велико;
2) интенсивность и частота сигналов отдельных дендритов достаточно велика;
3) синхронность прихода сигналов от отдельных дендритов достаточно высока;
4) на дендриты постсиматического нейрона одновременно приходят сигналы от
нейронов, являющихся рецепоторами различных, но взаимосвязанных во времени
событий, которые происходили в ситуациях недавнего опыта данной нейросети столь
же синхронно в процессе обучении данной живой нейросети экспериментаторами ( по
типу приобретенного заранее условного рефлекса типа «регулярное предъявление
пищи одновременно с воспроизведением определенных звуков»).
Установлены также следующие свойства молекулярных механизмов памяти: 1) в
отдельном акте прихода информационного сигнала в процессе обучения живой
нейросети приходят сигналы не на все дендриты данного постсимпатического нейрона,
а лишь на ограниченную их группу, формирующуюся всякий новый раз по некоторому
«Штучний інтелект» ’2006
27
1А
Писаренко В.Г., Писаренко И.А., Варава И.А.
случайному закону; 2) для усиления долговременной памяти необходимо повторное
обучение нейросети данной информации [2].
Экспериментальные
исследования
по
молекулярным
механизмам
кратковременной и долговременной памяти, как известно, еще продолжаются. При
этом представляется целесообразным сопоставить изложенные результаты опытов
на уровне молекулярной биологии с результами определенных теоретических и
экспериментальных исследований закономерностей эффективности обучения групп
людей полезной информации достаточно однородного характера – например,
актуальной для практической подготовки профессиональных операторов человекомашинных систем задачи обучения профессиональной лексике на «весьма
незнакомом» иностранном языке.
В этой связи в проведенных ранее [3] авторами данной работы экспериментах
по изучению зависимости математического ожидания так называемой «силы
навыка» V(n) по запоминанию группой испытуемых списка пар слов «стимул –
реакция» от номера n места данной пары во всем предъявляемом списке был
обнаружен
весьма
специфический
вид
функциональной
зависимости
экспериментальной кривой V(n), которую уместно назвать «ковшеобразной» кривой.
При этим авторам данной работы представляется полезным упомянутые выше новые
данные молекулярной биофизики памяти [1], [2] согласовать с результатами
названных экспериментов авторов [3] по проявлению временной динамики
кратковременной и долговременной памяти живого мозга в процессе научения
группы испытуемых (молодых научных работников естественных специальностей
Дальневосточного отделения академии наук бывшего СССР) лексическому
материалу типа списка пар «стимул – реакция». В этих экспериментах в качестве
стимула были выбраны слова на японском языке (в русской транскрипции), а
реакцией являлось соответствующее слово-перевод на русский язык. В подобных
экспериментах, как следовало из литературы по процессам научения и памяти [4-7],
должна проявляться как кратковременная, так и долговременная память человека.
Для дальнейших целей данной работы важно то, что согласно результатам
недавних экспериментов по молекулярной биофизики нейросетей [1], [2], из
заданной совокупности дендритов определенного нейрона (N дендритов) достаточно
значительное возбуждение приходит не на N дендритов, а лишь на некоторую
случайную группу (выборку) из n < N дендритов. Чтобы не усложнять дальнейшие
оценки, принимаем, что значение n равно статистически среднему значению (по
всем испытуемым и по всем парам «стимул – реакция» (ПРС)) индивидуальных
значений числа эффективных дендритов для данного эксперимента.
С целью обнаружить встречаемость источников ошибок при узнавании той или
иной пары (например, ошибок из-за того, что при запоминании новой пары ПСР
могут случайно задействоваться некоторые синапсы, активированные ранее, – на
стадии запоминания некоторых предыдущих ПСР), нами был проведен численный
эксперимент по оценке силы навыка запоминания каждой пары, когда каждая
следующая ПРС из списка запоминается на основании очередной случайной группы
из n < N дендритов, причем принимаем, что все возможные комбинации случайного
выбора такой группы моделируются равномерным распределением. При этом нами
была принята авторская правдоподобная гипотеза (гипотеза «утомляемости нервной
системы» в процессе напряженной умственной работы по запоминанию), которая
основана на предположении, что интенсивность выработки «белков памяти» в
соответствующих нейронах мозга по мере запоминания новой ПСР из списка
28
«Искусственный интеллект» 2’2006
Информационная модель єффективности долговременной памяти…
1А
снижается монотонно (для определенности – по экспоненциальной зависимости
exp(–nβ) от номера n текущей пары ПСР во всем предъявляемом списке). Путем
подбора различных вариантов интенсивности «утомляемости памяти» (подбор
неотрицательного параметра β) в работе получен эмпирически правдоподобный
закон, позволяющий экспериментальные данные нашей работы [3] согласовать с
приведенными выше данными недавних исследований по молекулярной биофизике
памяти. В результате имитационных экспериментов авторов выяснилось также, что
величина параметра β растет с ростом общего числа пар ПРС в списке, зависит от
расстояния во времени между предъявлением соседних пар ПСР и может зависеть от
психологического и физического состояния испытуемого, а также от степени
профессионализма экспериментатора при проведении испытаний. Установлено
также, что если предположить отсутствие указанной «утомляемости памяти» (т.е.
выбрать β = 0), то сила навыка V(n) будет вовсе не зависеть от номера n ПСР в
предъявляемом при обучнии списке пар, что противоречит результатам наших и
других подобных экспериментов [4-7].
Таким образом, «ковшеобразная» кривая, полученная в нашей работе [3] для
вероятности запоминания (силы навыка) лексического, материала может быть
объяснена как проявление кратковременной и долговременной памяти при учете
данных экспериментов [1], [2] по выявлению молекулярных механизмов
долговременной памяти живой нейросети совместно с авторской гипотезой
экспоненциального снижения интенсивности с ростом номера пары ПСР из
предъявляемого списка для процесса выработки белков памяти в ядре нейрона. В
частности, объяснена форма монотонно спадающей левой «стенки» и «дна»
экспериментальной «ковшеобразной» кривой V(n) и монотонный рост кривой на
правой «стенке».
Литература
1. Дуглас Филдз. Как сохранить воспоминания // В мире науки. – 2005. – № 5. – С.
61-68.
2. Feleke Eshete, Douglas Fields // Journal of Neuroscience. – 2001. – Vol.21 – № 17.
3. Писаренко В.Г., Писаренко И.А. Имитационное моделирование процессов
обучения и памяти с использованием кусочно-аналитической аппроксимации
экспериментальных закономерностей обучения лексическому материалу. –
Благовещенск: Изд-во ДВО АН СССР Амур КНИИ, 1990. – 22 с.
4. Линдсей П., Норман Д. Переработка информации у человека. – М. – Мир, 1974.
5. Норман Д.Память и научение. – М.: Мир, 1986. – 110 с.
6. Клацки Р. Память человека, структуры и процессы. – М. – Мир, 1978. – 317 с.
7. Аткинсон Р. Человеческая память и процесс обучения. – М. – Прогресс,1980. –
528 с.
В.Г. Писаренко, І.А. Писаренко, І.А. Варава
У проведених раніше авторами даної роботи експериментах з вивчення залежності
математичного очікування так званої «сили навички» V(n) із запам’товування групою тестованих
осіб списку пар пар «стимул-реакція» від номера n місця даної пари у всьому запропонованому
списку було виявлено вельми специфічний вид функциональної залежності експериментальної
кривої V(n). Нові дані молекулярної біофізики нейромереж [1], [2] узгоджено з результатами
названих експериментів авторів [3], включаючи форму експериментальної кривої V(n), та за
допомогою імітаційного моделювання при використанні запропонованої авторами гіпотези про
«Штучний інтелект» ’2006
29
1А
Писаренко В.Г., Писаренко И.А., Варава И.А.
експоненціальний темп зниження за законом exp(–nβ) зі зростанням номера пари ПСР у
запропонованому списку для інтенсивності процесу вироблення білку пам’яті у ядрі нейрона.
V.G. Pisarenko, I.A. Pisarenko, I.A. Varava
Previosly it was realized by authors the experiment on learning of some foreign terms from the special
list of them. The main interest in that experiment consists in the search of «force of habit» mathematical
waiting dependence V(n) from the place of one in the list, containing tandems «foreign term-russian
translation» as a pair «stimul-reaction». The special form of dependence curve V(n) from number n has
been obtained. In this article some new molecular biophysics data on network [1], [2] is in agreement
with the results of the author’s experiment on learning of some foreign terms from the special list with
account of the author’s hypothesis about exponential decreasing by the factor exp(-nβ) from the pair
number n for intensity of «protein of memory» production in the neuron nucleus.
Статья поступила в редакцию 29.06.2006.
30
«Искусственный интеллект» 2’2006