Э - NonLiN.ru

СОВРЕМЕННЫЕ ТЕНДЕНЦИИ
В ИСКУССТВЕННОМ
ИНТЕЛЛЕКТЕ
Чернавская О.Д.
olgadmitcher@gmail.com
Общие впечатления
2016:




обилие конференций AI
COGNITIVE (Рим)
IJCAI (Нью Йорк)
NEURAL NETWORKS (Петербург)
Intel Systems (Лондон)
Тематика
~ одинакова, «мини-сообщества» = разные
Сдвиг интереса в сторону ЧЕЛОВЕКА
!!ОБСУЖДЕНИЕ ЕКП!!
основные направления

Robotics

БЕСПИЛОТНЫЕ МАШИНЫ


НО: понимание роли Ч.
SWARM robots


BIG DATA анализ

WEB
 Интерфейсы человек—робот; человек – среда;
Сдвиг
интереса в сторону ЧЕЛОВЕКА:

Мониторинг состояния
Eyes tracking+ pupil dilation

!!! интерес к проблеме “EXPLANATORY GAP”

Global aims
Artificial Intelligence
(AI)

AI to perform certain set of
function
better than humans do
Human-like cognitive
architectures (CA)

interpret and reproduce
human-like cog. features:
 Individuality
 Unpredictability
 Intuition and logic
 Emotions
4
Some popular approaches

Robotics
 Agent-based models
 Deep Learning
[Chella, 2009]
[Laird, 2012]
[Y. Bengio, 2013]

Neural Networks

Neuromorphic (neuron-based) models
 Brain
Reverse Engineering (BRE) [Koziol, 2009]
 Natural-Constructive Approach (NCA)


[Chernavskaya et al, BICA, 2013,2015]
…..
5
Psychology (MIND)
 Consciousness
Neurophysiology (BRAIN)

emotions:
emotions:

Self appraisal
of current/future state
Ensemble of Neurons

Composition of Neural
Transmitters
6
Основные положения динамической теории
информации
Информация – запомненный выбор одного варианта из n
возможных и равноправных. (Quastler)
 Генерация И – свободный (случайный) выбор. Необходим
перемешивающий слой = случайный фактор
Рецепция И = предопределенный выбор (навязанный извне)


Условная И – выбор, возникший в коллективе
(обществе) в результате договоренности (условности).
Примеры – код, язык, формир. СИМВОЛОВ
Базовая цель мышления— сохранение, распространение и
создание (генерация) «своей» условной И.
 Определение: Мышление есть самоорганизованный процесс
записи (восприятия), запоминания (хранения), обработки,
генерации и распространения информации.
Важно: запись и сохранение ( генерация и рецепция И) дуальны
(дополнительны). Для решения этих задач необходимы

две разные подсистемы.
Архитектура когнитивной системы

Многоуровневая блочно-иерархическая структура:
Система «растет»: уровни инф. разного типа формируются

Скейлинг: на каждом уровне символы, будучи

последовательно – каждый следующий возникает после и на
основе предыдущего (на рис. -- голубая «пила»)
сформированы, получают возможность создавать «символьные
образы», которые в свою очередь могут формировать свой
символ (после «почернения» абстр. связей )– так формируется
абстрактная инфраструктура ( символы имеют «руки и ноги»)
Символьная (вербализованная) информация может
восприниматься извне через ЛП – так получаются
семантические знания (эпизодические формируются в ПП)
 На каждом уровне иерархии ПП


выступает в роли Учителя для
ЛП: инф. передается по принципу «почернения связей»
 reduction of Inf.:
часть инф. оказывается “утраченной” (не передается на
следующий уровень) = внутренняя (скрытая) инф.
индивидуальная для данной системы
«РАЗМЫТОЕ Множество = Н0»: роль серых связей
Интерпретация

Подсознание \\ «underself», неподконтрольное системе
= образы, записанные в Н0 “серыми” связями
out of control (не связанные с к-л символом)
могут быть активированы только шумом (случайно) = insight
 Сознание = степень готовности к мышлению (все, что
происходит в системе, от …)


Интуиция \\ индивидуальное “прямое усмотрение истины (Kant) =
индивид. скрытая информация (включая “серые” образы)

 большинство действительно сосредоточено в ПП
 Логика \\ дедуктивное рациональное (“правильное ”) суждение
 имеет социальный аспект = вербализованные устойчивые
(доказанные) aбстрактные (причинно-следств.) связи
 присутствуют только в ЛП
 вся развитая абстрактная (символьная) инфраструктура
(ПП+ЛП )  мудрость (больше, чем логика)
Сравнение с анатомическими данными
если расположить пластины ВДОЛЬ некот. поверхности (сложить
как «карт. домик»)  получаем зеркальное отражение
Master equations Chernavskaya, 2015)
12
“Включение” Эмоций (Э)

Эмоции (от лат. emoveo – потрясаю, волную)
 –субъективное оценочное отношение к
существующим или возможным ситуациям.
 продукт
«старого мозга» = химия = нейромедиаторы
(измеряемое! = объективное):
 агрегатн. переменная (t) = стимул.  ингибит.
 «explan. gap» : КАК химия дает осознание Э ?
 Обычно считается : Э = набор дискретных состояний

от 2:(положит и отриц) до 27 (SOAR) = Э пространство

или: Э = ПЕРЕХОД между некоторыми. стац. состояниями ?
ЦЕЛЬ: движ. К цели  положит. Э и наоборот


ЕКП : Э возникают при переходах между ПП и ЛП
Роль и место эмоций (=Э.) в ЕКП

Формализация Э.
 “Brain”:
состав нейромедиаторов
(t) = “эффект. агрегатню переменная” = stimulants –
inhibitors
 “Mind”:
!
само-оценка состояния всей системы = ?
Noise: Z(t) best candidate to “feel” the state of system
 Классификация
прагматических (ЦЕЛЬ) Э. :
 Приближение\удаление
цели: (+) vs (-) Э.
 ДТИ: закрепляющие (рецепц) vs побуждающие (генерац. )
 Z(t)!!

Основная гипотеза ЕКП: Э. =  dZ(t)/dt
 NB:
производная м.б. только (+) или (-) !
14
Концепция Э в ЕКП

Случайное самовозбуждение (шум) в искусственных системах
имитирует эмоциональный фон в системах живых.
 Z0 = уровень шума «в покое» = темперамент???

Э. =  изменение амплитуды шума !?! Э делятся на



Побуждающие : для генерации И (беспокойство, паника) =
повышение уровня шума= Z/t>0 ~ «отрицат. Э»
Закрепляющие: для рецепции И = снижение шума =
Z/t<0 ~ «положительные Э» (радость, облегчение,..)
Э. регулируют переход ППЛП: (t)  th(*Z/t)



ЛППП ~ побужд. Э = активация ПП = рост шума
ППЛП=закрепляюшие Э = передача в ЛП  сниж. шума
Переменная производная («дрожание Z») = активный диалог
подсистем («мысли мечутся»)
Аргументы

неожиданность – неверный или не сделанный
прогноз – всегда является одновременно и
источником Э , и сигналом к изменению глобальной
регуляции, т.е. необходимостью в дополнительном Э
стимуле. Иными словами, в состоянии неожиданности
возникает необходимость обращения к ПП, т.е.
активация связей ЛПЛП  «отрицат» Э (напряг)

момент понимания = встраивание новой И в уже
известную = ЛП (=момент истины = момент «ага»)
активирует связь ППЛП  «положит» Э (relax)
ВЫВОД #1

В рамках ЕКП Э встроены изначально: z(t)
(t)  th(dZ/dt):

Такая интерпретация Э возможна именно в ЕКП:



Роль 2-х подсистем
Шум в ЕКП – не «досадная неизбежность», а
полноправный участник всех процессов, особенно при
«неожиданности» (генерация нового выхода)
Э = dZ/dt = «отгадка» бинарного деления ! =(+\)
 сама функция Z(t) – любая  любой СПЕКТР Э.
 Голдберг: Э.(+)  ЛП, Э.(-)  ПП -- почти!



ЕКП: Э.(-) = необходимость ПП, Э.(+) = возможность ЛП
Сравнение с эксп-том : найти аналог Z(t) (трудно!)
ЭСТЕТИЧЕСКИЕ ЭМОЦИИ

ЭЭ=? = восприятие явлений Природы, Искусства
= не имеют КОНКРЕТНОЙ ЦЕЛИ

ИНДИВИДУАЛЬНЫ!
 детские впечатления, подсознание
 личные ассоциации
 влияние культурной (мини) среды

ЧТО ЕСТЬ ШЕДЕВР??? почему какое-то
произв. Искус. считается ГЕНИАЛЬНЫМ??
влияние социума (МОДА)  продукт общ.
договоренности (выраженный в $)
 ЧТО должно быть В САМОМ «ШЕДЕВРЕ»?


Чем Моцарт отличается от Сальери?
наводящие соображения


«…гений = парадоксов друг» (А.С. Пушкин)
«Ценность в неправильности» (Т.В. Черниговская)
На каждом новом витке развития Природа
«поворачивает» в другую сторону» (В.А. Твердислов)


«Музыка, которая ни на что не похожа, никому
не интересна» (Марк Захаров)

«В Шедевре должна быть точка бифуркации» (Д.С.Ч.)

…Видеть невидимое, соединять
несоединимое…» (???)
ЕКП: Функции записи (восприятия) и хранения (запоминания)

образной инф.:
два Hopfield-type процессора, обученных по-разному
Н0: пластина первичных образов
 запись ВСЕГО
связи  между активными нейронами,
изначально слабые (“серые”), усиливаются
(«чернеют») в процессе обучения (Hebb rule)
== «РАЗМЫТОЕ» МНОЖЕСТВО (
ПОДСОЗНАНИЕ)

Нtyp : пласт. типичных образов ТО
 ХРАНЕНИЕ(долговрем.я память)
«информативные» связи постоянны  = 0,
остальные («серые»)ВЫМИРАЮТ = фильтр
(оригинальная версия J. Hopfield)
передача  при«почернении связей»
Нейроны  ТО = «ТИПИЧНЫЕ» признаки
Нейроны  «ГАЛО» =
«НЕСУЩЕСТВЕННЫЕ» признаки
Иллюстрация к принципу «почернение связей»
ЭЭ в архитектуре ЕКП

гипотеза: ЭЭ= переход ПП  ЛП с участием
«СЕРЫХ» СВЯЗЕЙ (= подсознание)
 ? : при переходе от О к ТО:
 теряется ассоциативность (частично)


теряются «ГАЛО-НЕЙРОНЫ» и их связи : они НЕ
связаны с символами  СС НЕ осознаны нельзя
формализовать и вербализовать

«гало»-нейроны = не-типичные
(«несущественные») признаки
Эффект от активизации «гало»-нейронов 
смутные «впечатления», ВОЛНЕНИЕ 
индивид. ЭЭ («мурашки по коже»)
Шедевр  «ПАРАДОКС РАСПОЗНАВАНИЯ»


Произв. Искусст.= ОБРАЗ = восприн. в пласт. H
Схема распознавания:
изв. Объект (=О)  только ЛП
 совсем неизвестный (новый)  только ПП



при этом: ЭЭ никаких (ср. Захаров)
«ПАРАДОКС РАСПОЗНАВАНИЯ» : если
О немного (по мод. 1 гало-нейрону) не похож
 (Черниговская) + «видеть невидимое..»
ИЛИ
 похож сразу на много = ЛП не может выбрать

ассоциации ЧЕРЕЗ ГАЛО-НЕЙРОНЫ
 = «…соединять несоединимое»

 ТОГДА
схема распозн. : ЛП  ПП  ЛП
Иллюстрации

ОБЩИЕ ОБОЗНАЧЕНИЯ




1 = предъявляемый О (Ш???)
слева : система с «БЕДНЫМ» репертуаром
справа: «ЭРУДИРОВАННАЯ» («богатая»)
«Видеть невидимое»: О ОЧЕНЬ
похож на уже известный (записанный), но
отличается 1 деталью
 «Соединять несоединимое»: О
похож на МНОГО известных


«бедная» сис-ма воспр. КУСКИ
«богатая» -- ВСЕ
Загадка «слепых» и «глухих»:
 воспринимается то, что затрагивает
существующие связи
Шедевр как общепризнанное явление

механизмы те же: восстановление потерянных
«несущественных» (атипичных) признаков, т.е.
видеть НЕВИДИМОЕ
 Соединять (асоциаивно) НЕСОЕДИНИМОЕ


«ОПРЕДЕЛЕНИЕ» какого-то явления =
ТИПИЧНЫЙ ОБРАЗ , стандарт
Ш= НЕ стандарт! НЕ правильное!
 Произвед. искус., кот. проявляет «несущественные»
(отброшенные) признаки объекта и  восст. ассоц.
связи с другими О, с большой вероятн. становится Ш
! Ш = восприн. все равно индивидуально, но
каждый видит «свою» неправильность

Шедевр в науке = открытие

Видеть НЕВИДИМОЕ = формулировка з-нов
(Ньютон, Максвелл,…)


= построение «типичного образа» явления
(выявление главных связей)
Соединять НЕСОЕДИНИМОЕ :

Проблема Больцмана: противоречие между
классической механикой и статфизикой

Обратимость VS необратимость

НЕУСТОЙЧИВЫЕ ПРОЦЕССЫ = атипичные
(несущественные) признаки и КлМ и СтФ
 Принцип ДОПОЛНИТЕЛЬНОСТИ в Квант. Мех.
 ??? Проблема НЕ РЕШЕНА
ВЫВОДЫ

Э: цель есть ВСЕГДА: ЭЭ  ВОСПРИНЯТЬ


«равнодушие» = не-воспринятие  ЭЭ=0
ЭЭ требует компетентности (= эрудиции)
чем богаче РМ (H0), тем больше ассоциаций
 = решение загадки «слепых» и «глухих»
 ШЕДЕВР : «общественное» восприятие
УСРЕДНЕНО , т.е. привязано к типичным образам
 отклонение («неправильность») «серые» связи


!!! НЕ «ИСКУССТВЕННАЯ» а «ПРИРОДНАЯ» !!!

Ш должен содержать ТОЧКУ БИФУРКАЦИИ 
невозможность (парадокс) распознавания

все сказанное НЕ «РЕЦЕПТ» для создания Ш.
!!! Попытка понять ПРИРОДУ ЭЭ и Ш.
Спасибо за внимание
Афоризмы







Живое = то, что научилось учиться (Шумский)
Человечество долго смотрело на птицу, чтобы научиться летать.
И построило самолет. Он замечательно летает, но на птицу
совсем не похож. (???)
Ученые делятся на ПТИЦ и ЛЯГУШЕК: П понимают все, кроме
деталей; Л – только детали (Дайсон)
Измеряя напряжение на клеммах телевизионной платы, ТРУДНО
вывести уравнение Максвелла (Я)
Шум = инструмент выживания = адаптации к изменениям
(Парин)
ЛП не может ничего нового придумать, ПП не может
сосредоточиться (Я)
Язык = то, как наш мозг говорит с нами (Черниговская)
Human-like cognition: CHALLENGES =
вопросы (факты), заданные Природой
+  #1. 2 полушария мозга  ЗАЧЕМ?
 #2. Интуиция и логика  каковы механизмы?
 +#3. мужчины и женщины  ЗАЧЕМ?
 #4. Каждый Ч индивидуален -- за счет чего?
+ #5. Мысли и эмоции  взаимодействие?
 +#6. Что есть язык (речь)? ср-во коммуникации ИЛИ?...
+ #7. В чем конечная цель когнит. деятельности ?

( «в чем смысл жизни?» )
? #8. Что есть умный человек? ….
«» = мы можем ответить, «» - есть гипотезы (не мы), «?» = ???
#6. ЧТО ЕСТЬ ЯЗЫК?
Вербализация: символыслова

Язык = то, как наш мозг разговаривает с нами (Черниговская)
Ч. в процессе воспоминания\воображения\...ПРОГОВАРИВАЕТ
РЕЧЬ =ВРЕМЕННОЙ РЯД СИМОЛОВ = последовательное
восприятие Инф = ЛП
разделение на «эмоцио» и «рацио» == после обретения языка
П.К.Анохин: язык формирует мозг. ??? что это значит?

Обучение языку – рассм. ранее (матер. МИФИ 2013)




 «словотворчество» в ПП = собственные внутренние аудио


символы
В обученной системе: слова воспринимаются непосредственно
через ЛП, если есть внутренние символы того же смысла
Если слова относятся к образам, не знакомым данной системе -они не имеют смысла.
Интерпретация чувства юмора


ЧЮ = способность адаптироваться к неожиданным ситуациям и
получать от этого удовольствие
= неверный (преждевременный) прогноз, кот. м.б. сразу заменен
на верный
анекдот (хороший!) представляет собой
поток информации = опред. трактовку вплоть
до t*. Следующий блок информации должен
не опровергать предыдущую, но выводить на
другой конечный образ (также хорошо известный).
В этом случае от системы требуется «вернуться»
в t* и «перескочить» на правильную траекторию.
Процесс возврата-перескока требует от специф.
усилий  фрустрация , или резкие скачи амплитуды = «встряхнуть» систему —
для Ч. == смех.


В терминах Z(t): смех =одновременное повышение и понижение амплитуды
(резкий скачок)
аргумент 2 (локальный)
Высказывалась гипотеза (Schmidhuber 2009) о том, что
конечной целью живого организма является сжатие
информации; акт достижения этой цели должен
сопровождаться радостью.
 близко к утверждению Сенеки: цель человека –
стремление от менее совершенного состояния к более
совершенному.
 Что есть совершенное? Мы полагаем, что наиболее
естественное стремление – понять, т.е. осознать. В
рамках нашей модели это означает формирование
нового символа (и его семантических связей с образом)
и встраивание его в уже существующую структуру
символов. Вполне естественно ожидать, что этот
процесс должен сопровождаться положительными
эмоциями.
 любой акт формирования символа есть акт сжатия
информации, т.е. конечный вывод совпадает.

уравнения гомеостаза

Система уравнений для
Z(t),  (t), ki (t):




Z0 = уровень шума «в
покое»;
 = агрегат. перемен. = Н
глобального действия
(возбужд.  тормоз. )
ki = уровень Н
локального действия
(синтез в 1 синапсе)
F(,Z) = нелинейность
(для нетрив. эффектов)
Эффекты стресса и шока

Стресс = парадоксальная Э реакция = при
нарастании Э выше некоторого (индивидуального!)
порога все процессы подавляются
(синтезируются только опиаты) = <<0.
Но: со временем система возвращается в
нормальный режим

ШОК : все физиологические характеристики стандартизуются
( «шума», т.е. разброса в показателях, нет!) = уход в глубокую
ингибиторную облась Z<0, <<0. = случайное
самовозбуждение переходит в подавление!
Самостоятельный выход невозможен,
необходимо серьезное внешнее воздействие.
Эффекты стресса и шока – эксперимент

Измеряются: ИВБ= индекс вегетативного баланс= 
ИСВ = индекс сердечной вариабильности Z?
 Стресс = резкое падение в ингибиторную
область, но с последующем возвращением в
нормальный режим
 ШОК : все физиологические характеристики
стандартизуются; отказ от
функционирования, уход в глубокую
ингибиторную облась ИСВ0 , ИВБ<0,
Самотоятельный выход невозможен, необходимо серьезное медикаментозное воздействие!!!
Мат. модель «стресс\шок»
 Стационарые состояния:
{Z=Z0, =0}
(гомеостаз);
{Z*, *} ???
внеш. возд.  нач. точка
 Нормальный режим =
Затух. осцилляции вокруг {Z0,0}
(устойчивый фокус = зел. сплош)
 При Z>Zbif : «падение» в ингибиторную область, при Z  <0
с посл. возвращением в нормальный режим (красн. штрих )

Область (желтая) Z<<Z0 (<0 !), <<0 (близко к
«красной» траект) , из которой невозможно выйти без
!
серьезного внешнего возд ействия !
ЛЕЧЕНИЕ СТРЕССА (эксперимент)


В зависимости от стадии (фазы)

ингибиторы (опиаты)

стимуляторы (адреналин)
ИДЕЯ эксп: ( С.Полевая+ОДЧ, Ростов)
 ПРЕДСКАЗ. модели : в стадии «почти выхода»
(около {Z*,*}) малая доза адреналина
СМЕРТЕЛЬНА (для мышей)
Утв. С.Б. Парина: ЕСТЬ эксп. указания на это, но
трактуются как случайность (артефакт)
 Нужен эксп. направленный именно на этот
эффект

## ОТКРЫТЫЕ ВОПРОСЫ





«КАК МОЗГ ДЕЛАЕТ МЫСЛЬ»?
 при помощи ЯЗЫКА
КАКИЕ ЕЩЕ МЕХАНИЗМЫ «ШЕДЕВРА» ?
 связь понятий «Шедевр» и «ХАББЫ»???
Какая (if any) связь между ЕКП и BRE?
Зачем Н так много??? (~ 4000)
ЧТО в эксп. данных можно ассоциироваь с Z(t)?
Измеримо ли ik?