Слайд 1 - А-13-08

ОСНОВЫ ТЕОРИИ АГЕНТОВ И
МНОГОАГЕНТНЫХ СИСТЕМ
В.Б.Тарасов
Московский государственный
технический университет
им. Н.Э. Баумана
E-mail: tarasov@rk9.bmstu.ru
НОВЫЕ НАПРАВЛЕНИЯ
ПРИКЛАДНОЙ ИНФОРМАТИКИ
ИНТЕЛЛЕКТУАЛЬНЫЕ
СИСТЕМЫ,
ИНТЕЛЛЕКТУАЛЬНЫЕ
ИНТЕРНЕТ-ТЕХНОЛОГИИ,
ТЕОРИЯ АГЕНТОВ И
МНОГОАГЕНТНЫХ
СИСТЕМ
ИНТЕЛЛЕКТУАЛЬНЫЕ
ОРГАНИЗАЦИИ
СИНЕРГЕТИКА В
ИНФОРМАТИКЕ.
СИНЕРГЕТИЧЕСКИЙ ИИ
СИНЕРГЕТИЧЕСКАЯ МЕТОДОЛОГИЯ,
МЕЖДИСЦИПЛИНАРНЫЕ РАБОТЫ,
ГИБРИДНЫЕ МОДЕЛИ
СИНЕРГЕТИЧЕСКИЕ
ОРГАНИЗАЦИИ
ЧТО ТАКОЕ СИНЕРГЕТИКА?
Синергетика есть междисциплинарное
научное направление,исследующее
процессы взаимодействия, кооперации,
самоорганизации, эволюции сложных,
открытых, динамических систем.
Термин «синергетика» происходит от
слова «синергия», означающего
совместное действие, сотрудничество
ПОЧЕМУ ВВЕДЕН ТЕРМИН
«СИНЕРГЕТИКА»?
Г. Хакен – «отец синергетики»:
Введение термина «синергетика» для обозначения
современной теории сложных, открытых,
самоорганизующихся систем оправдано по
двум причинам:
а) исследуются совместные действия многих
элементов развивающейся системы;
б) для отыскания общих принципов и
механизмов самоорганизации требуется
объединение усилий представителей
различных дисциплин.
ТЕОРИЯ АГЕНТОВ И
МНОГОАГЕНТНЫХ СИСТЕМ:
ОСНОВНЫЕ СОСТАВЛЯЮЩИЕ
ТРЕУГОЛЬНИК А.МОЛЯ
ТЕОРИЯ
ОРГАНИЗАЦИЙ
ОСНОВНЫЕ СВОЙСТВА
АГЕНТА:
САМООРГАНИЗАЦИЯ
ДЕЯТЕЛЬНОСТИ
ТЕОРИЯ
ТЕОРИЯ
СРЕД
ТЕОРИЯ
ДЕЯТЕЛЬНОСТИ
АГЕНТОВ
И МАС
1) МОТИВАЦИЯ
2) АКТИВНОСТЬ
3) РЕАКТИВНОСТЬ
4) АВТОНОМНОСТЬ
5) ОБЩИТЕЛЬНОСТЬ
ТЕОРИЯ ВЗАИМОДЕЙСТВИЙ:
МНОГОАГЕНТНАЯ СИСТЕМА
ТЕОРИЯ ОТНОШЕНИЙ,
ТЕОРИЯ КООПЕРАЦИИ,
ТЕОРИЯ КОММУНИКАЦИИ,
ТЕОРИЯ ПЕРЕГОВОРОВ
ТЕОРИЯ ДИАЛОГА (ДИАЛОГИКА)
MAS = A,E,R,ORG,ACT,COM,EV
ИНЖЕНЕРИЯ ЗНАНИЙ И
ОРГАНИАЗАЦИЯ ВЗАИМОДЕЙСТВИЙ
ПОНЯТИЕ «АГЕНТ» КАК СВЯЗУЮЩЕЕ
МЕТОДОЛОГИЧЕСКОЕ ЗВЕНО МЕЖДУ
СУБЪЕКТОМ И ОБЪЕКТОМ
Агент – лицо или организация, наделенное юридическими
полномочиями представлять другое лицо или организацию
и вести их дела.
Если двигаться от субъектного полюса, то агент может пониматься как
квазисубъект, способный в некотором смысле замещать другого
субъекта (своего «хозяина») и действовать по его поручению
АГЕНТ
Делегирование субъектом
ряда функций и полномочий
агенту
СУБЪЕКТ
Интеллектуализация и
активизация объекта
ОБЪЕКТ
ИНТЕРПРЕТАЦИИ АГЕНТОВ
Искусственные агенты – физические (роботы) и
виртуальные (софтботы, инфоботы, моботы)
ИСКУССТВЕННЫЙ АГЕНТ
СЛОЖНЫЙ
КОМПЬЮТЕРНЫЙ
ВИРУС
ДОМАШНИЙ
АВТОНОМНЫЙ РОБОТ
РОБОТ
ИСКУССТВЕННЫЙ
ОРГАНИЗМ
ПЕРСОНАЛЬНЫЙ
АССИСТЕНТ
АКТИВНЫЙ
ОБЪЕКТ
ИСКУССТВЕННЫЙ
ДЕЯТЕЛЬ
БИОЛОГИЯ,
БИОНИКА,
ИСКУССТВЕННАЯ
ЖИЗНЬ
ДРУЖЕСТВЕННЫЙ,
ИНТЕЛЛЕКТУАЛЬНЫЙ,
ПЕРСОНИФИЦИРОВАННЫЙ ИНТЕРФЕЙС
ПОЛЬЗОВАТЕЛЯ
ООП  АОП:
ТЕОРИЯ
ДЕЯТЕЛЬНОСТИ
ИСКУССТВЕННЫХ
СИСТЕМ
ОБЪЕКТ
МЕТАУРОВНЯ,
СПОСОБНЫЙ
МАНИПУЛИРОВАТЬ ДРУГИМИ
ОБЪЕКТАМИ
МОДЕЛЬ ПРОСТЕЙШЕГО АГЕНТА КАК
ИСКУССТВЕННОГО ОРГАНИЗМА
[Гаазе-Рапопорт М.Г., Поспелов Д.А. От амебы до робота:
модели поведения.- М.: Наука, 1987]
ПРОЦЕССОР
ПАМЯТЬ
РЕЦЕПТОРЫ
ЭФФЕКТОРЫ
Внутренняя
среда
Внешняя среда
МОДЕЛЬ АВТОНОМНОГО АГЕНТА
Автономный искусственный агент – открытая, активная система,
которая обладает собственным поведением, удовлетворяющим
экстремальным принципам
ПОТРЕБНОСТИ
ЦЕЛИ
m
ВЫБОР
МНЕНИЯ
per
sel
ДЕЙСТВИЕ
ВОСПРИЯТИЕ
w-сенсоры
act- эффекторы
СРЕДА
ПРИМЕР ОБЩЕЙ КЛАССИФИКАЦИИ
АГЕНТОВ
АГЕНТЫ
ЕСТЕСТВЕННЫЕ
Агенты-роботы
ИСКУССТВЕННЫЕ
ИНДИВИДУАЛЬНЫЕ
ВИРТУАЛЬНЫЕ
КОЛЛЕКТИВНЫЕ
ФИЗИЧЕСКИЕ
НЕПОДВИЖНЫЕ
ИНТЕЛЛЕКТУАЛЬНЫЕ
МОБИЛЬНЫЕ
РЕАКТИВНЫЕ
ПРИМЕР КЛАССИФИКАЦИИ
АГЕНТОВ ПО ДВУМ КРИТЕРИЯМ
Физические
АГЕНТЫ (РОБОТЫ)
1. ВНУТРЕННЯЯ МОДЕЛЬ
ВНЕШНЕЙ СРЕДЫ
ИНТЕЛЛЕКТУАЛЬНЫЕ:
КОГНИТИВНЫЕ,
ДЕЛИБЕРАТИВНЫЕ,
КОММУНИКАТИВНЫЕ
2. ВИД ПОВЕДЕНИЯ:
РЕАКТИВНЫЕ
АНИМАТЫ
ГДЕ ИСТОЧНИК МОТИВАЦИИ?
ИНТЕНЦИОНАЛЬНЫЕ
(BDI-АГЕНТЫ)
РЕФЛЕКТОРНЫЕ
ТРОФИЧЕСКИЕ
ДВА ОСНОВНЫХ ВОПРОСА
ТЕОРИИ АГЕНТОВ
1. Чем программный агент отличается от
обычной компьютерной программы?
2. Чем интеллектуальный агент отличается
от обычной интеллектуальной системы
ОТ ВЗАИМОДЕЙСТВИЯ К ОРГАНИЗАЦИИ
СКВОЗНАЯ ИЕРАРХИЧЕСКАЯ АГЕНТИФИКАЦИЯ:
Коллективные
агенты (МАС)
Социальные агенты
Индивидуальные
агенты
ТРИ ФАКТОРА ОРГАНИЗАЦИИ АГЕНТОВ
И МНОГОАГЕНТНЫХ СИСТЕМ
ЭКО-ОРГАНИЗАЦИЯ:
РЕОРГАНИЗАЦИЯ:
АСПЕКТЫ ДИНАМИКИ,
ПРЕОБРАЗОВАНИЯ,
ТРАНСФОРМАЦИИ
ОРГАНИЗАЦИЯ:
АСПЕКТЫ ОТКРЫТОСТИ,
АДАПТАЦИИ К СРЕДЕ
ФУНКЦИОНАЛЬНОСТРУКТУРНОЕ ЕДИНСТВО
САМООРГАНИЗАЦИЯ: АСПЕКТЫ АВТОНОМИИ, КООРДИНАЦИИ, КООПЕРАЦИИ
ТЕОРИЯ АГЕНТОВ:
НОВЫЙ ВЗГЛЯД НА ИСКУССТВЕННЫЙ
ИНТЕЛЛЕКТ КАК «НАУКУ ОБ ИНТЕНЦИЯХ»
[Bachimont, 1991]
Причины. В отличие от обычных программных систем,
интеллектуальные агенты наделяются интенциональными
свойствами, например, мнениями, желаниями, намерениями,
обязательствами.
Истоки. В психологии еще Ф.Брентано и Э.Гуссерль
считали интенциональность основным психическим
качеством, выступающим как главный критерий различия
между физическими и психическими явлениями.
Следуя им, будем понимать под интенцией агента любую
устремленность к деятельности, отражающую
определенное психическое состояние.
ОСНОВНЫЕ ФУНКЦИИ СИСТЕМЫ

КОГНИТИВНАЯ
ФУНКЦИЯ

РЕСУРСНАЯ
ФУНКЦИЯ
СИСТЕМА
РЕГУЛЯТИВНАЯ
ФУНКЦИЯ
СРЕДА
КОГНИТОНЫ
Понятие «КОГНИТОН» есть общий термин для описания
различных принципов, механизмов и моделей познания.
Оно было введено с целью определения семейства
когнитивных единиц, которые лежат в основе динамических
ментальных структур, изменяющихся во времени
(см. [Ferber, 1995]).
В теории агентов и многоагентных систем возникает
проблема инженерии когнитонов как основы разработки
интеллектуальных агентов (подобно тому, как инженерия
знаний лежит в основе разработки классических
интеллектуальных систем).
Инженерия когнитонов расширяет обычные подходы
инженерии знаний, видоизменяя и адаптируя их к
проблемам формализации интенциональных характеристик
агентов (желаний, намерений, обязательств и т.д.).
ОСНОВНЫЕ КЛАССЫ КОГНИТОНОВ
КОГНИТОНЫ
КОГНИТОНЫ
ПРЕДСТАВЛЕНИЯ
знания,
мнения,
суждения,
оценки,
аргументы
КОГНИТОНЫ
ВЗАИМОДЕЙСТВИЯ
перцепты,
запросы,
ответы,
сведения,
решения
ОРГАНИЗАЦИОННЫЕ
КОГНИТОНЫ
КОНАТИВНЫЕ
КОГНИТОНЫ
роли (функции),
задачи, нормы,
соглашения,
обязательства
стремления,
цели, желания,
намерения,
требования
ЧТО ТАКОЕ МНЕНИЕ?
Проблема исследования категории «мнение»
(Belief) имеет давние и глубокие традиции.
Уже Платон ясно осознавал наличие ступеней,
промежуточных градаций формирования знания.
Он различал собственно знание и мнение:
«мнение не есть знание, но и не есть незнание:
оно темнее знания и светлее незнания».
Соответственно, знаниями в классическом ИИ
называются «обоснованные, истинные мнения
(убеждения)».
ОСОБЕННОСТИ МНЕНИЙ
Мнения носят не достоверный, а правдоподобный
или приближенный характер, зависят от ситуации
и нередко могут пересматриваться.
Таким образом, мнение автономного агента, которое
может описывать состояния мира, других агентов и
самого агента, всегда является частичным, неточным,
неоднозначным, а подчас и противоречивым.
Это означает, что в основу представления мнений
следует положить аппарат многозначных и
нечетких логик
МНЕНИЕ КАК СИСТЕМА МОДАЛЬНОСТЕЙ:
ЕДИНЫЙ ПОДХОД К ПРЕДСТАВЛЕНИЮ СИСТЕМ
МОДАЛЬНОСТЕЙ НА БАЗЕ МНОГОЗНАЧНЫХ ЛОГИК
ВИДЫ
МОДАЛЬНОСТЕЙ
Сильная
положительная
SPM
Слабая
положительная
WPM
Слабая
отрицательная
WNM
Сильная
отрицательная
SNM
Алетические:
онтологии
Необходимость
N
Возможность
M
Случайность
Q
Невозможность
Y
Доксастические:
мнения
Уверенность
BEL
Предположение
HYP
Сомнение
DBT
Отвержение
DEN
Эпистемические:
знания
Верификация
Подтверждение
Неразрешимость
Фальсификация
Деонтические:
нормы
Обязанность
О
Разрешение
Р
Безразличие
Б
Запрещение
З
Эротетические:
вопросы
Корректность
С
Амбивалент-ность
A
Нерелевантность
IR
Некорректность
20
NC
ФОРМАЛИЗАЦИЯ АГЕНТА:
ДОКСАСТИЧЕСКИЕ И ДЕОНТИЧЕСКИЕ
МОДАЛЬНОСТИ
Различные запросы, предписания, требования со стороны
пользователя или других агентов выступают как внешние источники
целеобразования и регуляторы поведения агента.
Таким образом, при формализации агента следует использовать как
доксастические модальности (модальности мнения), так и
деонтические модальности (модальности действий и норм).
К числу модальностей мнения относятся: «уверен», «предполагаю»,
«сомневаюсь», «отвергаю». В частности, исходное мнение агента
может выступать в форме предположения (гипотезы) – базового
предварительного (возможного) представления агента о мире и
других агентах, которое может выдвигаться в интересах запуска
механизма действия, направленного на его подтверждение, т.е.
формирование уверенности.
Примерами деонтических модальностей являются слова
«обязательно», «разрешено», «запрещено».
Деонтические высказывания часто выражаются также с помощью
слов «может» и «должен».
ИНФОРМАЦИОННАЯ СТРУКТУРА
АГЕНТА: ЕДИНСТВО ОПИСАНИЙ И
ПРЕДПИСАНИЙ
Функционирование любого агента опирается как на описания,
так и на предписания. Описания содержат информацию о
состояниях среды, воспринимаемых агентом, а предписания – о
возможных действиях агента на эту среду.
ВЫСКАЗЫВАНИЕ:
ИНФОРМАЦИОННАЯ
ЕДИНИЦА
p = X is A, T(p)
Дескриптивная
модель: «как есть»
X does A
ОПИСАНИЕ
ПРЕДПИСАНИЕ
Истинность (ОПИСАНИЕ)
ОБЪЕКТ
Нормативная
модель: «как
должно быть»
ВЫСКАЗЫВАНИЕ
Полезность (ПРЕ ДПИСАНИЕ)
Истинность: соответствие между объектом и его описанием (первичен объект)
Полезность: соответствие между предписанием и его объектом (первично
предписание)
СВЯЗЬ МЕЖДУ ИСТИННОСТЬЮ И
ВЫПОЛНЕНИЕМ ДЕЙСТВИЯ
Представления агента о мире выражаются в виде
истинностных суждений описательного характера, т.е.
высказываний вида p = X есть А, характеризуемых
значениями истинности vV, т.е. v(p).
Истинностные суждения могут применяться и при
формализации действий агента. Императивными аналогами
истины и лжи являются понятия выполнения и невыполнения.
Действие выполняется тогда и только тогда, когда
описывающее его содержание предложение становится
истинным, и не выполняется, когда это предложение ложно
ЕДИНЫЙ ПОДХОД К ОПИСАНИЮ
СУЖДЕНИЙ И ОЦЕНОК АГЕНТА
С ИСПОЛЬЗОВАНИЕМ МНОГОЗНАЧНЫХ СЕМАНТИК
Суждение - высказывание p = X есть А, характеризуемое
значением истинности vV, т.е.
s = p, v(p),
где v(p) – функция мультиоценки истинности высказывания
pP, например, v: P V4, V4 = {T, F, B, N}; T - Истина, F - Ложь,
B - Истина и Ложь одновременно, N - ни Истина, ни Ложь
Общая идея мультиоценки Дж. Данна – переход от V к 2V
Модальная оценка – высказывание p = X есть А,
характеризуемое модальным значением mM , которое
может интерпретироваться с аксиологических (ценность) или
праксеологических (полезность) позиций как предписание (норма),
требование и пр., т.е.
mod = p, m (p),
где m (p) – функция модальной мультиоценки высказывания p P, m: P  W4,
W4 = {SPM, WPM, WNM, SNM }, например, WD4 = {О, Р, Б, З}
РОЛЬ ОБРАЗЦОВ, ОЦЕНОК, НОРМ В
ТЕОРИИ АГЕНТОВ
У агентов прагматические суждения оценочного характера
опираются на стандарты, образцы, эталоны и т.п.
При этом образец принципиально отличается от примера.
Пример говорит о том, что имеет место в действительности, а
образец – о том, что должно быть.
Примеры используются для поддержки описательных
высказываний, а ссылки на образцы служат обоснованием
предписаний и требований.
Легко понять, что в теории агентов центральное место
занимает именно формализация предписаний, оценок, норм.
Реализация агентом нормативного поведения предполагает
наличие, по крайней мере, двух элементов:
нормы, обязательной для выполнения в данной ситуации, и
оценки степени выполнения ее предписаний.
ОПРЕДЕЛЕНИЕ ПОНЯТИЯ НОРМЫ
Нормы – это социальные запреты и ограничения,
накладываемые сообществом (организацией) на отдельного
агента.
С одной стороны, нормы есть частный случай оценок: их можно
рассматривать как общественно апробированные и закрепленные
оценки.
Средством, превращающим оценку в норму, является угроза
наказания, т.е. стандартизация норм осуществляется с помощью
санкций.
Еще К.Менгер установил прямую связь между предписанием и
санкцией: p («обязательно p») и «если не p, то наказание
или ухудшение».
С другой стороны, формирование норм предполагает
согласование мнений по этим нормам
ФОРМАЛИЗАЦИЯ ПОНЯТИЯ НОРМЫ
Норму как предписание к действию можно выразить
четверкой
NR = AG, act, M4, W ,
где АG – множество агентов, которым адресована норма;
actACT – действие, являющееся объектом нормативной
регуляции (содержание нормы);
W – множество миров, в которых применима норма
(условия приложения, обстоятельства, в которых должно
или не должно выполняться действие);
М4 = {О, Р, Б, З} – множество базовых модальностей,
связанных с действием act: здесь О – «обязательно»,
Р – «разрешено», Б – «безразлично» (необязательно),
З – «запрещено».
ОСНОВНЫЕ СВОЙСТВА
ИНТЕЛЛЕКТУАЛЬНЫХ АГЕНТОВ
Автономные интеллектуальные агенты (как естественные, так и
искусственные) характеризуются следующими свойствами:
1) локальное, фрагментарное восприятие среды;
2) ограниченное воздействие на среду;
3) неточность и неполнота ее внутреннего представления;
4) изменчивость и ситуативность мнений, противоречивость,
неясность, неопределенность желаний, намерений, целей;
5) обработка информации и выработка решений в условиях
неопределенности или неуверенности (в частности, это
предполагает ограничение числа рассматриваемых вариантов
и незнание последствий принимаемых решений);
6) неопределенность или фрагментарность планов действий;
7) случайность реализаций действий;
8) наличие случайных или преднамеренных ошибок при
передаче информации в процессах коммуникации, т.е.
принципиальная неполнота, неточность и ненадежность
информации, получаемой от других агентов.
Эти свойства можно интерпретировать как «негативные» психологические факторы.
НЕ-ФАКТОРЫ (по А.С.Нариньяни)
Термин «НЕ-факторы»,введенный А.С.Нариньяни (1980),
служит для обозначения комплекса факторов, которые лексически и
содержательно отрицают одно из свойств классических формальных
систем – определенность, замкнутость, точность, однозначность,
полноту, непротиворечивость, монотонность, и пр.
Английский аналог термина НЕ-факторы– (im-in-un’)s
в знаниях предложен Ж.Дельгранде и Дж.Милопулосом (1985) в
контексте построения неклассических логик.
Подход А.С.Нариньяни идет от лингвистики: главную роль играет
доформальное исследование функционирования НЕ-факторов в языке.
НЕ-факторы (различные виды неопределенности) присутствуют на всех
уровнях деятельности (сенсорно-перцептивном, представленческом, речемыслительном). Так имеется нечеткость восприятия и нечеткость значения.
Велика роль НЕ-факторов в образном мышлении
.
Возникает даже вопрос, может ли, вообще, система считаться
интеллектуальной, если она не имеет дела с какими-либо НЕфакторами?
ИНФОРМАЦИОННЫЕ НЕ-ФАКТОРЫ
В ТЕОРИИ АГЕНТОВ
НЕ-ФАКТОРЫ
НЕПОЛНОТА
ПРОТИВОРЕЧИВОСТЬ
НЕТОЧНОСТЬ
НЕОДНОЗНАЧНОСТЬ
НЕЧЕТКОСТЬ
1. Неполнота информации – локальное восприятие среды.
2. Неточность – интервальное ограничение по точности восприятия.
3. Противоречивость информации, поступающей из разных
источников .
4. Неоднозначность предполагает наличие некоторого распределения
информации (вероятности, возможности, правдоподобия,
уверенности и пр.).
5. Нечеткость. Нечеткое значение приписывается лингвистическим,
качественным оценкам.
КЛАССИФИКАЦИЯ МНОГОАГЕНТНЫХ
СИСТЕМ
Интеллектуальные
МНОГОАГЕНТНЫЕ
агенты
СИСТЕМЫ
Реактивные
агенты
ЭМЕРГЕНТНЫЙ
ИНТЕЛЛЕКТ
СИСТЕМЫ
ГРУППОВОГО ИИ
СИСТЕМЫ
РАСПРЕДЕЛЕННОГО ИИ
СИСТЕМЫ
ИСКУССТВЕННОЙ ЖИЗНИ
СИСТЕМЫ
ДЕЦЕНТРАЛИЗОВАННОГО ИИ