Тарасов В.Б., Агенты, многоагентные системы, виртуальные

1
Тарасов В.Б.
АГЕНТЫ, МНОГОАГЕНТНЫЕ СИСТЕМЫ, ВИРТУАЛЬНЫЕ
СООБЩЕСТВА: СТРАТЕГИЧЕСКОЕ НАПРАВЛЕНИЕ В ИНФОРМАТИКЕ И
ИСКУССТВЕННОМ ИНТЕЛЛЕКТЕ
1. ВВЕДЕНИЕ
Разработка технологии искусственных агентов, создание многоагентных систем (МАС) и
виртуальных организаций представляет собой одну из наиболее важных и многообещающих
областей развития новых информационных и коммуникационных технологий (НИКТ), где
сегодня происходит интеграция современных сетевых WWW-технологий, методов и средств
искусственного интеллекта (ИИ), включая большие базы данных/ знаний, многокомпонентные
решатели, и систем объектно-ориентированного проектирования. У специалистов по НИКТ
сформировалось и вошло в широкий научный обиход представление об искусственных агентах
как активных, автономных, коммуникабельных, а главное, мотивированных, объектах,
«живущих» и «действующих» в сложных, динамических и, чаще всего виртуальных, средах [1,3,
6-8,10,16,17,21,24,25,30,34,38,45,60,61,72,78,84,113,135,136-138].
Уже
сегодня
агентноориентированный подход находит широкое применение в таких областях как распределенное
решение сложных задач (и эффективное решение распределенных задач), совмещенное
проектирование изделий, реинжиниринг бизнеса и построение виртуальных предприятий,
имитационное моделирование интегрированных производственных систем и электронная
торговля, организация работы коллективов роботов и распределенная (совмещенная) разработка
компьютерных программ. В ближайшем будущем он, несомненно, займет, центральное место при
развитии средств управления информацией и знаниями, и конечно, при создании и внедрении
новейших систем телекоммуникации, развитии глобальных компьютерных сетей, в особенности,
сети Интернет.
Решение задачи одним агентом на основе инженерии знаний представляет собой точку зрения
классического ИИ, согласно которой агент (например, интеллектуальная система), обладая
глобальным видением проблемы, имеет все необходимые способности, знания и ресурсы для ее
решения. Напротив, в распределенном искусственном интеллекте (РИИ) и, вообще, в области
МАС предполагается, что отдельный агент может иметь лишь частичное представление об
общей задаче и способен решить лишь некоторую ее подзадачу. Поэтому для решения скольконибудь сложной проблемы, как правило, требуется взаимодействие агентов, которое неотделимо
от организации МАС. Этот социальный аспект решения задач – одна из фундаментальных
характеристик концептуальной новизны передовых компьютерных технологий и искусственных
(виртуальных) организаций, строящихся как МАС [5,8,13,23,24,25,28,41-43,49,51,55,68,75,79,89,
97,102,107,117,124,130].
Каковы основные причины, обусловливающие особую актуальность РИИ и МАС в наши дни?
В первую очередь, это сложность современных систем и организаций, которая достигает такого
уровня, что централизованное управление в них становится неэффективным из-за наличия
огромных потоков информации, когда слишком много времени тратится на ее передачу в центр и
принятие им решений [5]. Поэтому сейчас происходит настоящая революция в области
организационного управления (стратегического менеджмента), связанная с коренной
перестройкой традиционных организаций и предприятий и появлением сетевых организационных
структур нового типа, например, горизонтальных, расширенных и виртуальных предприятий
(подробнее об этом можно прочитать в книге [14] или в обзоре [27]).
Сами компьютерные системы также становятся все сложнее и сложнее и включают ряд
подсистем различной природы, обладающими различными функциональными характеристиками
и взаимодействующими с различными специалистами, удаленными друг от друга. Кроме того, с
ростом сложности падает надежность систем, и все труднее сформулировать их адекватную
целевую функцию.
Во-вторых, сами решаемые задачи или разрабатываемые системы подчас неоднородны и
распределены: а) в пространстве (например, транспортная сеть или система космической связи);
2
б) в функциональном плане, поскольку ни один человек не может создать современную сложную
систему в одиночку. Трудно представить себе единый проект развития транспортной или
компьютерной сети. Очевидно, что у подобных систем нет единой цели и единого разработчика:
они возникли и развиваются в ходе технической эволюции (а системы, возникшие эволюционным
путем, не связаны с централизованным управлением).
В-третьих, понятие открытой системы означает, что у нее имеются развитые возможности и
средства адаптации к изменениям среды, в том числе путем модификации своей структуры и
параметров. Например, в случае открытой программной системы, модификация и расширение
программного обеспечения возможны прямо в ходе его функционирования. Эволюция
программного обеспечения происходит в сторону его разработки на основе автономных,
индивидуализированных, взаимодействующих модулей. С другой стороны, в последние годы
возможности эволюционного проектирования начинают всерьез приниматься во внимание и при
создании аппаратных средств ЭВМ.
В-четвертых, само распространение различный сетей порождает распределенный взгляд на мир.
Развитие мобильных компьютерных средств, когда вся информация и ресурсы ее обработки
распределены по различным узлам сети (например, сеть Интернет уже насчитывает несколько
десятков тысяч узлов во всем мире), требует пересмотра классических моделей вычислений,
основанных на сосредоточенной, последовательной машине фон Неймана, и принятия новых
концепций вычислительного пространства, например, концепции «гигантской паутины», как в
случае с World Wide Web или «вычислительного поля» (computing field) М.Токоро [131,105] по
аналогии с физическими полями.
Все вышеперечисленное объясняет бурное развитие нового стратегического направления в
информатике и ИИ: теории, методов, и программно-аппаратных средств построения
распределенных систем и сетевых организаций, включая МАС, интеллектуальные сети,
виртуальные сообщества. Это направление может стать ядром нового междисциплинарного
комплекса наук об искусственном (см.[26]) – синергетической информатики (и в частности,
синергетического ИИ), в русле которых предполагается возникновение системных качеств НИКТ
или достижение нелинейных, синергетических эффектов в процессе «совместного действия» и
взаимной адаптации отдельных информационных или коммуникационных технологий, что
связано с усилением возможностей и компенсацией недостатков отдельных компонентов. Далее в
русле системного подхода в ИИ [28] последовательно рассмотрим компоненты триады «агент –
многоагентная система – искусственное сообщество».
2. ОТ ОБЪЕКТОВ К АГЕНТАМ
При определении понятия «агент» удобно опираться на представления об объекте, развитом
школой объектно-ориентированного программирования (ООП).Тогда искусственный агент
может пониматься как метаобъект, наделенный некоторой долей субъектности, т.е. способный
манипулировать другими объектами, создавать и уничтожать их, а также имеющий развитые
средства взаимодействия со средой и себе подобными. Иными словами, это «активный объект»
или «искусственный деятель», находящийся на заметно более высоком уровне сложности по
отношению к традиционным объектам в ООП и использующий их для достижения своих целей
путем управления, изменяющего их состояния. Соответственно минимальный набор базовых
характеристик произвольного агента включает такие свойства как: а) активность, способность к
организации и реализации действий; б) автономность (полуавтономность), относительная
независимость от окружающей среды или наличие некоторой «свободы воли», связанное с
хорошим ресурсным обеспечением его поведения; в) общительность, вытекающая из
необходимости решать свои задачи совместно с другими агентами и обеспечиваемая развитыми
протоколами коммуникации; г) целенаправленность, предполагающая наличие собственных
источников мотивации, а в более широком плане, специальных интенциональных характеристик.
Такое представление близко к одному из наиболее популярных определений понятия «агент» у
М.Вулдриджа и Н.Дженнингса [136-138]. Они считают, что агент – это программно или аппаратно
реализованная система, обладающая следующими свойствами:
3
 автономность – способность функционировать без прямого вмешательства людей или
компьютерных средств и при этом осуществлять самоконтроль над своими действиями и
внутренними состояниями;
 общественное поведение (social ability), т.е. способность взаимодействия с другими агентами (а
возможно, людьми), обмениваясь сообщениями с помощью языков коммуникации;
 реактивность – способность воспринимать состояние среды (физического мира, пользователя
– через пользовательский интерфейс, совокупности других агентов, сети Internet, или сразу
все этих компонентов внешней среды);
 целенаправленная активность (pro-activity) – способность агентов не просто реагировать на
стимулы, поступающие из среды, но и осуществлять целенаправленное поведение, проявляя
инициативу.
Соответственно, если рассмотреть систему абстрактных полярных шкал типа «пассивный–
активный», «реактивный–целенаправленный», «зависимый–автономный» и поместить на них
объекты и агенты, то интуитивно ясно, что объекты будут находится на левых полюсах, а агенты
должны быть расположены правее, ближе к полюсам «активный», «целенаправленный»,
«автономный». Cдвинутое к правым полюсам промежуточное положение агентов на указанных
шкалах показывает достигнутый уровень субъектности в искусственной системе.
Таким образом, агентно-ориентированный подход в информатике и ИИ представляет собой
развитие известных подходов, основанных на понятиях объектов и акторов, но в то же время
имеет ряд принципиальных отличий. Понятия объект и актор представляют собой единицы
программных систем, задаваемые некоторой структурой и механизмом взаимодействия. Объект
(как реализация фрейма по М.Минскому) имеет единое имя и свои собственные данные и
процедуры. Объект может состоять из нескольких так же определенных объектов и в свою
очередь быть частью более крупного объекта. Объекты содержат слоты, которые в свою очередь
могут состоять из фактов. Слот может быть просто атрибутом или отношением. Все действия в
ООП выполняются через сообщения (однако сообщения указывают объекту, что делать, но не как
делать). В целом, понятие объекта определяется с помощью 4 признаков: а) инкапсуляция; б)
отношение «класс-пример»; в) свойство наследования; г) прохождение сообщений, допускающее
определение полиморфных процедур, т.е. процедур, код
которых может различаться в
зависимости от приемника сообщения.
Объекты не могут анализировать свое поведение, определять характер своих связей с другими
объектами или природу адресованных им сообщений.Их механизм получения сообщений
сводится к вызову процедуры. А главное, они не могут самостоятельно формировать цели.
Точно так же и акторы [87,35] – развитые, интерактивные, параллельно функционирующие
объекты, которые взаимодействуют путем посылки асинхронных сообщений, не могут проводить
рассуждения о содержании этих сообщений. Сама модель акторов организована, исходя из двух
простых принципов: посылки сообщений и локальной обработки. На локальном уровне актор
содержит три составляющие: а) знания о своей среде; б) знания о других акторах; в) множество
данных и действий. Эти составляющие определяют его локальное поведение в зависимости от
поступающего сообщения. Когда актор получает некоторое сообщение, он может передавать его
другим акторам. Помимо этого, актор способен создавать новых акторов и изменять свое
внутреннее состояние. Это означает, что в ряде случаев акторы могут рассматриваться как своего
рода подагенты.
Наличие у агента механизма целеобразования обеспечивает принципиально новый уровень
автономии. Это значит, что он необязательно выполняет распоряжения какого-либо другого
агента или пользователя, а просто зависит от условий среды, включая цели и намерения других
агентов. В отличие от объекта агент может принять на себя определенные обязательства или,
наоборот, отказаться от выполнения некоторой работы, мотивируя это отсутствием
компетентности, занятостью другой задачей и т.п.[72]. В то же время агент может выполнять
такие действия как порождение, подавление и замена других агентов, активизация функций (как
своих, так и у других агентов), активизация сценария деятельности, запоминание текущего
состояния других агентов и пр.
4
3. ПОДБОРКА ОПРЕДЕЛЕНИЙ И ВЫСКАЗЫВАНИЙ ОБ АГЕНТАХ
Концепция агентов подразумевает обращение к ряду новых для специалистов по информатике
и ИИ понятий из психологии и социалогии, и, в первую очередь, понятий из теории деятельности
и теории коммуникации. При этом деятельность и интеллект понимаются как процессы,
рекурсивно зависящие друг от друга, что обеспечивает их порождение и реализацию. Интеллект
агента выступает как подсистема управления деятельностью, позволяющая ему организовать и
регулировать свои действия или действия другого агента. В то же время, интеллект имеет
коммуникативную природу и формируется в процессах взаимодействия (коммуникации) агента с
другими агентами, а потребность в коммуникации связана с реализацией целенаправленной
деятельности.
Различные определения понятия «агент» подразделяются на «слабые» и «сильные»
программистские и антропоморфные [137]. Вначале остановимся на некоторых наиболее слабых
определениях, а затем постепенно перейдем к более сильным.
В одном из наиболее капитальных современных учебников по ИИ, изданном С.Расселом и
П.Норвигом [119], под агентом понимается «любая сущность, которая находится в некоторой
среде, воспринимает ее посредством сенсоров, получая данные, которые отражают события,
происходящие в среде, интерпретирует эти данные и действует на среду посредством
эффекторов». Таким образом, здесь вычленяются четыре исходных агентообразующих фактора –
среда, восприятие, интерпретация, действие.
Столь тривиальное определение не позволяет проводить четкого различения между агентом и
произвольной программой [77], и поэтому следует ввести некоторые специальные ограничения на
среду, восприятие, интрпретацию и действие. В близком по смыслу определении Б.Хэйес-Рот [85]
подчеркивается, что интеллектуальные агенты непрерывно выполняют три следующие функции:
1) восприятие динамики среды; 2) действия, изменяющие среду; 3) рассуждения в целях
интерпретации наблюдаемых явлений, решения задач, вывода заключений и определения
действий. Иными словами, специально оговаривается динамичность среды и подчиненность
рассуждения действию: агенты рассуждают для того, чтобы выбрать действия.
Согласно П.Маэс [100], «автономные агенты – это компьютерные системы, функционирующие
в сложной, динамической среде, способные ощущать и автономно действовать на эту среду и,
таким образом, выполнять множество задач, для которых они предназначены». Здесь предложены
два ограничения на среду агентов – «сложная и динамическая».
Подробный анализ возможных типов сред и соответствующих требований к агентам дан
Д.А.Поспеловым [16]. У него все среды подразделяются на три больших класса - замкнутые,
открытые и трансформируемые. Замкнутые среды допускают конечное исчерпывающее
описание (детерминированное или вероятностное). При этом агенты могут обладать полным
априорным знанием о среде и ее свойствах или получать оперативную информацию в ходе своего
взаимодействия с ней (как в моделях коллективного поведения автоматов). Но главная идея –
полнота их знаний (в детерминированном или статистическом смысле) остается. Понятие
«открытых сред» предполагает отказ от постулата полноты знаний у агента и введение локальных
описаний среды. Наконец, трансформируемые среды могут менять свои характеристики в
зависимости от действий агентов (например, агенты могут порождать новые объекты в среде и, в
частности, новых агентов).
В открытых средах для отражения динамики среды и ситуативности знаний агентов требуется
переход к семиотическим системам. Семиотическая система может пониматься как динамическая
система, состояниями которой являются фиксированные формальные системы. Соответственно,
агент, функционирующий в открытой среде, должен иметь семиотическую базу знаний и уметь
работать с фрагментами неоднородных семантических сетей. Для трансформируемых сред в
структуру агента должны включаться средства, позволяющие прогнозировать возможное развитие
процессов в среде в результате тех или иных действий агента.
Слабые определения смыкаются с чисто программистскими взглядами на природу агента.
Нередко агенты понимаются как вычислительные единицы, поддерживающие локальные
состояния и параллельные вычисления, а также способные в процессах коммуникации достигать
состояния других агентов, и автоматически выполнять действия в некоторых условий среды [6]. В
5
свою очередь, стратегия искусственных агентов, изложенная в IBM White Paper [3*], исходит из
идеи «персонального ассистента»: агент действует в интересах других лиц, которые передают ему
определенные властные полномочия. По сути дела, здесь агент есть любая программная или
аппаратная система, способная действовать в интересах достижения целей, поставленных
пользователем. Соответственно, интеллектуальные агенты понимаются как программные
системы, создаваемые для оказания услуг пользователю на основе своих интеллектуальных
интерфейсов и характеризующиеся определенным поведением (правилами и стратегиями
поведения). Они выполняют некое множество операций для пользователя или другой
программной системы, обладая определенной степенью автономности или независимости, и
используя при этом знания или представления о целях или желаниях пользователя.
Итак, ключевыми характеристиками любых агентов как «искусственных деятелей» являются
автономность и целенаправленность. Речь идет об автономном выполнении некоторых
действий на основе целенаправленных проблемно-ориентированных рассуждений. Подчас в
качестве главных признаков агента берутся интеллектуальность и автономность, где
интеллектуальность связывается с восприятием и рассуждениями, а автономность - с принятием
решений и действием на среду [53,4*].
По М.Коэну [5*], агенты – это программы, которые имеют взаимные обязательства,
определяемые в процессе диалога, ведут переговоры и координируют передачу информации.
Здесь очевидно, что переговорный процесс предполагает наличие восприятия и действия, а диалог
немыслим без средств коммуникации. Агенты обладают настойчивостью, что связано с наличием
своих собственных представлений о том, как выполнять задачи, или своих личных программ
действий.
По-видимому, первое в современных исследованиях по ИИ «скрытое определение» агента
восходит к работам Д.А.Поспелова и В.Н.Пушкина (см. например [18]) по теории гиромата. В
гиромате–элементарной модели целесообразного поведения, способной адаптироваться к
условиям решаемой задачи – уже присутствовали следующие модули: блок мотивации; блок
селекции (рецепторы); блок построения внутренней модели внешней среды; блок выдвижения
гипотез; блок модельного опыта; блок выработки решений; блок активного опыта; блок времени
(рис.1). Несколько позже К.Хьюитт предложил определение актора как программного агента,
имеющего свой почтовый адрес и обладающего поведением [87, 113].
Более сильные определения полнее отражают когнитивные, коммуникативные, поведенческие,
а особенно, интенциональные аспекты агентов. Вообще, в антропоморфных определениях агентов
ведущее место отводится ментальным свойствам. Как правило, особое внимание обращается на
главное отличие агентов от объектов, связанное с наличием у первых внутренних механизмов
мотивации и целеполагания. Тогда ядро агента задается тройкой «интенции – ресурсы –
поведение»: любой агент, имеющий определенные цели и предпочтения, нуждается в ресурсах
для их достижения и демонстрирует некоторое поведение. Так по И.Шоэму [124], агент есть
целостная
единица,
описание
состояния
которой
включает
такие
психические
(метаинтеллектуальные [130]) компоненты как убеждения, способности, обязательства и решения.
Иными словами, каждый агент имеет встроенные механизмы мотивации (формирования
предпочтений).
Достаточно сильное определение интеллектуального агента дали К.Сикара и соавторы [129].
Здесь выделены следующие характеристики:
 способность решения задач, поставленных людьми или другими компьютерными агентами;
 активность, т.е. способность инициировать решение задачи и предлагать свои услуги
пользователю;
 сетевая «среда обитания» и способность самоорганизации в ней;
 полуавтономность (у пользователя есть возможность управлять уровнем автономности
агента);
 антиципация, т.е. способность предвидеть запросы пользователя;
 надежность;
 способность сотрудничать с людьми или другими компьютерными агентами в интересах
решения задачи;
6

гибкость, проявляющаяся в способности работать с неоднородными агентами и удаленными
иинформационными ресурсами;
 адаптивность, способность оперативно приспосабливаться к изменению потребностей
пользователя и факторов среды;
 настойчивость в решении задачи.
Опираясь на концепцию гиромата и усиливая определение Ж.Фербе [72], можно дать
следующее общее определение интеллектуального агента [28, 30].
Под интеллектуальными агентами в информатике и ИИ понимаются любые физические или
виртуальные единицы:
а) способные действовать на объекты в некоторой среде, на других агентов, а также на самих себя
(действие);
б) способные общаться с другими агентами (общение);
в) исходящие из некоторых потребностей и способные к целеобразованию (потребностноцелевая основа); обладающие набором интенциональных характеристик (убеждения,желания,
намерения и пр.);
г) несущие определенные обязанности и предоставляющие ряд услуг (наличие обязательств);
д) обладающие собственными ресурсами, обеспечивающими их автономию (автономия);
е) способные к восприятию среды (восприятие с ограниченным разрешением);
ж) способные строить частичное представление этой среды на основе ее восприятия, т.е.
перцептивных навыков и умений (локальное представление среды);
з) способные к обучению, эволюции и адаптации (эволюционный и адаптационный потенциал)
и) способные к самоорганизации и самовоспроизведению (самосохранение).
4. КЛАССИФИКАЦИИ АГЕНТОВ
Можно предложить немало различных оснований для построения классификаций агентов.
Наиболее очевидными являются критерии классификации, связанные с полярными шкалами
«естественное–искусственное» и «материальное–идеальное». По первому критерию,
выделяются натуральные агенты (животные, люди, группы организмов, коллективы людей) и
искусственные агенты (роботы, коллективы автоматов, сложные компьютерные программы). В
данной работе описываются только искусственные агенты. По второму критерию, все
искусственные агенты подразделяются на: 1) материальных, физически существующих и
работающих в реальном пространстве, например, интегральные роботы) и 2) виртуальных,
существующих лишь в программной среде (виртуальном пространстве); нередко такие
«программные роботы» (software robots) называют сокращенно софтботами (softbots) [17, 77,113].
Еще одна пара взаимосвязанных критериев классификации опирается на дихотомии
«сосредоточенное-распределенное» и «неподвижное-подвижное» [6,71,72,83,129]. Примером
неподвижного агента служит стационарный манипуляционный робот, а примером мобильного–
поисковый агент, мигрирующий по сети в целях отыскания нужной информации. Подчас
мобильные софтботы (моботы [4*]) могут трактоваться как распределенные, чисто
коммуникативные агенты, которые не имеют собственных средств восприятия и действий
(поэтому они не манипулируют никакими объектами), а лишь используют располагаемые ресурсы
для коммуникации с другими агентами и миграции по сети в поисках релевантных данных и
процедур. Наоборот, четко локализованные агенты в определенном смысле противоположны
коммуникативным: они не могут двигаться по сети и обычно не обладают способностью к
представлению среды, а их общение с другими агентами происходит не напрямую, а косвенно,
через механизмы восприятия и действия.
Важным основанием для классификации служит наличие (отсутствие) у агентов характеристик
обучаемости или адаптивности. У обучаемых агентов поведение основано на предыдущем опыте.
В свою очередь, Д.А.Поспелов [16] предлагает строить классификацию агентов и выбирать
соответствующие формальные средства их описания с помощью тройки критериев: тип среды,
уровень «свободы воли» (по В.А.Лефевру) и уровень развития социальных отношений. Так для
7
простейших замкнутых сред достаточно агентов автоматного уровня сложности (модели
коллективного поведения автоматов), а в случае более сложных замкнутых сред имеем дело с
агентами, основанными на конечных наборах правил и сценариев их применения (например,
нечеткие регуляторы). Агенты, основанные на правилах, активно используются в компьютерных
сетях, действуя в рамках «клиент-серверного» подхода. В целом, когда среда замкнута, пара
«среда-агент» может быть в принципе задано формальной системой, т.е. действия агента здесь
могут быть описаны в рамках подходящего логического исчисления (например, модальные логики
или логики предикатов высокого порядка). Для открытых сред требуется переход к
семиотическому моделированию.
С уровнем «свободы воли» и характером взаимодействия связаны, в частности, представления
о
благонамеренных(benevolent)
и
злонамеренных,эгоистических
(self-interested)
и
альтруистических агентах [44].
Еще одним важнейшим основанием для классификации искусственных агентов служит
принятие либо психологической, либо биологической метафоры при рассмотрении природы их
действий (дихотомия «психологическое – биологическое»). В одном случае, речь идет о трактовке
агентов как квазисубъектов, самостоятельно решающих встающие перед ними задачи, а в другом
они уподобляются простейшим организмам, непосредственно реагирующим на изменения среды
в интересах выживания и адаптации [60,61,72,77]. В частности, исходя из биологической
метафоры, строятся «аниматы», т.е. искусственные животные, которые в процессе выживения
должны приспособливаться к все более сложным и враждебным средам. Аниматы могут быть
реализованы и как виртуальные агенты (имитация на компьютере), и как роботы, действующие в
реальном физическом мире [107].
В целом, данная типология агентов тесно связана с классической проблемой взаимодействия
«субъект – объект». Уровень субъектности агента непосредственно зависит от того, наделен ли
он символьными представлениями, требующимися для организации рассуждений, или в
противоположность этому он работает только на уровне образов (субсимвольном), связанных с
сенсомоторной регуляцией. Соответствующую классификацию агентов (рис.2) можно построить
по следующим двум признакам: а) степень развития внутреннего представления внешнего мира и
б) способ поведения.
По первому признаку, выделяются интеллектуальные (когнитивные, рассудочные) и
реактивные агенты. Когнитивные агенты [53,71,75,103,138]обладают более богатым
представлением внешней среды, чем реактивные. Это достигается за счет наличия у них базы
знаний и механизма решения. Близкий термин «рассудочный (deliberative) агент» служит для
обозначения агента, который обладает символьной моделью внешнего мира, а также
возможностью принимать решения на основе символьных рассуждений, например, метода
сравнения по образцу [82,138]
Отсюда вытекает еще одно существенное различие между интеллектуальными и реактивными
агентами, связанное с возможностями прогнозирования изменений внешней среды и, как
следствие, своего будущего. Реактивные агенты [37,46,47,73,100,111], имеющие довольно бедное
внутреннее представление внешней среды (или не имеющие его вовсе), обладают очень
ограниченным диапазоном предвидения. Они практически не способны планировать свои
действия, поскольку реактивность в чистом виде означает такую структуру обратной связи,
которая не содержит механизмов прогноза. В то же время когнитивные агенты, благодаря
развитым внутренним представлениям внешней среды и возможностям рассуждений, могут
запоминать и анализировать различные ситуации, предвидеть возможные реакции на свои
действия, делать из этого выводы, полезные для дальнейших действий и, в результате,
8
Àãåí òû
Êî ãí èòèâí û å
È í òåí öèî í àëüí û å
Ðåô ëåêòî ðí û å
Ðåàêòèâí û å
Ï î áóæäàåì û å
Òðî ô è÷åñêèå
Рис. 2. Классификация агентов
планировать свое поведение. Именно интеллектуальные способности позволяют таким агентам
строить виртуальные миры, работая в которых они формируют планы действий.
Когнитивные агенты имеют ярче выраженную индивидуальность, будучи гораздо более
автономными, чем реактивные, и характеризуются развитым целесообразным поведением в
сообществе агентов, достаточно не зависимым от других агентов.
С другой стороны,
реактивные агенты как это видно из самого их названия, работают в основном на уровне
стимульно-реактивных связей, обладая очень бедной индивидуальностью и сильной
зависимостью от внешней среды (сообщества агентов). Результаты сравнительного анализа
реактивных и когнитивных агентов представлены в табл.1.
По типу поведения интеллектуальные агенты делятся на интенциональных и рефлекторных, а
реактивные – на побуждаемых и трофических. Большинство интеллектуальных (когнитивных)
агентов можно отнести к числу интенциональных [61,82,114,124]. Подобные агенты наделены
собственными механизмами мотивации. Это означает, что в них так или иначе моделируются
внутренние убеждения, желания, намерения и мотивы, порождающие цели, которые определяют
их действия. В свою очередь, модульные или рефлекторные агенты не имеют внутренних
источников мотивации и собственных целей, а их поведение характеризуется простейшими
(одношаговыми) выводами или автоматизмами. Таким образом, они представляют собой
граничный случай понятия когнитивного агента и могут использоваться как «вспомогательные
агенты». Данные агенты близки к акторам: они способны отвечать на вопросы и выполнять
задания, которые ставят перед ними другие агенты, но решение этих задач не приводит к
появлению у них собственных целей. Типичными примерами таких вырожденных агентов
являются системы поиска в базах данных и простейшие логические регуляторы.
В свою очередь, реактивные агенты содержат как бы скомпилированные знания о требуемых
действиях: им не надо строить подробное внутреннее представление внешней среды, поскольку
вполне достаточными оказываются реакции на набор предъявляемых ситуаций, т.е. характер
реакции определяется только текущей информацией. По сложности этих реакций и
происхождению источников мотивации реактивные агенты подразделяются на побуждаемых и
трофических агентов [72]. В случае трофических агентов поведение определяется простейшими
трофическими связями (типа «кто кого ест»). Фактически оно сводится к ответу на стимулы,
поступающие из внешней среды (собственных мотивов и целей нет), т.е. полностью определяется
ее локальным состоянием. Типичной моделью подобных агентов являются клеточные автоматы,
где основными параметрами выступают: радиус восприятия агента, количество условных единиц
питания и энергетическая стоимость единицы. Здесь каждый трофический (по сути,
ситуационный) агент обладает небольшим набором ситуационных правил, задающим его реакции
на сигналы из среды типа «если в радиусе восприятия есть единица питания, то направиться к
ней» или «если в радиусе восприятия не обнаружена единица питания, то случайным образом
выбрать один из свободных соседних квадратов и передвинуться в этот квадрат»
Табл.1. Сравнительный анализ свойств когнитивных и реактивных агентов
9
Характеристики
Когнитивные агенты
Реактивные агенты
Внутренняя модель
внешнего мира
Развитая
Примитивная
Рассуждения
Сложные и рефлексивные
рассуждения
Простые одношаговые
рассуждения
Мотивация
Развитая система мотивации,
включающая убеждения,
желания, намерения
Простейшие побуждения,
связанные с выживанием
Память
Есть
Нет
Реакция
Медленная
Быстрая
Адаптивность
Малая
Высокая
Модульная
архитектура
Есть
Нет
Состав МАС
Небольшое число
автономных агентов
Большое число зависимых
друг от друга агентов
Между тем, реактивные агенты также могут иметь примитивный механизм мотивации,
толкающий их на выполнение задачи, например, удовлетворение набора жизненных
потребностей. В частности, здесь речь может идти о поддержании требуемого энергетического
баланса или, в более широком плане, условиях выживания агента как сохранения гомеостазиса
(что связано со способностями определения и увеличения расстояния от границ гомеостазиса)
[9,13,106]. Например, используя интегральную формулировку гомеостазиса по Г.А.Голицыну,
можно утверждать, что побуждаемый агент стремится минимизировать функционал
Т
Т
I = Wdt =  ½(aiyi2)dt,
0
0
где yi – отклонение некоторой жизненно важной переменной от нормы (потребность), ai – вес
(субъективная важность) этой потребности, t – время, а произведение Mi = aiyi естественно
трактовать как побуждение (влечение).
Итак, когнитивные агенты, благодаря их сложности, наличию знаний и способностей к
рассуждениям о своем поведении и внешней среде могут быть более автономными и работать
относительно независимо, демонстрируя достаточно гибкое поведение. Но та же сложность
автономных агентов, выливающаяся в способность противиться внешним воздействиям, вызывает
определенные трудности при организации их эффективного взаимодействия. Поэтому в составе
МАС, построенной из интеллектуальных агентов, как правило, присутствует не более 7+2
автономных единиц (магическое число Миллера).
Наоборот, довольно простая структура реактивных агентов, обусловливает их жесткую
зависимость от среды. Следовательно, их возможности сравнительно невелики, когда они
функционируют в одиночку и ограничены своими собственными ресурсами. Однако им легче
образовать группу или организацию, способную гибко адаптироваться к изменениям среды под
действием механизма естественного отбора. Поэтому реактивные агенты представляют интерес
10
не на индивидуальном, а на коллективном уровне, причем их способности к адаптации и
развитию возникают в результате локальных взаимодействий. Таким образом, реактивные
агенты, которые почти не имеют индивидуальности, растворяются в общей массе, но за счет
своего большого числа и избыточности они могут решать сложные задачи. В пределе,
соответствующие МАС могут формироваться в результате взаимодействий без точного
определения отдельных агентов. Подобные «тучи» (swarms), состоящие из значительного числа
реактивных агентов, можно сравнить с неким сверхорганизмом, взаимная адаптация и кооперация
клеток которого позволяет создать общую цепь обратной связи, обеспечивающую гомеостазис
всей системы.
Нетрудно понять, что разделение агентов на когнитивных и реактивных восходит к двум
основным
школам
классического
ИИ–символьной
(нисходящее
проектирование
интеллектуальных систем) и бионической (восходящее проектирование интеллектуальных
систем). Из сопоставления характеристик когнитивных и реактивных агентов видно, что
синергетические автономные агенты должны обладать гибридной архитектурой, сочетающей
достоинства реактивных и когнитивных агентов. В этом плане налицо тенденция построения
интегрированных архитектур агентов, аналогичная современным вариантам интеграции
логических и нейросетевых моделей в ИИ.
Наконец, еще один тип классификации, где дополнительно к биологическому и
психологическому уровням агентообразования вводится социальный и используются аналогии с
триадой «растение – животное – человек», описан П.Браспеннингом [45]. По его мнению,
реактивных, интенциональных и социальных агентов можно уподобить компонентам этой
триады. Агенты, подобные растениям, характеризуются реактивностью, выполнением
стереотипных программ и посылкой сообщений другим агентам и в среду. Агенты, подобные
животным, интенциональны, способны выбирать цели, строить планы действий и обеспечивать
их выполнение. Они координируют свои действия, обмениваясь информацией об индивидуальных
предпочтениях или задачах. Наконец, гуманоидные агенты, обладая внутренними моделями
других агентов (и способностью к рефлексии), характеризуются социальным (ролевым)
поведением. Сложность внутренних моделей зависит от уровня знаний и опыта гуманоидного
агента.
5. МНОГОАГЕНТНЫЕ СИСТЕМЫ И ВИРТУАЛЬНЫЕ ОРГАНИЗАЦИИ
Многоагентные системы зародились на пересечении теории систем и распределенного
искусственного интеллекта.С одной стороны, речь идет об открытых, активных, развивающихся
системах, в которых главное внимание уделяется процессам взаимодействия агентов как
причинам возникновения системы с новыми качествами. С другой стороны, достаточно часто
МАС строятся как объединение отдельных интеллектуальных систем, основанных на
знаниях.
Любая МАС состоит из следующих основных компонентов:
1) множество организационных единиц, в котором выделяются подмножество агентов 1а),
манипулирующих подмножеством объектов 1б);
2) множество задач;
3) среда, т.е. некоторое пространство, в котором существуют агенты и объекты;
4) множество отношений между агентами;
4) множество действий агентов (например, операций над объектами).
В МАС задачи распределены между агентами, каждый из которых рассматривается как член
группы или организации. Распределение задач предполагает назначение ролей каждому из членов
группы, определение меры его ответственности и требований к опыту.
5.1. Главные направления развития МАС
Сегодня основными направлениями в разработке МАС (см. рис.3) являются распределенный
искусственный интеллект и искусственная жизнь (в узком смысле этого термина) [30,72,86].
Ядро РИИ [15,20,43,65,80,89,117] составляют исследования взаимодействия и кооперации
11
небольшого числа интеллектуальных агентов, например, классических интеллектуальных систем,
включающих базы знаний и решатели. Главной проблемой в РИИ является разработка
интеллектуальных групп и организаций, способных решать задачи путем рассуждений, связанных
с обработкой символов. Иными словами, здесь коллективное интеллектуальное поведение
образуется на основе индивидуальных интеллектуальных поведений. Это предполагает
согласование целей, интересов и стратегий различных агентов, координацию действий,
разрешение конфликтов путем переговоров; теоретическую базу здесь составляют результаты,
полученные в психологии малых групп и социологии организаций.
Важным разделом РИИ является кооперативное распределенное решение задач (КРРЗ) [6567,117]. Речь идет о сети слабо связанных между собой решателей, которые совместно работают в
целях решения задач, которые выходит за рамки индивидуальных возможностей. Различные узлы
подобной сети, как правило, имеют неодинаковый опыт (знания, точки зрения) и разные ресурсы.
Каждый узел должен быть способен модифицировать свое поведение в зависимости от
обстоятельств, а также планировать свои стратегии коммуникации и кооперации с другими
узлами. Здесь показателями уровня кооперации являются: характер распределения задач,
объединение различных точек зрения и, конечно, возможность решения общей проблемы в
заданное время.
Распределенное решение задач несколькими агентами разбивается на следующие этапы:
1)агент-менеджер (центральный орган) проводит декомпозицию исходной проблемы на
отдельные задачи; 2) эти задачи распределяются между агентами-исполнителями; 3) каждый
агент-исполнитель решает свою задачу, подчас также разделяя ее на подзадачи; 4) для получения
общего результата производится композиция, интеграция частных результатов, соответствующих
выделенным задачам.
Второе направление – искусственная жизнь [86,96,100] – в большей степени связано с
трактовкой интеллектуального поведения в контексте выживания, адаптации и самоорганизации в
динамичной, враждебной среде, которая восходит к работам Ж.Пиаже. В русле ИЖ глобальное
интеллектуальное поведение всей системы рассматривается как результат локальных
взаимодействий большого числа простых и необязательно интеллектуальных агентов. Здесь также
используются термины «коллективный интеллект» (collective intelligence–cм., например, [13,42])
или «интеллект роя» (swarm intelligence) [1,62]. Cторонники этого направления, в частности,
Р.Брукс, Л.Стилс, Ж.Денебург и др. [46,62,63,86,127]), опираются на следующие положения: 1)
МАС есть популяция простых и зависимых друг от друга агентов; 2) каждый агент
самостоятельно определяет свои реакции на события в локальной среде и взаимодействия с
другими агентами; 3) связи между агентами являются горизонтальными, т.е. не существует агентасупервизора, управляющего взаимодействием других агентов; 4) нет точных правил, чтобы
определить глобальное поведение агентов; 5) поведение, свойства и структура на коллективном
уровне порождаются только локальными взаимодействиями агентов.
Здесь механизмы реакций на воздействия среды и локальных взаимодействий в общем случае
не включают такие аспекты как прогнозирование, планирование, знания, но подчас позволяют
решать сложные задачи. Типичными примерами такого коллективного интеллекта из биологии
являются колонии муравьев, пчелиные ульи и т.п. Соответственно, здесь базовыми дисциплинами
могут служить различные области биологической науки и, в первую очередь, эволюционная
теория и генетика.
Часто проводятся принципиальные различия между распределенным и децентрализованным
ИИ (рис.3) [60,61]. Идеология распределенного решения задач [65,89,117] предполагает главным
образом разделение знаний и ресурсов между агентами и, в меньшей степени, распределение
управления и властных полномочий; как правило, здесь постулируется наличие единого органа
управления, обеспечивающего принятие решений в критических (конфликтных) ситуациях. При
этом исходным объектом исследования является общая сложная проблема, для решения которой
формируется группа агентов, строится общая концептуальная модель и вводятся глобальные
критерии достижения цели.
В полностью децентрализованных системах управление происходит только за счет локальных
взаимодействий между агентами. Здесь базовым объектом исследования оказывается уже
не
12
Ì Í Î ÃÎ ÀÃÅÍ ÒÍ Û Å
ÑÈÑÒÅÌ Û
ÐÀÑÏ ÐÅÄÅËÅÍ Í Û É
ÈÑÊÓÑÑÒÂÅÍ Í Û É
ÈÍ ÒÅËËÅÊÒ
____________________
Ì ÀÑ î áðàçóåòñÿ äëÿ
ðåø åí èÿ çàäà÷è.
Î ñóù åñòâëÿåòñÿ
öåí òðàëèçî âàí í î å
óï ðàâëåí èå è
êî î ðäèí àöèÿ äåéñòâèé
í åñêî ëüêèõ
èí òåëëåêòóàëüí û õ
àãåí òî â
ÄÅÖÅÍ ÒÐÀËÈÇÎ ÂÀÍ Í Û É
ÈÑÊÓÑÑÒÂÅÍ Í Û É
ÈÍ ÒÅËËÅÊÒ
_________________________
Èññëåäóåòñÿ äåÿòåëüí î ñòü
àâòî í î ì í î ãî àãåí òà â
äèí àì è÷åñêî é ì í î ãî àãåí òí î é
ñðåäå
ÈÑÊÓÑÑÒÂÅÍ Í Àß
ÆÈÇÍ Ü
______________________
Èññëåäóþ òñÿ è
ì î äåëèðóþ òñÿ ï ðî öåññû
äåöåí òðàëèçî âàí í î ãî
óï ðàâëåí èÿ, ýâî ëþ öèè,
àäàï òàöèè è êî î ï åðàöèè
â Ì ÀÑ, ñî ñòî ÿù åé èç
áî ëüø î ãî ÷èñëà
ðåàêòèâí û õ àãåí òî â
Рис. 3. Классификация многоагентных систем
распределенное решение некоторой общей задачи, а деятельность автономного агента в
динамическом многоагентном мире (а также координация деятельности различных агентов). При
этом наряду с распределенными знаниями и ресурсами, описываются локальные задачи
отдельных агентов, решаемые на базе локальных концептуальных моделей и локальных
критериев.
5.2. Взаимодействие, коммуникация, кооперация агентов
Помимо ранее рассмотренных представлений об агентах, объектах и средах, при разработке
МАС необходимо предварительное определение и моделирование таких базовых теоретических
понятий и характеристик, как взаимодействие, кооперация (сотрудничество), координация,
организация, управление.
Взаимодействие агентов – вот первое, что выступает перед нами, когда мы говорим о МАС.
Взаимодействие означает установление двусторонних динамических отношений между агентами.
При этом оно является одновременно источником и продуктом некоторой организации. Иными
словами, взаимодействие представляет собой не только следствие каких-либо действий в МАС,
выполняемых агентами в одно и то же время, но и необходимое условие формирования
социальных организаций.
Для определения базовых типов взаимодействия агентов в МАС можно взять следующие
критерии группообразования: а) совместимость целей агентов; б) потребность в чужом опыте
(знаниях); в) совместное использование ресурсов. Тогда, если обозначить наличие указанных
признаков знаком +, а их отсутствие - знаком , получаем восемь базовых ситуаций
взаимодействия [72], сведенных в табл.2. Здесь граничный случай независимости агентов
равносилен отсутствию МАС (полностью автономные агенты). Простое сотрудничество
предполагает интеграцию опыта отдельных агентов (выражающуюся в распределении задач и
обмене знаниями), когда не требуются дополнительные мероприятия по координации их
действий. Непродуктивное сотрудничество реализует известную ситуацию «лебедя, рака и щуки»
из басни И.А.Крылова, когда агенты, не имея потребности в опыте друг друга, но совместно
используя
13
Табл.2. Базовые типы взаимодействия агентов
Табл.2. К определению базовых ситуаций взаимодействия агентов
ТИП СИТУАЦИИ
ВЗАИМОДЕЙСТВИЯ
АГЕНТОВ
Координируемое
сотрудничество
Простое
сотрудничество
Непродуктивное
сотрудничество
Безразличие
(независимость)
Коллективное
соперничество
за ресурсы
Чистое коллективное
(командное)
соперничество
Индивидуальное
соперничество
за ресурсы
Чистое
индивидуальное
соперничество
Совместимость
целей
+
Потребность в
чужом опыте
Наличие
распределенных
ресурсов
+
+
+
+
+

+


+


+
+

+



+



ресурсы, мешают друг другу. Координируемое сотрудничество означает, что агенты должны
согласовать свои действия (возможно, с помощью специального агента-координатора), чтобы
продуктивно использовать располагаемые опыт и ресурсы. Это  наиболее сложный случай
сотрудничества, когда к проблеме распределения задач добавляется проблема координации
действий, обусловленная ограниченностью ресурсов.
В некотором смысле противоположным по отношению к координируемому сотрудничеству
является случай чистого индивидуального соперничества, когда агенты поставлены в практически
одинаковые условия, а доступ к ресурсам не является причиной конфликта. Примером служит
участие агентов в конкурсе на получение некоторого задания. Здесь при несовместимости целей
агенты вынуждены вести переговоры друг с другом. Индивидуальное соперничество за ресурсы
представляет собой классический вариант конфликтной ситуации, когда каждый агент хочет
монополизировать имеющиеся совместные ресурсы. В случае чистого коллективного
соперничества, агентам, имеющим различные индивидуальные цели, но недостаточный опыт для
их достижения, приходится объединяться в коалиции. При этом вначале происходит
формирование групп агентов, а затем начинается соперничество между этими группами.
Наконец, коллективное соперничество за ресурсы, т.е. ситуация, комбинирующая коллективное
соперничество и индивидуальные конфликты за ресурсы, представляет собой наиболее
продуктивный случай конфликтной ситуации с точки зрения функционирования МАС, поскольку
конкурирующие группы способствуют ликвидации монополий и расширению рынка услуг.
Диапазон реального взаимодействия агентов очень широк: в частности, на полярной шкале
«конкуренция – кооперация» он может определяться парой чисел, характеризующих степень
соперничества - сотрудничества, например, (1, 0) при полном антагонизме агентов и (0, 1) при
полном сотрудничестве. Здесь средняя точка «серой» (по терминологии Д.А.Поспелова) шкалы
14
(0.5, 0.5) есть точка наиболее противоречивого (двусмысленного) взаимодействия, а
соответствующая точка разрыва на «черно-белой» шкале дает нам неопределенность (?, ?). Из
этих соображений в результате получаем четырехзначную базовую логику взаимодействия .
Удачный выбор исходного набора организационных критериев (базиса полярных шкал) и
использование признака«централизация–децентрализация» позволяет социально структурировать
МАС. Здесь исходными критериями могут быть, например, а) тип организации в зависимости от
уровня согласования целей агентов (шкала унитарная - федеральная); б) тип управления (шкала
иерархия - гетерархия); в) тип мировосприятия агентов (шкала эгоцентризм - полицентризм).
Понятие кооперации агентов играет центральную роль в МАС. Кооперация – это основная
форма организации взаимодействия между агентами, характеризующаяся объединением их
усилий для достижения совместной цели при одновременном разделении между ними функций,
ролей и обязанностей. В общем случае это понятие можно определить формулой: кооперация =
сотрудничество + координация действий + разрешение конфликтов (см. табл.2). Кооперацию
можно рассматривать двояко: а) извне, с точки зрения внешнего для данной МАС наблюдателя; б)
изнутри МАС как форму поведения агентов, решивших работать совместно. В первом случае,
наблюдатель, начего не знающий о ментальных состояниях или намерениях агентов, стремится
установить измеримые, квантифицируемые показатели кооперации. Здесь исходными критериями
служат эффективность групповой деятельности агентов в МАС и наличие механизмов разрешения
конфликтов.
Более детально, уровень кооперации агентов в МАС можно определить на основе следующих
показателей [67]: 1) высокая степень распределения ресурсов (в том числе знаний); 2) избегание
(или малая длительность конфликтов; 3) координация действий, включая согласование
направления действий агентов в пространстве и во времени; 4) высокая степень запараллеливания
(совмещения) задач, решаемых различными агентами; 5) неизбыточность действий, довольно
малое число дублирующих, повторяющих друг друга действий; 5) устойчивость, понимаемая как
способность МАС пережить отказ или потерю агента.
В свою очередь, примерами типичных ограничений на кооперацию агентов служат: их
удаленность друг от друга; повышенный уровень автономии агента по отношению к группе; малая
интенсивность коммуникации агентов; сильная взаимозависимость решаемых задач (например,
когда один агент не может начать свою задачу без другого).
Во втором случае, когда кооперация как совместная деятельность отождествляется с формой
преднамеренного поведения [55,78], базовую формулу можно записать в виде: кооперация =
общая цель + обязательства агентов. Примерами использования подобной формы могут служить
уставы различных ассоциаций, члены которых принимают общую цель и берут на себя
обязательства совместно участвовать в некоторой работе. Очевидно, что кооперация зависит не
только от установки, намерения сотрудничать, но и от поведения, а главное, от результатов
совместной деятельности.
В контексте кооперации остановимся подробнее на вопросах распределения задач между
агентами и согласования их действий. Можно указать три типичных способа централизованного
распределения задач: 1) командное управление или система «господин-раб» (master-slave), когда
агент-менеджер самостоятельно распределяет все задачи между заранее определенными агентамиисполнителями и контролирует их выполнение; 2) распределение по принципу торгов (или
«объявление конкурса»), когда агент-менеджер распространяет объявление об общем задании, а
потенциальные агенты-исполнители предлагают свои услуги, т.е. исполнители заранее не
определены, а отбираются в результате конкурса; однако и распределение отдельных задач, и
контроль остаются прерогативой менеджера; 3) распределение путем соревнования, когда агентыисполнители дают свои предложения уже на уровне отдельных задач, т.е. происходит подбор
исполнителя под конкретную задачу, а роль менеджера сводится к контролю и координации их
действий.
Под координацией обычно понимается управление зависимостями между действиями [102].
Здесь возможны такие случаи как зависимость от общих ресурсов, зависимость из-за требования
одновременности действий и пр.
15
Взаимодействия между агентами могут иметь различную степень сложности. К простейшим
видам взаимодействия агентов относится их связь через сообщения от среды, как это делается в
моделях коллективного поведения автоматов. Следующими по уровню сложности являются
отношения взаимодействия между слабо персонофицированными агентами (например, на основе
«доски объявлений»). Сложнее организовать коммуникацию между персонофицированными
агентами. Здесь ведущую роль начинают играть отношения кооперации, координации и коалиции.
В такие отношения вступают агенты, занятые решением общей задач или планирующие свою
деятельность с учетом деятельности других агентов. И наконец, отношения неоднородности и
конфликтности на множестве агентов. Переход от однородных агентов к взаимодействию
неоднородных агентов позволяет решать задачи, который однородный коллектив в принципе
решить не может, а конфликты в ряде случаев могут рассматриваться как положительное явление
[12,78] при организации коллективного поведения агентов, способствуя достижению общей цели.
Коммуникация между искусственными агентами зависит от выбранного протокола, который
представляет собой множество правил, определяющих, как синтезировать значимые и правильные
сообщения. Механизмы коммуникации делятся на непосредственные и опосредованные.
Непосредственная коммуникация связана с обменом информацией путем передачи сообщений,
например, в русле модели акторов. Системы, основанные на посылке сообщений,
характеризуются непосредственной коммуникацией, поскольку различные агенты прямо
общаются, образуя децентрализованную систему с локальным управлением взаимодействием.
Механизм посылки сообщений был вначале исследован в рамках модели акторов [87,35].
Двумя важными преимуществами систем, основанных на акторах, являются модульная структура
и локализация знаний (отсутствие глобальной базы знаний, доступной для всех акторов).
Механизм опосредованной коммуникации реализуется с помощью архитектуры «доски
объявлений» (blackboard) [69,91] (рис.4). Здесь основная идея состоит в воспроизведении
взаимодействия нескольких агентов посредством доски объявлений, на которой написаны все
известные сведения и указаны решаемые задачи. Агенты в зависимости от их опыта пытаются
заполнить доску объявлений. При этом доска объявлений рассматривается как промежуточный
модуль - посредник для осуществления различных взаимодействий между агентами.
В принципе модель доски объявлений состоит из трех частей: а) источников знаний; б)
структуры данных типа доски объявлений; в) управляющего компонента.
Управляющий компонент должен решать, какой агент (источник знаний) имеет доступ к доске
объявлений в данный момент времени.
В построенных таким образом распределенных интеллектуальных системах базы знаний
разбиваются на отдельные независимые модули знаний, ориентированные на конкретную задачу и
соответствующие компетенции данного агента. Нередко модули знаний разделяются на два
основных класса: 1) модули стратегий, служащие для планирования и управления процессом
решения задачи; 2) модули тактик (активации правил), обеспечивающие реализацию стратегий и
выполнение действий.
Общая архитектура доски объявлений не накладывает никаких ограничений на способ
представления знаний. Эти модули могут функционировать на основе правил, фреймов, сетей,
сценариев и т.д., а могут быть и простыми интерфейсами для обычных алгоритмических
программ.
Когнитивные агенты как источники знаний не участвуют в их текущей обработке: они имеют
декларативные знания и метазнания, используемые в модулях знаний.
Специальный класс источников знаний образует схему базы знаний, аналогичную схеме базы
данных. Они реализуют механизм хранения метазнаний, описывающих модули знаний.
Метазнания определяют, как используются модули знаний, как активируются правила, как они
соотносятся с контекстом и другими модулями знаний. По сути, метазнания – это декларативные
знания, описывающие процесс решения задачи и относящиеся к верхнему уровню
интеллектуальной системы.
Доска объявлений должна содержать область прохождения сообщений, информацию о
процессе решения задачи и состоянии агентов. Область сообщений обеспечивает механизм
коммуникации, обмена запросами для различных модулей знаний. В простейшем случае доска
16
объявлений имеет статическую структуру, включающую слоты для всех модулей знаний, и
разбита на уровни, которые отражают различные степени абстракции в описании решаемой
задачи. В слоты помещается описание различных гипотез и вариантов коммуникации. При работе
интеллектуальной системы различные модули знаний независимо порождают, обновляют и
оценивают эти гипотезы, относящиеся к проблемной области.
С доской объявлений связан также специальный модуль – схема доски объявлений,
охватывающая декларативные знания о содержимом, организации и использовании доски
объявлений. В этом модуле также хранится информация о том, какие модули знаний имеют дело
с различными слотами. Эта информация служит для интеграции различных компонентов
системы. Таким образом, обеспечивается механизм интерпретации доски объявлений и посылки
новых сообщений.
В соответствии с рассматриваемым подходом, базовая операционная стратегия совместной
работы агентов на базе доски объявлений состоит в выдвижении и обосновании гипотез
(предположений). Различные агенты (источники знаний) определяют, как сформулировать и
доказать гипотезу (стратегический уровень) и, далее, как провести ее пошаговую верификацию
(тактический уровень). Тогда механизм вывода состоит из двух компонентов: список
(последовательность) задач и монитор. В список (agenda) включаются все задачи, которые
поручены МАС в текущий период времени. В любой момент времени в нем содержатся все
задачи, выполняемые на основе данных с доски объявлений.
Монитор используется для контроля всего процесса решения задачи. Он сортирует задачи из
списка и эвристическим путем выбирает следующую задачу для выполнения. Монитор
осуществляет проверку доски объявлений и области сообщений после работы каждого агента,
анализируя слоты классной доски, связанные с гипотезами, определяющими текущее состояние
процесса решения. На основе механизмов прямого или обратного вывода монитор определяет,
какие модули знаний соответствуют текущему состоянию. Общая архитектура интегрированной
оболочки на основе модели доски объявлений представлена на рис.4.
Среди достоинств архитектуры доски объявлений надо отметить возможность стратификации
процесса решения задачи и знаний о процедурах. Здесь имеется возможность единообразно
представлять всю информацию о решении задачи и различную метаинформацию в мониторе
доски объявлений.
Теперь подробнее остановимся на коммуникации персонифицированных агентов. Как уже
отмечалось, здесь ключевым элементов оказывается процесс ведения переговоров, направленных
на достижение взаимовыгодного соглашения. Чаще всего, предполагается, что правила ведения
переговоров установлены заранее и известны всем агентам.
Соответственно, важнейшей сферой исследований в области коммуникации агентов является
построение протоколов для ведения переговоров. К разработке протоколов обычно
предъявляются следующие требования [44,120,121]: а) простота; б) децентрализация (переговоры
осуществляются напрямую, без централизованного управления); в) симметричность (все агенты
являются равноправными участниками переговоров); г) устойчивость (протоколы переговоров не
должны позволять агентам, отклонившимся от установленных правил ведения переговоров,
извлекать дополнительную пользу); д) эффективность (как по отношению к отдельным агентам,
так и по отношению к их коалициям).
Отметим, что когда агенты эгоистичны, заключенные между ними соглашения всегда
взаимовыгодны. Соглашение выгодно для всех агентов, если оно максимизирует функции
полезности агентов на множестве допустимых соглашений. Однако, взаимовыгодность
представляет собой необходимое, но не достаточное условие для устойчивости соглашений в
МАС. Все это демонстрирует необходимость дополнения традиционных моделей РИИ из
эгоистичных агентов, более гибкими моделями, включающими альтруистичных агентов. Агентыальтруисты способствуют достижению большей автономности и гомеостатичности МАС по
сравнению с эгоистичными.
Построение протокола ведения переговоров включает три шага: 1) определение пространства
возможных соглашений; б) введение правил взаимодействия (например, на основе теории речевых
актов[39,122] в терминах «предложение – контрпредложение»); в) задание оптимальных стратегий
агентов.
17
Классическими методами исследования переговорных процессов являются методы теории
полезности и теории игр, в частности, известные модели и условия оптимальности, выраженные в
виде принципов равновесия. Так принцип Парето применяется для сильно централизованных
систем, подсистемы которых имеют широкие возможности обмена информацией о принимаемых
решениях, а равновесие по Нэшу характеризует децентрализованные системы. Эти типы
оптимальности имеют разные «идейные основания»: основой оптимальности по Нэшу является
устойчивость системы, обусловленная интересами и возможностями отдельных подсистем, тогда
как принцип оптимальности по Парето опирается на идею полезности, выгоды для системы в
целом, понимаемой как выгода сразу для всех ее подсистем. С учетом вышеприведенных
требований к разработке протоколов в МАС большее применение находит арбитражная схема
Нэша или математически эквивалентная ей модель Зейтена [39]. Однако, эти схемы годятся
далеко не всегда (например, равновесие по Нэшу не является исчерпывающим решением для
некооперативных игр).
Наиболее распространенными специальными моделями коммуникации (кооперации) агентов в
РИИ являются:
 модель договорных (контрактных) сетей Смита
 протокол монотонных минимальных уступок (по Розеншайну и Злоткину)
 модель социальных зависимостей Кастельфранши и Контэ.
Среди протоколов ведения переговоров в РИИ широкое распространение получил протокол
монотонных минимальных уступок [118], который определяет процесс ведения переговоров
между двумя агентами. Агенты делают предложения по очереди, начиная с самых выгодных для
себя предложений. В процессе переговоров агенты монотонно отступают от своих
первоначальных требований, т.е. функция полезности каждого агента монотонно убывает на
последовательности его предложений. В работе [118] доказано, что в результате переговоров
агенты выбирают то соглашение, которое максимизирует произведение их функций полезности.
Множество возможных соглашений в протоколе монотонных минимальных уступок
(переговорное множество) состоит из всех индивидуально рациональных соглашений,
эффективных по Парето.
Множество схем организации переговоров в МАС можно представить себе как варианты
описанной двусторонней модели (bilateral model), согласно которой переговорный процесс
рассматривается как последовательность контрпредложений, выдвигаемых взаимодействующими
агентами. Такой процесс может моделироваться как множество переходов в пространстве
состояний.
В свою очередь, многосторонняя модель (multilateral model) рассматривается как множество
двусторонних переговоров, описываемых, например, сетью Петри, т.е. сетью вида предикат/
переход.
В начале 80-х годов, Р.Смит [126] разработал модель распределенного решения задач,
названную им «контрактной (договорной) сетью» (contract net), которая и сегодня имеет
большой резонанс. В основе модели договорных сетей лежит простейшая идея рыночных торгов.
Имеются два типа агентов: агенты-менеджеры и агенты-исполнители (покупатели). Агентменеджер распространяет объявление о задании и определяет исходную цену, а агенты потенциальные исполнители предлагают услуги, посылая свои варианты цен, и подчас участвуют
в конкурсе на определение наилучших предложений по исходному заданию. Затем агентменеджер отбирает самые выгодные для него предложения и заключает соглашение с
выбранными агентами-исполнителями, которые становятся агентами-подрядчиками.
Основное преимущество модели договорных сетей состоит в ее простоте и легкости
реализации. К числу недостатков данной модели относятся, в первую очередь, отсутствие
продуманного механизма выбора подрядчика и высокая загрузка коммуникационных каналов.
Кроме того, модель договорных сетей не препятствует появлению агентов-посредников, которые
выступают как спекулянты, покупая и перепродавая одну и ту же задачу несколько раз.
Известны различные усовершенствания модели Смита. Например, могут вводиться
специальные агенты-консультаты, роль которых состоит в оказании помощи менеджерам при
оповещении потенциальных исполнителей и обработке предложений. На сегодня самым удачным
18
вариантом развития модели договорных сетей считается комбинированная модель Т.Сандхолма,
где агентам-подрядчикам разрешено выполнять одновременно несколько задач. Для каждого
подрядчика формируется пакет текущих задач, причем при добавлении к этому пакету новой
задачи учитываются не только ее характеристики, но и уже принятые обязательства. Здесь
происходит объединение модели переговоров на уровне двухсторонних взаимодействий с
моделью поиска исполнителей на уровне всей сети.
В любых МАС центральную роль играют структуры управления и принятия решений.
Управление определяет ограничения на взаимодействие между агентами, вид организации и
характер эволюции МАС. Классическая структура управления предполагает субординацию
агентов, т.е. способ заставить одних агентов выполнять поручения других. Иерархия отношений
субординации представляет собой древовидную структуру. В противоположность этому в МАС
могут вводиться и эгалитарные структуры, когда всякий агент может попросить любого другого
агента выполнить некоторую задачу, и потенциальный исполнитель всегда может отказаться. Суть
теории социальных зависимостей [49-51,55] заключается в том, что взаимодействие агентов
рассматривается в контексте социальных зависимостей и властных отношений, которые
считаются включенными в когнитивные структуры агентов. Теория социальных зависимостей в
РИИ тесно связана с теорией обязательств (commitments) и основана на логике действий [54].
Осознание социальных зависимостей ведет к началу переговоров об обмене ресурсами (их куплепродаже) и принятию обязательств. Рассматриваются два основных типа зависимостей: по
отношению к действию и по отношению к ресурсу.
Ниже изложим элементы теории организации применительно к МАС.
5.3. Понятие организации и организационное моделирование МАС:
от стабильных к эволюционным организациям
Организация наряду с взаимодействием – одно из ключевых понятий в теории и проектировании
МАС. Организация часто выступает как механизм разрешения или запрещения взаимодействий
между агентами.
В МАС задачи распределены между агентами, каждый из которых
рассматривается как член группы или организации. Распределение задач предполагает назначение
ролей каждому из членов группы, определение меры его ответственности и требований к опыту.
Сам термин «организация» многозначен: он выражает одновременно действие по организации
чего-либо и результат этого действия. Иными словами, ОРГАНИЗАЦИЯ может
рассматриваться двояко – как: 1) способ структурирования МАС; 2) действие по
организации. Известный французский философ и поэт П.Валери предложил толкование
организации как неразрывного триединства некой организованной структуры, продукта этой
организации и организующей системы.
Из многозначности понятия «организация» вытекает тот факт, что МАС, как правило, носит
динамический характер; это предполагает более или менее оперативную перестройку множества
агентов и множества связей между этими агентами.
Важность рассмотрения понятия организации в русле агентно-ориентированного связана с
возможностью изучения с единых позиций агента и МАС. Так агенты могут рассматриваться как
индивидуальные организационные единицы, а МАС – как коллективные. Различие между этими
двумя видами единиц состоит в наличии у первых своего рода мембраны: индивидуальная
единица отграничивает свое внутреннее пространство от внешнего таким образом, что
взаимодействия со средой (обмены) могут происходить в более узких границах [72]. У
коллективных единиц механизм типа мембраны отсутствует.
В свою очередь, и МАС, и виртуальные организации могут также рассматриваться как
системы, основанные на индивидуальных и коллективных агентах соответственно.
Итак, когда говорят об организации, то предполагают, что существует множество единиц,
образующих некоторую целостность. Иными словами, организация предполагает наличие
отношений между неоднородными единицами, обеспечивающих их совместимость. Организация
одновременно воздействует на среду и на саму себя. С одной стороны, она сама определяет свои
цели и организует свои внешние связи (обмены). С другой стороны, организация устанавливает
19
свои нормы и поддерживает свое равновесие, т.е. отношение со своими частями
[72,76,80,99,104,109].
Соответственно, организация МАС определяется ее структурой, включающий связи
коммуникации и управления между агентами, а также действиями по формированию этой
структуры. В то же время, она выражает схему деятельности и взаимодействия агентов, задавая
проблемную область, характер задач, полномочий и обязательств агентов, способы координации и
синхронизации действий, а также определяет продолжительность жизни МАС, включая условия
ее сохранения и устойчивости, несмотря на случайные возмущения. Таким образом, организация
составляет и основу, и способ существования взаимоотношений между агентами.
По мнению Э.Вернера [132], фундаментальными особенностями группы, составленной из
виртуальных агентов, сотрудничающих во имя достижения общей цели, являются социальная
структура и распределение ролей между агентами. При этом социальная структура образуется в
результате назначения социальных ролей. Когда агент получает свою роль, на его деятельность
накладываются ограничения типа «разрешения» и «ответственности». В соответствии с таким
подходом, искусственная организация исследуется и создается «изнутри» системы. Виртуальное
сообщество с его социальной структурой функционирует потому, что агенты играют
определенные социальные роли, что приводит к достижению соответствующих cоциальных
целей.
Понятие социальной роли первично также в методе организационного моделирования,
предложенном Г.Паттисоном и сотр.[115].Этот метод интересен тем, что организация
описывается аналитически, от общего к частному. Организация определяется множеством своих
составляющих и набором отношений между ними. Любая составляющая характеризуется своим
типом (индивидуальная или коллективная), видами ответственности, ресурсами, знаниями и
индивидуальными характеристиками. Организационные отношения описывают на абстрактном
уровне формы взаимодействия между функциональными классами агентов, т.е. между ролями.
Выделяются два типа организационных отношений: статические отношения, образующие
«скелет» организации, характеризуют априорную организационную структуру, существующую
до и независимо от процессов функционирования, а динамические отношения, формирующие
«плоть» организации, определяют взаимосвязи, изменяемые при взаимодействии.
В контексте искусственных организаций наиболее важными отношениями являются
отношения коммуникации и управления, но следует учитывать и ряд других, например, отношение
функциональной близости агентов. О необходимости моделирования властных функций в МАС
говорилось многими авторами, в частности К.Кастельфранши [49].
Пожалуй, наиболее стройную систему критериев для моделирования и проектирования
организаций предложил А.Берну [40], согласно которому любая организация характеризуются
пятью главными признаками: распределение задач, распределение ролей, система властных
полномочий, система коммуникации и система оценки (наказания-вознаграждения). Именно
совокупность этих критериев кладется в основу исследований и разработок по РИИ.
Существуют различные типы организации, которые могут определяться по многим критериям.
Примерами организационных критериев служат: вид организационной единицы и тип структуры,
характер связей и стратегии адаптации. Так, например, у Л.Гассера [79,80] указаны три формы
организации, зависящие от степени связанности ее составляющих и возможностей их изменения:
стабильная организация с постоянными жестко фиксированными связями, стабильная
организация с переменными (вариабельными) связями, развивающаяся организация с
эволюционирующими связями.
В организации с жестко фиксированными связями, каждый агент играет одну или несколько
ролей, которые никак не меняются и не передаются от одного агента к другим. Отношения между
агентами жестко регламентированы, и практически никакая реорганизация невозможна.
Переменные (вариабельные) связи соответствуют стабильным организационным структурам с
вариабельными параметрами. Здесь отношения между агентами могут изменяться, но эти
изменения определяются заранее и характеризуются точно заданными механизмами. Такой тип
связей чрезвычайно распространен в МАС.
20
Эволюционные связи характеризуют развивающиеся организационные структуры, когда сама
структура также вариабельна. Тогда и абстрактные отношения между агентами могут меняться в
зависимости от критериев эффективности организации.
Соответственно, организационные структуры могут формироваться двояким образом: либо
проектироваться разработчиками, либо возникать спонтанно. В первом случае их называют
предварительно заданными. Это означает, что абстрактные отношения, неважно – статические
или динамические, – определены заранее. Во втором случае, когда организационные структуры
определяются апостериори, соответствующие организации называют эмергентными
(«возникающими спонтанно»). Подобные организации обычно состоят из реактивных агентов и
характеризуются отсутствием заранее спроектированной структуры, которая возникает именно в
процессах взаимодействия между агентами. В этом случае положение и роли агентов не
определены заранее, а формируются как продукты поведения этих агентов. Точнее говоря,
распределение функций и задач происходит в процессе самоорганизации, позволяющем
организации своевременно эволюционировать и легче адаптироваться к изменениям среды или
потребностей группы агентов.
Таким образом, организации с фиксированной структурой в основном характерны для
когнитивных агентов, а организации с возникающей структурой (эмергентного типа) обычно
объединяют реактивных агентов.
В последние годы все большее практическое значение приобретают представления об
организациях как об открытых и развивающихся, автономных и самоуправляемых
системах. Так по Э.Морену, организация предполагает конъюнкцию трех сложных понятий:
а) самоорганизация (в первую очередь, это аспект автономии); б) реорганизация (аспект
преобразования, трансформации), в) экоорганизация (аспект открытости и наличия
постоянных взаимосвязей со средой). Именно автономность организации создает предпосылки
для обращения неопределенности условий ее функционирования в конкурентные возможности.
При этом хаос, беспорядок рассматриваются не как аномалии, которые надо преодолеть любым
путем, а как одно из условий, обеспечивающих инновации – важнейшую предпосылку выживания
организаций.
Дальнейшее развитие этих представлений связано с формированием концепции «биологических
организаций» как «живых организмов» в русле искусственной жизни (в широком смысле слова)
[26,29,86,96]. Объектом искусственной жизни как междисциплинарного научно-технического
направления является исследование, моделирование и имитация общих принципов и механизмов
организации живого, а основное содержание ИЖ составляет исследование «жизни, какой она
могла бы быть», не ограничиваясь рамками углеродных цепочек и молекул ДНК, компьютерное
моделирование свойств живых систем, создание виртуальных организмов, организаций и
сообществ. Организационное моделирование в контексте ИЖ предполагает широкое
использование биологических аналогий и принципов существования живого, таких как:
самоорганизация; самосохранение; самоопределение (самореферентность); саморегуляция;
самовоспроизведение; метаболизм (обмен со средой); индивидуальность, определяемая набором
взаимозависимых структур; эволюция; адаптация. Так организационная адаптация МАС
определяется ее способностью изменять свою организационную структуру с целью
приспособления к изменениям среды. Структура МАС может изменяться путем варьирования
числа агентов, формирования из них групп нового типа, перераспределения ранее предложенных
задач и пр. Примером служит организационная модель OSD (Organization Self-Design) [105], в
которой предусмотрена самореорганизация сообщества виртуальных агентов на базе изменения
числа и ресурсов отдельных агентов.
Каковы же основные механизмы, раскрывающие конкретную реализацию указанных
принципов? В первую очередь, это механизмы автономии, гомеостазиса и автопоэзиса.
Используя эти понятия, можно исследовать и моделировать «биологические организации» (или
«социальные организмы»), способные осуществлять координируемые преобразования своих
компонентов (процессов, структур и т.д.) в интересах выживания и повышения своей
конкурентоспособности, как автономные, гомеостатические, самообновляющиеся системы [29].
Подобное моделирование может базироваться на результатах гомеостатики [9] – науки об
21
организации живых систем, занимающейся изучением их живучести, адаптивности,
эффективности функционирования как в условияъ нормы, так и в условиях патологии. В отличие
от классической кибернетики, гомеостатика уделяет большое внимание взаимодействию
противоположностей, «склеиванию» и «расщеплению» антагонистов, управлению внутренними
противоречиями в системах, состоящих из «полярных единиц», а также возникновению патологий
и катастроф в таких системах. В ее рамках изучаются отношения между частями гомеостата и
внешней средой, обеспечивающие поддержание динамического постоянства жизненно важных
параметров системы. Существует глубокая аналогия между гомеостатами живых организмов и
организационными структурами человеческих коллективов [13].
Как известно, термин «автономный» означает «самоопределяемый, живущий по своим
законам». Различают: а) пассивную автономию, обеспечиваемую, например, с помощью
мембраны (защитного экрана); б) реактивную автономию (обратные связи); в) активную
автономию, связанную с целенаправленными воздействиями на среду.
Понятие автономной системы предполагает наличие различных режимов функционирования,
переходы от замкнутости к открытости и наоборот. С одной стороны, автономность системы
означает ее независимость от среды, т.е. отсутствие входов. Точнее, входные воздействия не
столько определяют поведение системы, сколько являются лишь «пусковыми факторами»,
инициализирующими различные стратегии ее поведения. С другой стороны, автономность любой
системы достигается за счет накопления ресурсов (периодическое подключение и отключение
взаимосвязей со средой). При этом в автономных системах преобладают положительные обратные
связи, круговые процессы, рекурсивные отношения.
Гомеостазис, представляющий собой основной механизм самосохранения, определяется
способностью «биологической организации» воспринимать множество критических параметров
внешней среды, определяющих границы ее существования, и строить свое поведение (реакции) в
зависимости от положения по отношению к этим границам. Благодаря механизмам реактивной и
активной автономии организация как гомеостатическая система остается стабильной и сохраняет
себя, несмотря на изменения в среде. Эти механизмы приводят к таким реакциям организма,
которые позволяют ему удалиться от границы гомеостазиса (подальше от критических значений)
или так перестроить свои собственные характеристики, чтобы расширить эту область [13]. Таким
образом, расстояние от гомеостатической границы или ширина области гомеостазиса
характеризует уровень самоорганизации (самоопределения) системы.
Зарождение «социального организма» предполагает объединение гомеостатов в
гомеостатические сети и образование автопоэтических систем. По У.Матурана и Ф.Варела [106],
«автопоэтическая (самообновляющаяся) организация есть такая гомеостатическая система,
которая реагирует на резкие изменения среды путем постоянной замены своих составляющих».
Эта идея самообновления и операционной замкнутости (рекурсивной взаимозависимости
внутренних процессов друг от друга) может быть положена в основу «биологической
организации». Подобная самообновляющаяся организация представляется в виде сети процессов
производства составляющих, которые: а) за счет своих взаимодействий и трансформаций
постоянно регенерируют эту сеть; б) образуют автономную систему в пространстве-времени,
формируя ту топологическую область, где эта система самореализуется в виде сети.
Разработка «биологической организации» может также рассматриваться как своего рода генная
инженерия, т.е. построение особой генной архитектуры, содержащей геном организации. При
этом генотип организационной единицы соответствует всей наследственной (генетически
обусловленной) информации, а фенотип – это структура, которая возникает в результате развития
генотипа в определенной среде. Генотип сводится к совокупности простых локальных правил, а
фенотип является интерпретацией этих правил в некотором мире [86]. Процесс развертывания
фенотипа «социального организма» можно назвать морфогенезом организации.
5.4. Виртуальные организации
22
Задача разработки искусственных организаций и сообществ, состоящих из виртуальных
агентов, является естественным развитием проблематики МАС. В виртуальных организациях
(ВО) размываются границы между социальными и техническими системами. В общем случае, ВО
можно рассматривать как сложную социотехническую систему, образованную из удаленных
друг от друга групп людей (виртуальных коллективов), объединяемых на основе симбиоза
ведущих сетевых и интеллектуальных технологий, например, сети Интернет и средств
управления знаниями. В частном случае, ВО может фигурировать как искусственная
организация, состоящая исключительно из искусственных агентов. При этом одни и те же агенты
могут одновременно входить в состав нескольких ВО.
Виртуальная организация может рассматриваться как своего рода метаорганизация,
объединяющая цели, ресурсы, традиции и опыт ряда организаций-партнеров, а также
управляющая их развитием. В рамках агентно-ориентированного подхода виртуальную
(искусственную) организацию можно трактовать как сообщество (группу) МАС, которое
сформировано электронным путем и функционирует в виртуальном пространстве. Это – сетевая
(или, даже, межсетевая), компьютерно интегрированная организация, состоящая из
неоднородных, свободно взаимодействующих коллективных агентов (т.е. агентов, которые сами
представляют собой многоагентные системы), находящихся в различных местах [27-29,114].
Здесь, очевидно, происходит слияние сетевых и интеллектуальных технологий, поскольку сеть,
будучи одной из важнейших форм коллективного интеллекта [13], тесно связанная с процессами
самоорганизации, спонтанного возникновения новых структур при достижении особых состояний
агентов (свойство эмергентности). Следует ожидать, что XXI-м веке наступит эра сетевого
интеллекта (networked intelligence).
В то же время, в русле виртуальных организаций объединяются передовые информационные и
коммуникационные технологии. В частности, для эффективного функционирования ВО
необходимо построение инфомагистралей – коммуникационных суперсетей с высокой
пропускной способностью, через которую должны перекачиваться большие объемы текстовой,
графической, звуковой и видеоинформации. Применение НИКТ в ВО позволяет накапливать
безграничные по своей природе информационные ресурсы и расширять когнитивные
возможности интеллектуальных агентов.
Центральная идея сети МАС заключается в организации различных взаимосвязей между
интеллектуальными коллективными агентами, которые, вообще говоря, не являются постоянными
и регулярными, а образуются, развиваются и трансформируются в зависимости от целей
отдельных МАС.
Основные характеристики ВО как открытой, развивающейся сети неоднородных коллективных
агентов таковы.
1. Наличие у агентов общих (совместимых) целей, интересов и ценностей, определяющих
необходимые условия формирования ВО и правила принадлежности к ней.
2. Наличие у агентов потребности в дополнительных ресурсах для достижения целей, что
приводит к установлению партнерских отношений между ними, в рамках которых
осуществляется совместное использование географически распределенных средств и опыта
(знаний), а также их быстрое приумножение.
3. Интенсивное использование средств телекоммуникации ввиду пространственной
удаленности агентов, эффективное проведение совместной, компьютерно опосредованной,
работы партнеров, включающей процессы кооперации и координации, на расстоянии.
4. Семиотическая природа коммуникации агентов, ведущая роль эволюционного семиозиса
(включая семантические и прагматические аспекты циркуляции знаний) в ВО.
5. Формирование автономных виртуальных рабочих групп с гибким распределением и
перераспределением функций и ролей агентов, взаимодействующих на расстоянии.
6. «Плоская структура», предполагаюшая максимизацию числа горизонтальных связей между
агентами в рабочих группах.
7. Максимально широкое распределение полномочий управления, наличие многих центров
принятия решений (сотовая сеть).
23
8. Временный характер, возможность быстрого образования, переструктурирования и
расформирования, что обеспечивает реактивность и адаптивность к изменениям среды.
Сравнительный анализ особенностей классической (тейлоровской) и виртуальной организаций
дан в табл.3.
В разработке технологии и инфраструктуры ВО первостепенную роль играют стандарты в
области вычислительных сетей (сетевых коммуникаций), взаимодействия программных средств,
инженерии знаний, моделирования разрабатываемых объектов и пр. Типичная инфраструктура
ВО объединяет следующие компоненты.
(1)
(2)
(3)
(4)
Cеть Интернет
Средства быстрого построения распределенных приложений в неоднородных средах.
Здесь наиболее популярной является CORBA-технология, основанная на архитектуре
управления объектами OMA (Object Management Architecture). Данная архитектура
следующие основные компоненты: а) собственно общую архитектуру брокера запросов
объектов CORBA (Common Object Request Broker Architecture); б) объектные сервисы
(Object Services); в) универсальные средства (Common Facilities); г) объекты приложений
(Application Objects).
Программные средства поддержки групповой деятельности (groupware), в частности,
обеспечения процессов cотрудничества (collaboration software) и координации
(coordination software)
Системы управления знаниями
24
Табл.3. Сравнительный анализ характеристик тейлоровской и виртуальной организаций
КРИТЕРИИ
ТЕЙЛОРОВСКАЯ
ОРГАНИЗАЦИИ
ВИРТУАЛЬНАЯ
ОРГАНИЗАЦИИ
СРЕДА
(ПРОСТРАНСТВО)
ФИЗИЧЕСКАЯ
ВИРТУАЛЬНАЯ
КОММУНИКАЦИЯ
НЕПОСРЕДСТВЕННАЯ
ДИСТАНЦИОННАЯ
ЕДИНИЦА
ОДНОРОДНАЯ
НЕОДНОРОДНАЯ,
АВТОНОМНАЯ
ВИД ОРГАНИЗАЦИИ
МОНОЛИТНАЯ,
ЗАМКНУТАЯ
РАСПРЕДЕЛЕННАЯ,
ОТКРЫТАЯ, СЕТЕВАЯ
СТРУКТУРА
ИЕРАРХИЯ (ДЕРЕВО)
ГЕТЕРАРХИЯ
(НЕОДНОРОДНАЯ СЕТЬ)
ВЗАИМОДЕЙСТВИЯ
ВЕРТИКАЛЬНЫЕ
(СУБОРДИНАЦИЯ)
ГОРИЗОНТАЛЬНЫЕ
(КООРДИНАЦИЯ)
КООПЕРАЦИЯ
ОГРАНИЧЕННАЯ
ИНТЕНСИВНАЯ
УПРАВЛЕНИЕ
ЦЕНТРАЛИЗОВАННОЕ
ДЕЦЕНТРАЛИЗОВАННОЕ
СВЯЗИ
ПОСТОЯННЫЕ
ГИБКИЕ, ПЕРЕМЕННЫЕ
РАЗВИТИЕ
ЖЕСТКОЕ
ПЛАНИРОВАНИЕ
САМОРЕОРГАНИЗАЦИЯ
6. НЕКОТОРЫЕ ИСТОРИЧЕСКИЕ ВЕХИ В РАЗВИТИИ
АГЕНТНО-ОРИЕНТИРОВАННОГО ПОДХОДА
Предыстория теории агентов связана в первую очередь с описанием реактивных агентов в
контексте проблематики искусственной жизни, которая восходит к работам У.Питтса и
У.МакКаллока по формальным нейронам, Дж.фон Неймана по самовоспроизводящимся
автоматам, А.Н.Колмогорова по теории сложности, У. фон Форстера по теории самоорганизации,
У.Эшби по гомеостазису, Г.Уолтера по реактивным роботам, Дж.Холланда по генетическим
алгоритмам. Особое место в этом ряду занимает школа коллективного поведения автоматов
М.Л.Цетлина [32,33]. В работах этой школы [32,11,22] впервые в мире был поставлен вопрос о
25
возможности моделирования целесообразного поведения в стационарной среде при рассмотрении
коллектива реактивных агентов минимальной сложности. Как показал М.Л.Цетлин, если среда
является стационарной и вероятностной (реакции среды на действия агента выдаются с
неизменным для каждого действия распределением), то для организации целесообразного
взаимодействия со средой достаточно иметь в качестве агента конечный автомат определенной
структуры. Расширение адаптивности агентов достигалось за счет перехода к автоматам
переменной структуры. Это решение обеспечивало лишь некоторый, весьма невысокий уровень
целесообразности, величина которого зависела от свойств среды. Следовательно, классические
модели коллективного поведения автоматов – это предельный случай описания реактивных
агентов, которые обладают минимальной автономностью и целеполаганием, поскольку их
поведение корректируется из некоторого центрального устройства управления, входящего в
структуру среды.
Дальнейшее развитие этого направления связано с разработкой элементов теории локально
организованных систем [23]. Подробнее о работах школы коллективного поведения можно узнать
из книг [4,5]; сопоставление тенденций развития этого направления с некоторыми результатами
теории МАС проведено В.Л.Стефанюком в работе [24].
Помимо школы коллективного поведения простейших реактивных агентов, в 60-е - 70-е годы в
СССР сформировались еще две мощные «поведенческие» школы моделирования
интеллектуальных агентов и их свойств – школа рефлексивного поведения В.А.Лефевра [12] и
школа нормативного социального поведения Д.А.Поспелова [18,19]. В частности, было
предложено описание действий (поведенческих актов) автономных агентов фреймами поступков,
представляющих собой пары взвешенных графов специального вида («замысел – реализация»). В
этой модели уже принимаются во внимание такие ментальные характеристики и социальные
факторы как потребности, мотивы, намерения, ожидаемые оценки, нормы.
В США одним из первых ученых, предложившим распространить психические процессы (или
ментальные свойства) на искусственные объекты, рассматриваемые в ИИ, и трактовать
ментальную сферу как следствие взаимодействия между активными объектами стал М.Минский
[108]. Им описан ряд механизмов возникновения интеллектуального поведения в результате
конфликтов и сотрудничества между простейшими вычислительными единицами, которые он
называет агентами. Каждый из этих агентов «отвечает» за то или иное ментальное свойство,
причем их взаимодействие происходит спонтанно, без участия какого-либо управляющего агента.
Отсюда М.Минский сделал важное заключение о том, что функционирование психики связано не
столько с реализацией множества выводов над символьными конструкциями, сколько с
принципами самоорганизации при взаимодействии автономных процессов.
Идеи М.Минского оказали серьезное влияние на многих исследователей в области МАС,
особенно на Р.Брукса и П.Маэс.
Пожалуй, наибольшую роль в становлении РИИ сыграли пионерские работы К.Хьюитта в
области открытых систем и теории акторов [87,88]. Так в начале 70-х годов, разработав систему
PLANNER, предназначенную для доказательства теорем, К.Хьюитт раскрыл важнейшую роль
процессов коммуникации и управления в организации и понимании рассуждений. Отойдя от
рассмотрения управления как последовательности актов выбора, он ввел вариант распределенной
системы, в которой структуры управления трактовались как «паттерны прохождения
сообщений» (patterns of message passing), циркулирующих между активными объектами,
названными им акторами. В результате, была предложена и реализована концепция разработки
программ как сообществ специалистов, совместно решающих задачу в процессе коммуникации
путем обмена сообщениями. При этом процесс решения задачи группой экспертов был им
рассмотрен как столкновение различных точек зрения. В итоге родилось семейство языков
акторов, которые стали первым средством реализации МАС, когда коммуникация осуществляется
путем посылки асинхронных сообщений.
Затем новаторские идеи К.Хьюитта получили свое развитие главным образом в области
совмещенного программирования (concurrent programming) [35,105,139], а также в контексте
семантики открытых систем [88].
26
Первые практические разработки по МАС, посвященные в основном проблематике РИИ и
интеллектуальных агентов, относятся к 70-м годам и связаны с именами В.Лессера и сотр. [69,98],
К.Хьюитта [87] и Д. Лената [97]. С одной стороны, работы В.Лессера, Ф.Хэйес-Рота, Л.Эрмана и
др. с системой HEARSAY II привели к созданию архитектуры «доски объявлений» и легли в
основу многих дальнейших разработок по организации коммуникации между агентами. Исследуя
проблематику автоматического понимания речи, эти авторы воспользовались метафорой «доски
объявлений», основываясь на простой идее, что решение любой проблемы требует заранее не
запланированных обращений к специалистам (источникам знаний), когда структура управления
процессом коммуникации предварительно не определена. При этом деятельность источников
знаний связана с доставкой, модификацией и извлечением объектов с доски объявлений, т.е. из
зоны совместной работы в базе данных, где модель предметной области структурирована как
пространство гипотез и решений. Специальное управляющее устройство разрешает конфликты
доступа к доске объявлений, возникающие между агентами и неявно организует их совместную
работу.
Примерно в это же время, У.Корнфелд и К.Хьюитт [94,95], работая над системой ETHER,
разработали схожий подход к совместному решению задач, исходящий из метафоры научных
сообществ. В рамках их модели РИИ, демоны, весьма похожие на источников знаний,
доставляют факты, гипотезы и доказательства в общую область, аналогичную доске объявлений.
Отличие от рассмотренной выше модели [69] состоит прежде всего в декомпозиции демонов на
две категории - экспертов и критиков. Эксперты стремятся доказать справедливость некоторой
гипотезы, а критики, наоборот, ищут контрпримеры, чтобы ее опровергнуть. Наконец
специальные управляющие агенты распределяют время, отводимое каждому демону.
Второй тип управления взаимодействием агентов был предложен Д.Ленатом [97] и
К.Хьюиттом. В середине 70-х годов, Д.Ленат, будущий автор системы EURISCO и инициатор
проекта построения больших баз знаний CYC, разработал систему PUPS, в которой была
реализована идея решения задачи группой агентов (специалистов), именуемых «beings»
(«существа»). Эти существа стремятся синтезировать особого специалиста Concept Formation,
способного самостоятельно решить задачу. Сами специалисты постоянно меняются в процессе
решения задачи и не могут быть отнесены к классическим источникам знаний. Каждый
специалист моделируется подобно фрейму множеством пар «атрибут-значение» и может
обращаться за сведениями к другим специалистам, не зная их лично. В итоге, Д.Ленат построил
демонстрационный прототип системы с взаимодействующими «существами».
В области РИИ трудно переоценить значение модели «договорных сетей» Р.Смита [126],
обеспечивающей распределение задач и ресурсов между агентами, которая нашла широкое
применение в задачах производственного планирования и управления. Эта модель послужила
прообразом для развития многочисленных моделей с механизмами аукционов, которые
используются, например, при формировании виртуальных организаций [75] и календарном
планировании работ [10].
«Викторианская» эпоха РИИ начинаетcя с построения в 80-х годах таких прикладных систем
как: DVMT (Distributed Vehicle Monitoring Test – разработана группой В.Лессера из MIT) [98],
MACE – разработана группой Л.Гассера [81] и систем, основанных на моделях договорных сетей
[126,57], например, YAMS [20] Так система DVMT предназначена для распознавания ситуаций
дорожного движения. В ней агенты должны выработать согласованную точку зрения на
конкретную ситуацию дорожного движения, отслеживая положение автомобилей на основе
избыточной, противоречивой и зашумленной информации, снимаемой с датчиков. Значение этой
работы связано с изучением большого числа относительных конфигураций между датчиками и
агентами, рассмотрением проблемы многоагентного планирования исходя из локальных планов,
разработкой основ механизма переговоров и кооперации агентов.
Одной из важнейших работ начала 90-х годов стала статья И.Шоэма «Агентноориентированное программирование» [124]. В ней был описан социальный взгляд на организацию
вычислений, связанный с взаимодействием агентов в процессе вычислений. При этом агент
рассматривается как «прозрачный ящик» и моделируются такие его «внутренние переменные» (по
сути дела, психические характеристики) как мотивы, убеждения, обязательства, способности к
27
выработке и принятию решений. Мотивы агента лежат в основе его решений, а убеждения
определяют логические ограничения на них.
Общение агентов осуществляется с помощью протоколов коммуникации. В контексте теории
речевых актов вводится стандартный набор примитивов: «сообщить», «запросить», «предложить»
и т.п.
Как известно, в ООП вычислительный процесс понимается как система, собранная из модулей,
которые взаимодействуют друг с другом и имеют собственные способы обработки поступающих
сообщений. В свою очередь, АОП уточняет эти рамки, фиксируя активность модулей - агентов и
изменения их состояний с помощью понятий убеждений, желаний, решений и пр.
Система АОП должна включать следующие базовые компоненты:
- ограниченный формальный язык с соответствующими синтаксисом и семантикой для описания
внутреннего состояния агента, которое определяется несколькими параметрами типа убеждений,
желаний, намерений и обязательств;
- язык программирования для спецификации агентов, включающий примитивные команды типа
REQUEST и INFORM;
- агентификатор, преобразующий нейтральные компоненты в программируемые агенты.
Оригинальные методы описания реактивных агентов предложены в работах Р.Брукса [46,47] и
Ж.Фербe [72,73]. Так метод «экорезолюции», предложенный Ж.Фербе, основан на решении задачи
множеством агентов, которые общаются путем обмена сообщениями. Здесь решение задачи
понимается как эволюция динамической системы вплоть до достижения ею устойчивых
стационарных состояний. Этим стационарным состояниям отвечает удовлетворение целей
различных агентов. Поведение агентов сводится к набору реакций, удовлетворяющих следующим
требованиям: а) условия удовлетворения агентов представляют собой стационарные состояния; б)
условия «отказа от работы» соответствуют состояниям, в которых агентам не хотелось бы
оказаться; в) критерий выживания определяет возможные действия агентов.
7. ОСНОВНЫЕ ОБЛАСТИ И ШКОЛЫ В ПОСТРОЕНИИ МАС
Как уже отмечалось выше, МАС развиваются в русле двух магистральных направлений - РИИ
и искусственной жизни. В контексте искусственной жизни можно выделить такие области
исследований как: а) анализ и моделирование основных принципов организации живого
(см.[86,96]); б) изучение динамики сложных явлений методами теории клеточных автоматов [96]
и нелинейных дифференциальных уравнений; в) моделирование эволюции искусственных
популяций с помощью генетических алгоритмов Дж.Холланда и построение классификаторов
(classifiers); г) разработка аниматов, т.е. автономных агентов, подобных животным, которые
способны к адаптации и действиям в плохо определенной среде (в этой области наибольший
интерес представляют работы Р.Брукса [47], Дж.Мейера и С.Уилсона [107]; д) моделирование
эмергентных МАС, возникающих на основе реактивных агентов.
Перечислим теперь основные школы, тяготеющие к методологии РИИ. Это:
1) школа организационного моделирования и проектирования МАС, опирающаяся на
современные подходы общей теории систем и организаций, включая функциональноструктурный и эволюционно-органический подходы, а также использующая социопсихологические методы.
2) логическая школа моделирования убеждений, намерений, желаний и склонностей агентов на
основе неклассических логик (BDI-модели);
3) лингвистическая школа моделирования речевых актов, используемых при построении
протоколов коммуникации и описании взаимодействия агентов на основе потоков работ
(workflows);
4) математическая школа теории игр и конфликтов;
5) школа рефлексивных моделей;
6) математическая школа сетей Петри;
7) программистская школа, использующая языки акторов и идеи агентно-ориентированного
программирования.
Ниже подробнее опишем идеи и результаты, относящиеся к первым трем школам РИИ.
28
7.1. Организационное проектирование: восходящий подход
В русле организационного моделирования и проектирования выделяются следующие базовые
процессы:
1) функциональный анализ и моделирование, направленные на спецификацию функций
организации во всех ее измерениях;
2) структурный анализ и моделирование – определение возможных форм организаций и
ряда основных параметров структуры.
3) эволюционное проектирование, включающее функционально-структурный синтез и
структурно-функциональный анализ
4) задание параметров конкретизации, определяющих переход от некоторой исходной
организационной структуры к конкретной организации, т.е. эффективную реализацию МАС.
Функциональный анализ МАС предполагает определение главных функций, возложенных на
агентов. При этом организация может рассматриваться как система ролей, где каждая роль
определяет множество характеристик агента в организации. Функции организации могут
рассматриваться в различных измерениях, соответствующих точкам зрения наблюдателей.
Структурный анализ МАС направлен на упорядочение множества возможных взаимодействий
между агентами путем выделения связывающих их абстрактных отношений и анализа их
изменений во времени.
Эволюционное моделирование МАС означает порождение и трансформацию ее функциональноструктурной организации. Элементарный шаг процесса эволюционного проектирования включает
две неразрывно связанные фазы: а) функционально-структурный синтез (ФСС); б) структурнофункциональный анализ (СФА). При рассмотрении их как «черных ящиков» в случае ФСС на
входе имеем набор функций, а на выходе – совокупность структур. Иными словами,
функционально-структурный синтез МАС представляет собой построение структур,
компонентами которых являются функции агентов, а также установление соответствия между
видами функций и структур. Наоборот, фаза СФА начинается с рассмотрения ранее полученных
структур, а завершается определением последующих функций.
При изменении условий существования МАС, росте сложности и неопределенности внешней
среды, ее жизнеспособность может быть обеспечена лишь путем модификации (чаще всего,
расширения) совокупности реализуемых ею функций, что обычно влечет за собой изменение
структуры МАС. Здесь важную роль играет стратегия адаптации к внешней среде, которая связана
с обеспеченим оптимального соотношения устойчивости и изменчивости как выходных
характеристик МАС, так и самой ее функциональной структуры.
Тогда общая методология восходящего эволюционного проектирования МАС может быть
представлена рекурсивной цепочкой: «среда – функции МАС – роли агентов – агенты отношения
между агентами – базовые структуры МАС – модификации (.)…», где (.) означает возможность
изменения любого из звеньев указанной цепочки. Так модификации среды (внешних условий)
приводят к изменениям функций МАС, которые влекут за собой порождение новых и замену
ненужных агентов. Все это сопровождается сменой отношений между агентами и эволюцией
исходных структур в интересах самосохранения системы путем ее приспособления к изменениям
среды. Иными словами, коэволюция МАС со средой (или с другими МАС) предполагает и
сохранение индивидуальности, и взаимную адаптацию.
Общая методика восходящего проектирования МАС включает следующие этапы.
1) Формулирование назначения (цели разработки) МАС
2) Определение типа и основных свойств среды МАС
3) Определение основных и вспомогательных функций агентов в МАС
4) Уточнение состава агентов и распределение функций между агентами. Выбор архитектур
агентов
5) Выделение базовых взаимосвязей (отношений) между агентами в МАС
6) Определение возможных действий (операций) агентов
7) Построение базовой архитектуры (функционально-структурной единицы) МАС, анализ ее
возможных состояний (нормальное, вырожденное, критическое и пр.).
29
8) Анализ реальных текущих или предполагаемых изменений внешней среды (условий
функционирования) или внутренних противоречий МАС
9) Определение соответствующих изменений функций агентов и формулирование стратегии
эволюции МАС
10) Построение общей архитектуры МАС, инвариантной к рассмотренной области изменений
среды (или самовоспроизведение функционально-структурной единицы МАС)
Техническое задание (спецификация) на
проектирование МАС должно наряду с ее
назначением содержать описание типа среды, в которой будет функционировать МАС. Следуя
Д.А.Поспелову [16], можно выделить замкнутые и открытые, детерминированные и
стохастические, нетрансформируемые и трансформируемые среды. Затем необходимо определить
главные функции, возложенные на агентов. При этом организация может рассматриваться как
система ролей, где каждая роль определяет множество функций агента в МАС. Роли могут быть
сосредоточены или, наоборот, широко распределены между агентами.
Функции МАС могут рассматриваться в различных измерениях, соответствующих точкам
зрения наблюдателей.
Для любой открытой системы легко выделить следующие важнейшие функции.
1. Функция отражения или представления внешнего мира (связь от среды к системе)
охватывает совокупность функций моделирования среды и других систем, а также представление
событий, которые могут повлиять на жизнедеятельность системы.
2. Функция регуляции деятельности системы (связь от системы к среде) обычно характеризует
результаты работы системы, производимые ею продукты или услуги. Иными словами, она часто
сводится к продуктивной, операционной или исполнительной функции, которая включает
множество действий и операций, необходимых для решения задачи или выполнения заказа.
3. Для установления и поддержания указанных связей между системой и средой служит
специальная коммуникативная функция. Она обеспечивает функционирование всех входов и
выходов, а также интерфейсы системы. Этой функции соответствует интерфейсный агент.
4. Функция самоуправления в системе определяет источники, границы и выбор видов ее
деятельности. Соответственно, в МАС вычленяются три подфункции:а) интенциональная
функция (функция мотивации), характеризующая формирование целей, исходя из потребностей и
интересов системы; б) законодательная функция, т.е. функция выработки ограничений (норм,
принципов, запретов) на поведение агентов в МАС; в) решающая функция, связанная с оценкой
степени достижения цели и выбором задач.
5. Ресурсная или консервативная функция отвечает за сохранение структуры системы и
агентов, приобретение и обслуживание ресурсов, – словом, за все, что нужно для поддержания и
воспроизведения системы.
Роли характеризуют функции агентов независимо от их внутренней структуры. По ролевому
признаку можно вычленить следующие основные виды агентов в МАС [30]
1. Агент-заказчик, рассылающий заявки на выполнение некоторого задания другим агентам
2. Агент-координатор (посредник), который принимает заказы и распределяет их между
другими (компетентными) агентами.
3. Агент-исполнитель
4. Агент-субординатор (супервизор), который организует и контролирует работу
вышеуказанных трех агентов и наделен правом экстренного вмешательства и перераспределения
ресурсов в критических (нештатных) ситуациях.
Эти роли соответствуют минимальному набору функций, необходимых для функционирования
организации как целенаправленной системы, т.е. достижения целей в условиях адаптации к
изменениям среды. Роли не обязательно являются жестко фиксированными и могут изменяться с
развитием организации. Например, исполнитель в результате эволюции организации может стать
посредником или клиентом. Точно так же, агент-заказчик в одних случаях может рассматриваться
как поставщик в других. Таким образом, каждый агент играет ряд ролей, характеризующих
различные услуги, которые он может оказать в данной организации.
Конечно, можно указать и другие варианты специализации агентов. Так применительно к
задачам децентрализованного управления производственными системами в [10] выделяются
30
Агент-пользователь, Канальный агент, обеспечивающий обмен информацией в системе,
Сервисный агент, принимающий заявки на транспортировку, выдачу или хранение ресурсов,
Интерфейсный агент, служащий для связи с внешней средой, Координатор, ответственный за
организацию взаимодействия вышеуказанных агентов и разрешение конфликтов.
В случае мигрирующих сетевых агентов и динамических организаций на базе Интернет могут
также выделяться другие роли сервисных агентов, например, агент-регистратор, агент-архиватор,
агент-хранитель узла и т.п.
Понятие роли нередко определяется с помощью трёх атрибутов: ответственности,
разрешения, и протоколов. Здесь ключевым атрибутом является ответственность, которая тесно
связана с функциональными характеристиками. Реализация ответственности неотделима от
множества разрешений, которые определяют «права», связанные с ролью, а, следовательно, и
набор располагаемых ресурсов для реализации ответственности. Наконец, роль описывается с
помощью набора протоколов, которые определяют способ взаимодействия с другими ролями в
системе.
При проектировании организацию можно рассматривать как набор ролей, находящихся между
собой в определенном отношении, и взаимодействующих друг с другом. Исходя из этого,
организационная модель дальше распадается на две части: модель ролей и модель взаимодействий
(рис.5) [137]. На стадии анализа происходит предварительная идентификация ролей, затем
определяются и документируются соответствующие протоколы и,наконец, строится
окончательная модель ролей. Собственно в процессе проектирования создается модель агента, т.е.
роли агрегируются в типы агентов, формируется иерархия типов и документируются примеры
каждого типа. Далее разрабатываются модель услуг и модель наиболее тесных контактов.
Итак, методология восходящего проектирования МАС требует предварительного задания
исходных функций (ролей агентов), определения круга их обязательств по отношению друг к
другу, формирования исходных и развивающихся структур на основе выделенных функций и
исследования адекватности этих структур характеру решаемых задач в данных проблемных
областях. В отличие от этого, главная идея нисходящего проектирования состоит в определении
общих социальных характеристик МАС по некоторому набору критериев, построении базовых
типов их организаций с последующим определением требований к архитектуре агентов.
В качестве примеров параметров конкретизации, определяющих переход от некоторого класса
МАС к конкретному экземпляру, рассмотрим пару параметров, задаваемых на полярных шкалах:
а) «специализация - универсальность»; б) «достаточность – избыточность». Степень
специализации s (пригодности) агента a для решения проблемы P есть показатель его
компетентности, который характеризует наличие и объем специальных знаний по отношению к
требуемому объему знаний для решения задачи. Когда s = 0, агент универсален (всеведущ), а
когда s = 1, агент предельно специализирован. В свою очередь, степень избыточности r
характеризует число агентов, обладающих одними и теми же знаниями. Когда r = 0, имеется
только один агент, способный выполнить данную задачу. Например, в МАС, основанной на
кооперации специалистов, когда агенты не являются взаимозаменяемыми, s  1, а r  0.
Можно выделить четыре граничных варианта организации МАС в зависимости от двух
рассмотренных параметров [72].
1) Гиперспециализированная неизбыточная организация (s = 1, r = 0): каждый агент
специализируется в решении только одной задачи, и более того, каждая задача может быть
выполнена только одним из агентов. Этот тип организации отражает чисто функциональный
подход (тейлоровскую организацию), когда каждая функция представлена в виде агента; для него
характерна минимальная надежность и отказоустойчивость.
2) Специализированная избыточная организация (s = 1, r = 1). Каждый агент способен
выполнять только одну задачу, которую могут выполнить и все другие агенты. Здесь речь идет о
крайнем случае, когда все агенты имеют одни и те же знания. Иногда этот тип классической,
функционально однородной организации используется локально для увеличения надежности
системы.
3) Универсальная избыточная организация (s = 0, r = 1). Каждый агент может выполнять
множество различных задач, и каждая задача выполняется большим числом агентов. Когда же
31
àí àëèç
òðåáî âàí èé
àí àëèç
ì î äåëü
ðî ëåé
ì î äåëü
âçàèì î äåéñòâèé
ï ðî åêòèðî âàí èå
ì î äåëü
àãåí òî â
ì î äåëü
óñëóã
ì î äåëü
êî í òàêòî â
Рис. 5. Связь между моделями в методологии разработки МАС
избыточность равна числу задач, каждый агент является универсалом. Здесь основная
проблема состоит в распределении задач между агентами.
4)Универсальная неизбыточная организация(s = 0, r = 0). Здесь каждый агент может выполнять
несколько задач, но каждая задача выполняется лишь одним агентом.
Для формального определения МАС в русле восходящего подхода можно взять за основу
понятие алгебраической системы по А.И.Мальцеву, которая выражается в виде тройки
S = (X, П, ),
где X–непустое множество, называемое носителем или основой системы,П–множество
предикатов,  - множество операций. Очевидно, что система может быть многоосновной, и в этом
случае X = (X,…,Xn.). Многоагентная система обычно включает как множество агентов, так и
множество манипулируемых ими объектов, что может быть записано в виде X = AO.
В случае, когда X=A, эволюционная многоагентная система определяется шестеркой [30]:
MAS = (X, E, R, AC, P, ST, EV),
где X = A = {1,..., n} – множество неоднородных агентов; E – множество сред, в которых может
функционировать данная МАС; R – семейство базовых отношений между агентами, причем это
семейство отношений включает по крайней мере три типа отношений и может быть представлено
разбиением
R = R1 R2  R3 ,
R1–множество горизонтальных (симметричных) отношений, R2–множество асимметричных
отношений, направленных «сверху вниз», R3–множество нечетких асимметричных отношений,
направленных «снизу вверх»; AC–множество действий агентов; P–множество коммуникативных
актов, образующих протокол коммуникации в МАС; ST–множество состояний МАС; EV–
множество эволюционных стратегий. Общий вид базовой структуры такой МАС представлен на
рис.6.
Итак, эволюционный синтез МАС предполагает анализ потребностей системы и определение
факторов адаптации к динамической среде. Это обычно приводит к усложнению МАС или ее
переходу в более упорядоченное состояние. Усложнение МАС обычно начинается с усложнения
(расширения спектра) функций ее агентов, а также может выражаться в периодической замене
(«перетасовке») агентов ради поддержания требуемой эффективности системы. Основными
видами изменений функций агентов в процессе эволюции МАС являются: интенсификация и
ослабление, мобилизация и иммобилизация, расширение или уменьшение числа функций,
замещение или компенсация функций.
32
Рис.6. Представление базовой структуры (единицы) многоагентной системы
Изменения функций агентов и соответствующих отношений в МАС приводят к структурным
преобразованиям. Например, делегирование функций управления приводит к вертикальному
росту базовой структуры МАС, а расширение числа ролей агентов – к переходу от
иерархических к гетерархическим структурам.
В свою очередь, социальный (коллективный) агент определяется в [125] пятеркой
SA = (ST, L, AC, SL, T),
где ST – множество состояний; L – множество языков; AC– множество действий; SL – множество
социальных законов, причем ограничение задается парой (ac,), а социальный закон sl есть
множество ограничений (aci,i), aciAC, L, st= ; T–обобщенная функция переходов, T: ST
 AC  SL  2ST, удовлетворяющая следующим условиям: а) для любых stST, acAC, slSL,
если состояние st удовлетворяет ограничению , st= , и пара (ac,)sl, то T(st,ac,sl)= ; б) для
любых stST, acAC, sl1SL, sl2SL, если sl1 sl2, то T(st, ac, sl1)T(st, ac, sl2). Тогда виртуальная
организация определяется как МАС, состоящая из социальных агентов, подчиняющихся
множеству социальных законов и имеющих общие состояния, единый язык для описания
состояний, согласованное множество действий и функцию переходов.
Другой возможный вариант описания агентов и МАС предложен в работе [52]. Он опирается
на идею трехступенчатого определения основных понятий, например, a – агент, A – множество
(конфигурация) агентов, aA,  - множество всех конфигураций агентов, A. Далее вводятся g
– тип агентов, G – множество возможных типов агентов, gG, E – пространство системы,  множество всех пространств МАС, E. Затем исходная МАС задается парой MAS = (,), а
соответствующая среда–тройкой W=(E,A,C), где С – взаимосвязь между агентами A и
пространством E. При этом еще рассматриваются понятия ресурса МАС r, множества
(конфигурации) ресурсов R и множества всех возможных конфигураций ресурсов в МАС , а
также топологии жизненного пространства T (множества мест tT, где агенты могут жить и
работать) и множества всех возможных топологий .
Тогда общая структура жизненного пространства агентов E характеризуется парой
E=(R,T). В результате агент a типа g определяется девяткой
a = (M, Q, STR, I, X,L, m,q,str),
33
где m–модель среды агента; M–множество моделей среды, mM; q–цель агента, определенная как
отображение q: MM, –множество действительных чисел; Q–множество (конфигурация)
целей агента, qQ; str–стратегия агента, str: MM; STR–множество (конфигурация) стратегий,
strSTR; I–наблюдения агента; X–операция выполнения стратегии агента; L–операция адаптации
(обучения) агента.
Наконец, в [1] понятие искусственного роя (swarm) [42,62] как МАС, построенной из
мобильных, реактивных агентов, способных локально взаимодействовать друг с другом и
коллективно решать различные задачи, действуя параллельно, определяется набором
 = (A, ST, V, X, u, f, g, ),
где: A – множество агентов; ST – множество состояний агентов; V– множество векторов скорости
перемещения агентов; XZd; f – переходная функция состояний агента, f: STk Vk  ST; g –
функция векторов скорости, g: STk Vk  V;  – функция перемещения, : X  V  X; u –
функция соседства, u: A  Ak ; A= m, ST= q, V= k, X= n.
7.2. Организационное проектирование: нисходящий подход
Когда речь идет о «выращивании» искусственных социальных систем и сообществ [68,79,125],
на первый план выдвигается нисходящий подход к организационному проектированию. В русле
концепции нисходящего проектирования, индивидуальные свойства и поведение агентов в МАС
определяются на основе типа социальной организации и множества соответствующих
взаимоотношений между агентами. Здесь проектирование предполагает движение от целого к
частям, когда свойства агентов в МАС определяются свойствами сообщества МАС. Здесь
удачный выбор исходного набора организационных критериев (системного базиса полярных
шкал) и использование признака «централизация–децентрализация»позволяют социально
структурировать МАС.
Общую идею нисходящего проектирования МАС можно выразить в виде следующей цепочки:
«выбор социальных критериев для характеризации сообщества МАС – определение типа
искусственного сообщества – синтез структуры МАС – выбор типов агентов – проектирование
архитектуры агента».
Более детально, методика нисходящего проектирования МАС включает следующие
шаги.
1. Выбор представительного набора критериев для определения социального типа
искусственного сообщества. В качестве подобных критериев могут выступать: тип внешней среды
(статическая или динамическая, стабильная или быстро меняющаяся), взаимодействия
искусственного сообщества со средой (эпизодические или периодические), морфология
искусственного сообщества (монолитное замкнутое или распределенное сетевое сообщество),
взаимоотношения внутри искусственного сообщества (преобладание субординационных или
координационных отношений), характер связей в сообществе (постоянные или гибкие
переменные), структура искусственного сообщества (иерархия или гетерархия), стратегии
организационного развития сообщества (жесткое планирование или самореорганизация),
стратегии адаптации к среде (телогенез или арогенез), и т.д.
Здесь задание на проектирование может быть связано с указанием эталонного набора значений
критериев, определяющих желаемый тип искусственного сообщества.
2. Конструирование полярных шкал критериев и определение допустимых типов оценок по
критериям. Эта процедура может быть описана в виде
 = (M; D, , &, , ),
где: М – непустое множество (область значений оценок); DМ – выделенное значение области
оценок (эталон);  – одноместная операция на М, &, ,  – двухместные (а в общем случае, nместные) операции над оценками. При этом возможны различные сценарии проведения
экспертизы по выбранным критериям на полярных шкалах: а) назначение пар точечных полярных
34
оценок (область оценок – двухточечное множество M2 ={–1, +1}); б) учет срединных значений
(допущение противоречивых оценок) на «серых» (по терминологии Д.А.Поспелова) шкалах,
когда положительная оценка по критерию равна отрицательной: a =а, т.е. здесь область оценок
есть трехточечное множество M3 ={–1, 0, +1}; в) учет возможного явления несовместимости
оценки со шкалой, когда нет ни a, ни а (точка разрыва полярной шкалы ?, характеризующая
переход к «черно-белым» шкалам; в этом случае получаем четырех- элементное множество
оценок M4={–1, 0, ?, +1}, соответствующее круговой шкале; г) допущение промежуточных
оценок по шкалам типа «скорее a, чема» или «скорее а, чем a», выражаемых значениями +0.5 и –
0.5 соответственно; тогда получаем множество оценок M6 ={–1, –0.5, 0, ?, +0.5, +1}. Таким
образом, в рассмотренных выше случаях усложнение сценариев экспертного оценивания
выражается в переходе от двузначной логики оценок к многозначной (см. например логику
аргументации В.К.Финна в приложении к МАС в работе [25]).
В более общем случае, когда допустимы интервальные и лингвистические оценки по
критериям, описываемые нечеткими переменными, приходим к интервалу возможных оценок M
= [–1,+1]. Здесь экспертные оценки по критериям могут задаваться попарно пересекающимися
треугольными функциями принадлежности, характеризующими совместимость взятых
лингвистических меток с отмеченными (для «серой» шкалы) семью числовыми значениями {–1, –
0.75, –0.5, –0.25, 0, +0.25, +0.5, +0.75, +1}. Соответствующие лингвистические метки могут иметь
вид: NB – «большое отрицательное значение по критерию», NM – «среднее отрицательное
значение», NS – «малое отрицательное значение», ZO – «приблизительно нулевое значение», PS –
«малое положительное значение»», PM – «среднее положительное значение», PB – «большое
положительное значение по критерию». Например, у общего для различных рассматриваемых
проектных критериев признака «централизация–децентрализация» можно выделить следующий
набор лингвистических значений, образующих линейно упорядоченное множество: полная
централизация, сильная централизация, преимущественная (слабая) централизация, равномерная
централизация-децентрализация, преимущественная (слабая) децентрализация, сильная
децентрализация, полная децентрализация}.
3. Заполнение таблицы, состоящей из оценок по различным выбранным критериям, и
определение типа искусственного сообщества. Здесь возможны два случая: а) определение
профиля сообщества через совокупность оценок по шкалам и построение меры различия
(расстояния) между эталонным и текущим профилями; б) установление связи между шкалами,
например с помощью таких операций как прямая (сохраняющая порядок) и обратная
(инвертирующая порядок) проекции, свертывание оценок по различным шкалам на основе
конъюнктивной и дизъюнктивной проекций, а также их комбинаций. Так в простейшем случае
при использовании трех организационных критериев для искусственных сообществ, например,
триады Ресурс – Структура – Отношения со Средой (другими сообществами) и области оценок
M2, получаем восемь лингвистических меток на обобщенной шкале типов искусственного
сообщества «Диктаторские –Демократические» (по аналогии с табл.2).
4. Синтез структуры МАС, соответствующей установленному типу сообщества. Например,
построение гетерархической структуры виртуальной организации для демократического
искусственного сообщества.
5. Последние шаги в процедуре нисходящего проектирования искусственных сообществ
состоит в подборе типов виртуальных агентов, соответствующих построенной искусственной
организации, и синтезе их архитектуры. Например, в случае МАС с гетерархической структурой
приоритет следует отдать автономным, когнитивным, интенциональным агентам с
многоуровневой архитектурой.
7.3. Логическая школа моделирования агентов: некоторые исходные идеи
Работы этого направления связаны в основном с проблемами формализации автономных
агентов. Истоки его восходят к работам П.Коэна и А.Левека [54], которые впервые формализовали
намерения и взгляды агентов на базе модальных логик. Значительный вклад в развитие
35
логической школы РИИ внесли М.Джорджеф и А.Рао [83], И.Шоэм [124], М.Вулдридж и
Н.Дженнингс [136-138]; К.Кастельфранши и Р.Контэ [55], Б.Шаиб-Дра [103] и др.
Главной идеей логического подхода в МАС является представление характеристик агента в
виде логической теории. При этом основные работы логической школы моделирования агентов
можно подразделить на два класса: а) расширение классической и многосортной логик с помощью
предикатов высокого порядка (см.например [2]); б) обобщение модальных логик, история
которых в первую очередь связана с именами К.Льюиса, С.Крипке и И.Хинтикки.
Модальные логики, в которых для описания агентов наряду с обычными высказываниями
(предикатами) допускаются модальности типа «возможно» и «необходимо» (алетическая логика),
«известно» и «неизвестно» (эпистемическая логика), «обязательно» и «разрешено» (деонтическая
логика), «всегда» и «иногда» (временная логика), «верит и не верит» (доксастическая логика),
«желает» и «не желает» (оптитативная логика) и т.д., представляют собой расширения
классической логики высказываний. Они могут интерпретироваться в различных мирах, тогда как
классическая логика интерпретируема в одном-единственном мире. Тогда в русле модели
возможных миров, убеждения агента можно представить как совокупность миров, в которых
распределены его предпочтения. Пусть агент a работает с множеством возможных миров W.
Рассматривая знания и предпочтения агента, из W можно выделить подмножество W0, на котором
агент концентрирует свое внимание. Это подмножество W0 содержит миры, совместимые с тем,
что агент знает (в чем он убежден) в мире w. Тогда соотнесение подмножества W0, агента a и мира
wЄW означает введение некоторого отношения R. Здесь миры из W0 - это такие миры, с
которыми w находится в отношении R.
Механизм возможных миров описывается алгебраически с помощью моделей Крипке (W,R,f),
где W - множество возможных миров, R - отношение достижимости, а f: W х L {0, 1} соответствие, устанавливаемое между миром wЄW, пропозициональной константой lL и
значением истинности из двухэлементного множества {0,1}. Здесь различные свойства отношения
R индуцируют различные схемы аксиом модальной логики. Эти свойства могут определяться с
помощью специальных встраиваемых предикатов multiWorldsSystem и сanSeeWorlds,
предназначенных для выбора наиболее подходящих систем модальной логики и отношений
достижимости между мирами. Иными словами, для определения того, какой из миров достижим
(т.е. может рассматриваться агентом) необходимо выбрать наиболее удобную систему аксиом
модальной логики из T, B, S4 или S5 в соответствии со свойствами рефлексивности и/или
симметричности и/или транзитивности отношения достижимости (табл.4).
Для установления определенных отношений между мирами могут служить системы поддержки
истинности ATMS, в том числе системы, основанные на модальной логики MTMS (Modal logic
based Truth Maintenance System). В таких системах для представления спецификаций агента
используется понятие возможных миров в модальной логике (например, система аксиом S4), а
понятие достижимости между мирами применяется для описания монотонных переходов.
Соответственно, MTMS автоматически порождает граф достижимости (формирует древовидную
структуру возможных миров), а также генерирует мир, соответствующий удовлетворяемому в
текущий момент подмножеству спецификаций.
Логический язык у П.Коэна и А.Левека, помимо обычных операторов логики первого порядка,
включает четыре базовых модальных оператора: Happens, Done, Bel и Goal. Подобные операторы
позволяют связать убеждения с действиями и целями во времени. Семантика задается через
множество возможных миров, где мир определяется как дискретная последовательность событий,
расширяемая в прошлое и в будущее. Два базовых временных оператора Happens и Done
определяют последовательность событий, которые произойдут в будущем и последовательность
уже произошедших событий. Во временной логике возможные миры представляют состояния
некоторого мира в различные моменты его эволюции. Сложные действия строятся с помощью
операторов динамической логики. Используются также временные операторы  (всегда), ◊, Later,
Before. Семантика операторов Bel и Goal задается отношениями достижимости (по убеждениям и
целям) на множестве возможных миров. Принимается допущение о том, что отношение
достижимости по целям является подмножеством отношения достижимости по убеждениям.
36
Таблица 4. Сводка основных систем модальных логик в зависимости от свойств
отношения достижимости
Наименование системы
аксиом
Свойства отношения достижимости
T
Рефлексивность
B
Рефлексивность, симметричность
S4
Рефлексивность, транзитивность
S5
Рефлексивность, симметричность, транзитивность
Известно немало различных вариантов построения модальных логик для описания
интенциональных характеристик агентов [70,83,103,136 и др.].
Так в [103] развивается подход на основе двух модальных операторов Bel и Agree для
формализации ментальных характеристик – убеждения (believe) и согласия (agree) – и двух
модальных операторов для описания действий Happens (действие произойдет) и Done (действие
уже произошло). Предполагается, что мир w в любой момент времени описывается множеством
пропозиций, представленных в модальной логике. Задаются также следующие типы действий предварительные условия, тело действий и последствия. В свою очередь, в [70] строится
ситуативная модальная логика на основе четырех модальностей, связанных с убежденностью
агента a в своих знаниях: Know (a, p, s), Believes (a, p, s), Kwhether (a, p, s), Doubts (a, p, s), где
Оператор (a, p, s) читается как: агент a убежден с некоторым уровнем определенности (знает,
уверен, сомневается), что в ситуации s имеет место p. Берутся также три модальности,
характеризующие целенаправленное поведение: Want (a, p, s), Indif (a, p, s) и Wantstock (a, p, s).
В свою очередь, для моделирования слабых допущений об агентах, т.е. допущений, которые
впоследствии могут изменяться (отбрасываться), естественно использовать немонотонные
логики. В немонотонных логиках вводится новый символ А, который означает уверенность в
некотором факте при отсутствии противоположного факта. Например, p  Aq гласит, что «если
высказывание p истинно, то Ар означает, что p согласуется с теорией. Высказывание p называется
согласованным, если из него не следует отрицания. Предложение Ap выполняется тогда и только
тогда, когда нельзя найти  p. Так цели агентов считаются несовместимыми, если выполнение
цели одного из них ведет к невыполнению цели другого. А именно, цель агента a1 несовместима с
целью агента a2, если цели определяются как достижение состояний p и q соответственно, и
p=q.
7.4. Лингвистическая школа: коммуникативные акты и модель потоков работ
В контексте построения протоколов коммуникации между программными
вначале
подробнее
остановимся
на
некоторых
результатах
школы.Коммуникация между агентами может быть основана на теории
предложенной Дж.Остином [39] и Дж. Серлем [122] и формализованной
Ф.Флоресом [135]. Исходя из идеи о том, что любой разговор преследует
агентами в сети
лингвистической
речевых актов,
Т.Виноградом и
некоторую цель,
37
Дж.Серль рассматривает понятие языкового (речевого) акта как минимальную и базисную
единицу коммуникации. Анализ всех возможных в данной ситуации речевых актов и определение
соответствующих ограничений, зависящих от рассуждений гентов, позволяет составить протокол
коммуникации. Речевые акты подразделяются на следующие классы: директивные, ассертивные,
промиссивные и экспрессивные. Их моделирование позволяет описать процессы координации в
МАС.
Главный компонент процесса координации есть замкнутый контур, называемый «потоком
работ» (workflow) [135,64]. Тогда процесс координации в МАС, понимаемый как моделирование
сети взаимных обязательств между агентами, направленных на удовлетворение агента-клиента,
описывается системой замкнутых контуров потоков работ. Базовый контур в модели потоков
работ связывает агента-заказчика с агентом-исполнителем в рамках следующего цикла,
состоящего из четырех этапов или потоков: «подготовка - переговоры - выполнение – приемка»
(рис.7). На этапе подготовки агент-заказчик направляет запрос (заказ на выполнение работы)
агенту-исполнителю. На следующем этапе происходят переговоры, направленные на выработку
взаимоприемлемых условий выполнения заказа. Затем агент-исполнитель выполняет работу и
окончив ее, докладывает агенту-заказчику о завершении, а на последнем этапе тот принимает или
отклоняет работу.
Здесь сеть соглашений (или обязательств) формирует организацию, причем соответствующие
коммуникативные акты агентов, образующие протокол коммуникации, определяются
возможными речевыми актами, сведенными в табл.5. Адекватная модель подобного протокола –
конечный автомат с фиксированным пространством состояний [135] (рис.8). Более подробное и
избыточное описание можно построить с использованием сетей Петри [72].
8. ЗАКЛЮЧЕНИЕ
Настоящий обзор посвящен анализу наиболее общих понятий, представлений, концепций и
моделей, относящихся к исследованию и разработке агентов и многоагентных систем. За кадром
остались столь важные и необходимые аспекты как архитектуры агентов и многоагентных систем,
модели планирования и выполнения действий, языки программирования агентов. На русском
языке эти и другие вопросы освещены в обзоре В.И.Городецкого с соавторами из СанктПетербургского института информатики и автоматизации РАН [8], публикуемом в настоящем
номере журнала.
Автор выражает свою благодарность Д.А.Поспелову, Э.В.Попову, В.И.Городецкому,
В.П.Кутепову и Х.Невешу за поддержку работы и ряд полезных дискуссий по проблематике МАС,
а также В.Н.Вагину и Г.С.Плесневичу за обсуждение на рабочем семинаре в МЭИ возможностей и
ограничений неклассических логик в контексте моделирования агентов.
Данная работа выполнена при поддержке Российского фонда фундаментальных исследований
(проект N 98-01-00227).
38
2
1
4
3
1 - ПОДГОТОВКА
2 - ПЕРЕГОВОРЫ
3 - ВЫПОЛНЕНИЕ
4 - ПРИЕМКА
Рис.7. Базовая модель потоков работ
Табл. 5. Протокол коммуникации агентов в модели потоков работ
Этап
Акты агента-заказчика
Акты агента-исполнителя
Подготовка
Сделать заказ
Принять предложение
Сделать предложение
Переговоры
Сделать контрпредложение
Отклонить контрпредложение
Принять контрпредложение
Сделать контрпредложение
Отклонить заказ
Принять заказ
Передать заказ
Принять контрпредложение
Выполнение
Выполнить заказ
Отказаться от выполнения
Приемка
Принять работу (выразить удовлетворение)
Принять работу условно (направить на
доработку)
Отклонить работу
Любой этап
Отменить заказ
Дать комментарии
Дать комментарии
39
ЛИТЕРАТУРА
1. Адамацкий А.И., Холланд О. Роящийся интеллект: представления и алгоритмы//
Информационные технологии и вычислительные системы. – 1998. – №1. – С.45-53.
2.
3.
4.
5.
6.
Вагин В.Н., Викторова Н.П., Головина Е.Ю. Многоуровневая логика как модель представления знаний
в CASE-системе// Известия АН: Техническая кибернетика. – 1993. – № 5. – C.172-185.
Валькман Ю.Р. Распределенный искусственный интеллект и многоагентные системы в
исследовательском проектировании сложных объектов// Труды Международного семинара
«Распределенный искусственный интеллект и многоагентные системы» (DAIMAS'97,Санкт-Петербург,
Россия,15-18 июня 1997). – С.269-279.
Варшавский В.И. Коллективное поведение автоматов. – М.: Наука, 1973.
Варшавский В.А., Поспелов Д.А. Оркестр играет без дирижера. Размышления об эволюции
некоторых технических систем и управлении ими. – М.: Наука, 1984.
Городецкий В.И. Многоагентные системы: современное состояние исследований и перспективы
применения// Новости искусственного интеллекта. – 1996. – №1. – C.44-59.
7. Городецкий В.И. Многоагентные системы: основные свойства и модели координации
поведения// Информационные технологии и вычислительные системы. – 1998. – №1. – С.2234.
8.
9.
Городецкий В.И., Грушинский М.С., Хабалов А.В. Многоагентные системы (обзор)// Новости
искусственного интеллекта. –1998. – №2. –
Горский Ю.М. Гомеостатика: модели, свойства, патологии// Гомеостатика живых, технических,
социальных и экологических систем. – Новосибирск: Наука (Сибирское отд.), 1990. – С.20-67.
10. Емельянов
В.В.
Многоагентная
модель
децентрализованного
управления
производственными системами // Информационные технологии и вычислительные системы.
– 1998. – №1. – С.69-77.
11. Крылов В.Ю., Цетлин М.Л. Об играх автоматов// Автоматика и телемеханика.–1963.– Т.24, №7. –
C.975
12. Лефевр В.А. Конфликтующие структуры. – М.: Сов.Радио, 1973.
13. Моисеев Н.Н. Современный рационализм. – М.: МГВП КОКС, 1995.
14. Ойхман Е.Г., Попов Э.В. Реинжиниринг бизнеса. – М.: Финансы и статистика, 1997.
15. Поспелов Г.С. Искуственный интеллект – основа новой информационной технологии.– М.: Наука,
1988.
16. Поспелов Д.А. От коллектива автоматов к мультиагентным системам // Труды Международного
семинара «Распределенный искусственный интеллект и многоагентные системы» (DAIMAS'97, СанктПетербург, Россия, 15-18 июня 1997). – С.319-325.
17. Поспелов Д.А. Многоагентные системы – настоящее и будущее // Информационные
технологии и вычислительные системы. – 1998. – №1. – С.14-21.
18. Поспелов Д.А., Пушкин В.Н. Мышление и автоматы. – М.: Сов.Радио, 1972.
19. Поспелов Д.А., Шустер В.А. Нормативное поведение в мире людей и машин.–Кишинев: Штиинца,
1990.
20. Пэранек Г.В. Распределенный искусственный интеллект// Искусственный интеллект: применение в
интегрированных производственных системах/ Под. ред. Э.Кьюсиака. – М.: Машиностроение, 1991.–
С.238-267.
21. Смирнов А.В., Шереметов Л.Б. Многоагентная технология проектирования сложных систем//
Автоматизация проектирования. – 1998. – №3.
22. Стефанюк В.Л. Пример коллективного поведения двух автоматов// Автоматика и телемеханика.–
1963. – Т.24, №6. – C.781-784.
23. Стефанюк В.Л. Анализ целесообразности локально организованных систем методом потоков
вероятностей// Модели систем обработки данных. – М.: Наука, 1989. – С.33-45.
24. Стефанюк В.Л. От многоагентных систем к коллективному поведению// Труды Международного
семинара «Распределенный искусственный интеллект и многоагентные системы» (DAIMAS'97, СанктПетербург, Россия, 15-18 июня 1997). – С.327-338.
25. Таран Т.А. О разрешении конфликтов в многоагентных системах на основе аргументации//
Искусственный интеллект (Доценк, Украина).– 1997.– №1-2. – С.36-50.
40
26. Тарасов В.Б. От искусственного интеллекта к искусственной жизни: новые направления в науках об
искусственном// Новости искусственного интеллекта. – 1995. – №4. – С.93-117.
27. Тарасов В.Б. Новые стратегии реорганизации и автоматизации предприятий: на пути к
интеллектуальным предприятиям // Новости искусственного интеллекта. – 1996. – №4. – С.40- 84.
28. Тарасов В.Б. Системно-организационный подход в искусственном интеллекте// Программные
продукты и системы. – 1997. – №3. – C.6-13.
29. Тарасов В.Б. Эволюционная семиотика – новое синергетическое направление в искусственном
интеллекте// Искусственный интеллект (Донецк, Украина). – 1997. – №1-2. – С.9-20.
30. Тарасов В.Б. Эволюционная семиотика и нечеткие многоагентные системы – основные
теоретические подходы к построению интеллектуальных организаций// Информационные
технологии и вычислительные системы. – 1998. – №1. – С.54-68.
31. Тарасов В.Б., Соломатин Н.М. Развитие прикладных интеллектуальных систем: анализ основных
этапов, концепций и проблем // Вестник МГТУ. Сер. «Приборостроение». – 1994. –№1. –С.5-14.
32. Цетлин М.Л. О поведении конечных автоматов в случайных средах// Автоматика и телемеханика. –
1961. – Т.22, №10. – C.1345-1354.
33. Цетлин М.Л. Исследования по теории автоматов и моделированию биологических систем.–
М.: Наука, 1969.
34. Швецов И.Е., Нестеренко Т.В., Старовит С.А. ТАО – технология активных объектов для
разработки мультиагентных систем//Информационные технологии и вычислительные
системы.–1998.–№1.–С.35-43.
35. Agha G. Actors: a Model of Concurrent Computation for Distributed Systems. – Cambridge MA: MIT Press,
1986.
36. Agre P. Computational Research on Interaction and Agency// Artificial Intelligence. – 1995. –Vol.72, №1/2.–
P.1-52
37. Agre P., Chapman D. Pengi: an Implementation of a Theory of Activity// Proceedings of the 6 th National
Conference on Artificial Intelligence.- P.268-272.
38. Ambroszkiewicz S., Bylka S., Komar J. Knowledge in a Dynamic Model of Multi-Agent System//
Proceedings of the International Workshop «Distributed Artificial Intelligence and Multi-Agent Systems»
(DAIMAS'97, St.Petersburg, Russia, June 15-18, 1997). SPIIRAS, St Petersburg, 1997. – P.44-53.
39. Austin J.L. How to Do Things with Words. – New York: Clarendon Press, 1962.
40. Bernoux P. La sociologie des organizations. – Paris: Seuil, 1985.
41. Bobrow D. Dimension of Interaction// AI Magazine. – 1990. – Vol.12, №3. – P.64-80.
42. Bonabeau F., Theraulaz G. (Eds.) Intelligence collective. – Paris: Hermes, 1994.
43. Bond A., Gasser L. (Eds.) Readings in Distributed Artificial Intelligence. – New York: Morgan Kaufman,
1988.
44. Brainov S. Altruistic Cooperation Berween Self-Interested Agents// Proceedings of ECAI’96. – P.519-523.
45. Braspenning P. Plant-like, Animal-like and Humanoid Agents and Corresponding Multi-Agent Systems// Proc.
of the International Workshop «Distributed Artificial Intelligence and Multi-Agent Systems» (DAIMAS'97,
St.Petersburg, Russia, June 15-18, 1997). – P.64-77.
46. Brooks R. A Robust Layered Control System for a Mobile Robot// IEEE Journal of Robotics and Automation.
– 1986. – Vol.2, №1. – P.14-23.
47. Brooks R. Intelligence Without Representation // Artificial Intelligence. – 1991. – Vol.47. – P.139-159.
48. Burkhard H.-D. Liveness and Fairness Properties in Multi-Agent Systems// Proc. of the 13th Int. Joint
Conference on Artificial Intelligence (Chambery, France, 1993). Vol.1. – P.325-330.
49. Castelfranchi C. Social Power: a Point Missed in Multi-Agent Systems, DAI and HCI// Decentralized
Artificial Intelligence/ Ed.by Y.Demazeau, J.-P.Muller. – Amsterdam: Elsevier North-Holland, 1990. – P.4962.
50. Castelfranchi C., Micelli M., Cesta A. Dependence Relations Among Autonomous Agents// Decentralizaed
AI III/ Ed. by Y.Demazeau and J.P.Muller. – Amsterdam: Elsevier North-Holland, 1991
51. Castelfranchi C., Werner E. Artificial Social Systems. – Berlin: Springer, 1992.
52. Cetnarovicz E., Nawarecki E., Cetnarowicz K. Agent-Oriented Technology of Decentralized Systems Based
on the M-agent Architecture// Preprints of IFAC/IFIP Conference on Management and Control of Production
and Logistics (MCPL’97, Campinas, SP, Brazil, August 31-September 3 1997). Vol.2. – P.486-491.
53. Chaib-Draa B., Moulin M., Mandiau R., Millot P. Trends in Distributed Artificial Intelligence // Artificial
Intelligence Review. – 1992. – Vol.6. – P.35-66.
54. Cohen P.R and Levesque H.J. Intention is Choice with Commitment// Artificial Intelligence. – 1990. –
Vol.42. – P.213-262.
41
55. Conte R., Miceli M., Castelfranchi C. Limits and Levels of Cooperation: Disentangling Various Types
Prosocial Interaction//Distributed AI II/ Ed.by Y.Demazeau and J.-P.Muller.–Amsterdam: North-Holland,
1991.
56. Correa J., Coelho G. Around the Architectural Agent Approach to Model Conversations// Proc. of the 5th
European Workshop on Modelling Autonomous Agents in a Multi-Agent World, Neuchatel, 1993.
57. Davis R., Smith R. Negotiation as a Metaphor for Distributed Problem Solving// Artificial Intelligence. –
1983. –Vol.20. – P.63-109.
58. Decker K. Distributed Problem Solving Techniques: A Survey// IEEE Transactions on Systems, Man, and
Cybernetics. – 1987. – Vol.17, №5.
59. Decker K.S., Lesser V.R. Designing a Family of Coordination Algorithms// Proc. of the First Int. Conference
on Multi-Agent Systems (San-Francisco, June 12-14, 1995). – Cambridge: The MIT Press, 1995. – P.73-80.
60. Demazeau Y., Muller J.-P.(Ed.) Decentralized Artificial Intelligence. – Amsterdam: Elsevier North-Holland,
1990.
61. Demazeau Y., Muller J.-P.(Ed.) Decentralized Artificial Intelligence II. – Amsterdam: Elsevier NorthHolland, 1991.
62. Deneubourg J.-L. et al. Self-Organization and Life: from Simple Rules to Global Complexity// Proc. of
Second European Conference on Artificial Life, Bruxelles, 1993.
63. Drogoul A., Ferber J. Multi-Agent Simulation as a Tool for Studying Emergent Processes in Societies//
Simulating Societies: Computer Simulation of Social Phenomena/ Ed. by N.Gilbert and J.Doran, UCL Press,
1994. – P.127-142.
64. Dunning P., Medina-Mora R. Completing the Loops// Interfaces. – 1995. –Vol.25, №3. – P.42-57.
65. Durfee E.H. Coordination in Distributed Problem Solvers. – Boston MA: Kluver Academic Publishers, 1988.
66. Durfee E.H., Lesser V.R. Global Partial Planning: a Coordination Framework for Distributed Hypothesis//
IEEE Transactions on Systems, Man and Cybernetics. – 1991. – Vol.21. – №6.
67. Durfee E.H., Lesser V.R., Corkill D.D. Coherent Cooperation Among Communicating Problem Solvers//
IEEE Transactions on Computers. – 1987. – Vol.36. – P.1275-1291.
68. Epstein J., Axtell R. Growing Artificial Societies: Social Science from the Bottom Up. – Cambridge MA:
MIT Press, 1996.
69. Erman L., Hayes-Roth F., Lesser V., Reddy D. The HEARSAY-II Speech Understanding System: Integrating
Knowledge to Resolve Uncertainty// ACM Computers Surveys, vol.12, 1980.
70. Errico B., Aiello L. Intelligent Agents in the Situation Calculus: an Application to User Modelling// Proc. of
International Conference on Formal and Aplied Practical Reasoning/ Ed. by D.M.Gobbay and H.J.Ohldach. –
Berlin: Springer Verlag, 1996. – P.126-140.
71. Etzioni O., Weld D. Intelligent Agents on the Internet// IEEE Expert. – 1995. –№4. – P.44-47.
72. Ferber J. Les systemes multi-agents. Vers une intelligence collective. – Paris: InterEditions, 1995.
73. Ferber J., Jacopin E. The Framework of Eco-Problem Solving// Decentralized Artificial Intelligence II / Ed.
by Y.Demazeau, J.-P.Muller. – Amsterdam: Elsevier North-Holland, 1991.
74. Ferber J., Magnin L. Conception des systemes multi-agents par composants modulaires et reseaux de Petri
// Actes des journees du PRC-IA, Montpellier.
75. Fisher K., Muller J.-P., Heimig I., Scheer A.-W. Intelligent Agents in Virtual Enterprises// Proc. of the First
International Conference on the Practical Applications of Intelligent Agents and Multi-Agent Technology
(London, UK). – P.205-224.
76. Fox M. An Organizational View of Distributed Systems// IEEE Transactions on Systems, Man and
Cybernetics. – 1981. – Vol.11, №1.–P.70-79.
77. Franklin S., Graesser A. Is It an Agent, or Just a Program?// Intelligent Agents III. Proc. of ECAI-96
Workshop on Agent Theories, Architectures and Languages (ATAL, Budapest, The Hungary, August 12-13,
1996)/Ed.by J.-P.Muller, M.Wooldridge, N.Jennings.-Berlin: Springer Verlag, 1996.-P.21-35.
78. Galliers J.R. The Positive Role of Conflict in Cooperative Multi-Agent Systems// Decentralized Artificial
Intelligence/ Ed. by Y.Demazeau, J.-P.Muller. – Amsterdam: Elsevier North-Holland, 1990. – P.33-46.
79. Gasser L. Social Conceptions of Knowledge and Action: DAI Foundations and Open Systems Semantics //
Artificial Intelligence. –1991. –Vol.47, №1-3. – P.107-138.
80. Gasser L. An overview of DAI// Distributed Artificial Intelligence: Theory and Praxis/ Ed. by L.Gasser and
N.M.Avouris. - Amsterdam: Kluwer Academic Publishers, 1992.
81. Gasser L., Braganza C., Herman N. MACE: a Flexible Testbed for Distributed AI Research// Distributed
Artificial Intelligence/ Ed. by M.N.Huhns. - London: Pitman, 1987. – P.119-152.
82. Genesereth M.R., Ketchpel S.P. Software Agents//Communications of the ACM.–1994.–Vol.37, №7.– P.4853.
42
83. Georgeff M.P., Rao A.S.
BDI Agents: From Theory to Practice// Procedings of the First International
Conference on Multi-Agent Systems (ICMAS’95, )/ Ed. by V.Lesser).– AAAI Press/The MIT Press. – P.312319.
84. Haddadi A. Communication and Cooperation in Agent Systems: A Pragmatic Theory.– Berlin: Springer
Verlag, 1996
85. Hayes-Roth B. An Architecture for Adaptive Intelligent Systems//Artificial Intelligence.–1995.–Vol.72.–
P.329-365.
86. Heudin J.-C. La vie artificielle. – Paris: Hermes, 1994.
87. Hewitt C. Viewing Control Structures as Patterns of Message Passing // Artificial Intelligence.–1977.– Vol.8,
№3. – P.323-364.
88. Hewitt C. Open Information Systems Semantics for Distributed Artificial Intelligence// Artificial Intelligence.
- 1991. – Vol.47, №1-3. – P.79-106.
89. Huhns M.N. (Ed.). Distributed Artificial Intelligence. - London: Pitman, 1987.
90. Ishida T. CoCO: a Multiagent System for Concurrent and Cooperative Operation Tasks// Proc. of the 9th
Distributed Artificial Intelligence Workshop/ Ed. by M.Benda. – Orcas Island, 1989.
91. Jagannathan V., Dodhiawala R., Baum L. Blackboard Architectures and Applications. – New York:
Academic Press, 1989.
92. King J.A. Intelligent Agents: Bringing Good Things to Life// AI Expert. – 1995. – February. – P.17-19.
93. Konolige K., Pollack M. A Representationalist Theory of Intention// Proc. of the 13th Int. Joint Conference
on Artificial Intelligence (Chambery, France, 1993). Vol.1. – P.390-395.
94. Kornfeld W. ETHER: a Parallel Problem Solving System// Proc. of the 6th Int. Joint Conference on
Artificial Intelligence, 1979.
95. Kornfeld W., Hewitt C. The Scientific Community Metaphor// IEEE Transactions on Systems, Man and
Cybernetics. – 1981. – Vol.SMC-11, №1. – P.24-33.
96. Langton C. (Ed.). Artificial Life. – Redwood City: Addison-Wesley, 1992.
97. Lenat D. BEINGS: Knowledge as Interacting Experts// Proc. of the 1975 IJCAI Conference, 1975. – P.126133.
98. Lesser V., Corkill D. The Distributed Vehicle Monitoring Testbed: a Tool for Investigating Distributed
Problem Solving Networks// AI Magazine. – 1983. – Vol.4, №3. – P.15-33.
99. Liu M. Approche sociotechnique de l'organisation. – Paris: Les Editions d’Organisation, 1983.
100. Maes P. Artificial Life Meets Entertainment: Life Like Autonomous Agents// Communication of the ACM. –
1995. –Vol.38, №11. – P.108-114.
101. Maes P. and Nardi D. (Eds.). Meta-Level Architectures and Reflexion.– Amsterdam: Elsevier North-Holland,
1988.
102. Malone T.W., Crowston K. The Interdisciplinary Study of Coordination// ACM Computer Surveys. – 1994. –
Vol.26, №1.– P.87-119.
103. Mandiau R., Chaib-Draa B., Libert G., Millot P. Collaborative Work: a Language-Action Perspective//
104. March J.G., Simon H.A. Organizations. – New York: J.Wiley and Sons, 1985.
105. Maruichi T., Ichikawa M., Tokoro M. Modeling Autonomous Agents and Their Groups// Decentralized AI/
Ed. by Y.Demazeau and J.-P.Muller. – Amsterdam: Elsevier North-Holland, 1990.
106. Maturana U., Varela F. Autopoiesis and Cognition: the Realization of Living. – Dordrecht: Reidel, 1980.
107. Meyer J.A., Wilson S. (Ed.). Simulation of Adaptive Behavior: from Animals to Animats. – Cambridge MA:
MIT Press, 1991.
108. Minsky M. The Society of Mind. – NewYork: Simon and Shuster, 1986.
109. Mintzberg H. Structure et dynamique des organisations. – Paris: Les Editions d'Organisation, 1982.
110. Moulin B., Cloutier L. Collaborative Work Based on Multiagent Architectures: a Methodological
Perspective// Soft Computing: Fuzzy Logic, Neural Networks and Distributed Artificial Intelligence/ Ed. by
F.Aminzadeh and M.Jamshidi.– N.Y.: Prentice-Hall, 1994. – P.261-296.
111. Murray D. Developing Reactive Software Agents// AI Expert. – 1995. – P.27-29
112. Nii H.P. The Blackboard Model of Problem Solving and the Evolution of Blackboard Architecture// AI
Magazine. –1986. –Vol.7, №3.
113. Nwana H. Software Agents: an Overview//The Knowledge Engineering Review.–1996.–Vol.11,№3.–P.205244
114. O'Leary D.E., Knokka D., Plant R. Artificial Intelligence and Virtual Organizations// Communications of the
ACM. 1997. – Vol.4, №1. – P.52-59.
115. Pattison H., Corkill D., Lesser V. Instantiating Descriptions of Organizational Structures// Distributed
Artificial Intelligence/ Ed. by M.N.Huhns. – London: Pitman, 1987. – P.59-96.
43
116. Petrie C. What is an Agent?// Intelligent Agents III. Proc. of ECAI-96 Workshop on Agent Theories,
Architectures and Languages (ATAL, Budapest, The Hungary, August 12-13, 1996)/ Ed. by J.-P.Muller,
M.Wooldridge, N.Jennings. - Berlin: Springer Verlag, 1996. – P.41-43.
117. Rasmussen J., Brehmer B., Leplat J. (Eds.). Distributed Decision-Making. Cognitive Models for Cooperative
Work. – New York: J.Wiley and Sons, 1991.
118. Rosenshein J., Zlotkin G. Rules of Encounter: Designing Conventions for Automated Negociation Among
Computers. – Cambridge MA: MIT Press, 1994.
119. Russell S.J., Norvig P. Artificial Intelligence: a Modern Approach. - Englewood Cliffs NJ: Prentice Hall,
1995.
120. Sandholm T.W. An Implementation of Contract Net Protocol Based on Marginal Cost Calculations// Proc. of
11 AAAI National Conference, 1993. – P.256-262.
121. Sandholm T.W., Lesser V.R. Coalition Formation among Bounded Rational Agents// Proc. of 14 Joint
Conference on AI (IJCAI-95, Montreal, Canada). – P.662-669.
122. Searle J. Speech Acts. – Cambridge: Cambridge University Press, 1961.
123. Seel N. Intentional Description of Reactive Systems//Decentralized Artificial Intelligence II/Ed.by
Y.Demazeau and J.-P.Muller. – Amsterdam: Elsevier North-Holland, 1991. – P.15-33.
124. Shoham Y. Agent Oriented Programming// Artificial Intelligence. – 1993. – Vol.60, №1. – P.51-92.
125. Shoham Y., Tannenholtz M. On Social Laws for Artificial Agent Societies: Off-Line Design// Artificial
Intelligence.– 1995. – Vol.73, №1/2. – P.231-252.
126. Smith R.G. The Сontract Net Protocol: High Level Communication and Control in a Distrubuted Problem
Solver // IEEE Transactions on Computers. – 1980. – Vol.29, №12. – P.1104-1113.
127. Steels L. Cooperation Between Distributed Agents Through Self-Organization// Decentralized Artificial
Intelligence/ Ed.by Y.Demazeau and J.-P.Muller. – Amsterdam: Elsevier North-Holland, 1990. – P.175-196.
128. Sycara K. Multiagent Compromise via Negotiation// Distributed Artificial Intelligence/ Ed. by L.Gasser and
M.Huhns. – Pitman, 1989.
129. Sycara K., Pannu A., Williamson M., Zeng D., Decker K. Distributed Intelligent Agents/ IEEE Expert:
Intelligent Systems and Their Applications. – 1996. – Vol.11, №6. – P.36-46.
130. Tarassov V.B. Artificial Meta-Intelligence: a Key to Enterprise Reengineering// Proc. of the Second Joint
Conference on Knowledge-Based Software Engineering (JCKBSE'96) (Sozopol, Bulgaria, September 21-22,
1996). – Sofia: BAIA, 1996. – P.15-24.
131. Tokoro M. The Society of Objects // Proc. of OOPSLA'93 Conference, 1993.
132. Werner E. Cooperating Agents: a Unified Theory of Communication and Social Structure// Distributed
Artificial Intelligence. Vol.II/ Ed. by L.Gasser and M.Huhns. – London: Pitman, 1989.
133. Werner E. A Unified View of Information, Intention and Ability// Decentralized AI 2/ Ed. by Y.Demazeau,
J.-P. Muller. – Amsterdam: Elsevier North-Holland, 1991. – P.109-125.
134. Werner E., Demazeau Y.(Eds.) Decentralized AI III. – Amsterdam: Elsevier North-Holland, 1992.
135. Winograd T., Flores F. Understanding Computers and Cognition: a New Foundation for Design. – Norwood:
Ablex, 1986.
136. Wooldridge M., Jennings N. Towards a Theory of Cooperative Problem Solving// (MAAMAW'94, Odense,
Danemark)/ Ed. by Y.Demazeau, J.-P.Muller and J.Perram, 1994.
137. Wooldridge M., Jennings N. Agent Theories, Architectures and Languages: a Survey// Intelligent Agents:
ECAI-94 Workshop on Agent Theories, Architectures and Languages (Amsterdam, The Netherlands, August
8-9, 1994)/ Ed. by M.Wooldridge, N.Jennings. – Berlin: Springer Verlag, 1995. – P.1-22.
138. Wooldridge M., Jennings N. Intelligent Agents: Theory and Practice// The Knowledge Engineering Review. –
1995. – Vol.10, №2. – P.115-152.
139. Yonezawa A. (Ed.) ABCL: an Object-Oriented Concurrent System. – Cambridge MA: MIT Press, 1990.
140. Zlotkin G., Rosenshein J.S. A Domain Theory for Task Oriented Negotiation// Proc. of the International Joint
Conference on AI (Chambery, France, 1993).
141. Zlotkin G., Rosenshein J.S. Compromise in Negotiations: Exploiting Worth Functions over States// Artificial
Intelligence. – 1996. – Vol. 84, № 1-2. – P.151-176.
1*. The FAQ Agent (http://www.ee.mcgill.ca:80/~belmarc/agent_faq.html)
2*. The Foner Agent (http://foner.www.media.mit.edu/people/foner/Julia/)
3*. The IBM Agent (http://activist.gpl.ibm.com/White Paper/ ptc2.htm)
4.* The MoBot Agent (http://www.crystaliz.com/logicware/mubot.html)
5.* The SodaBot Agent (http://www.ai.mit.edu/people/sodabot/slideshow/total/P001.html)
Дополнительный список изданных сборников и монографий по агентам и МАС
44
Jennings N.R. Cooperation in Industrial Multi-Agent Systems. – Singapore: World Scientific, 1994.
Cheong F.C. Internet Agents – Spiders, Wanderers, Brokers and Bots. – London: New Riders, 1995.
Fagin R., Halpern J., Moses Y., Vardi M. Reasoning about Knowledge. – Cambridge: MIT Press, 1995.
Singh M.P. Multiagent Systems – A Theoretical Framework for Intentions, Know-How and Communications.
Lectures Notes in Artificial Intelligence. Vol.799. – Berlin: Springer Verlag, 1995
Ishida T. Parallel, Distributed and Multiagent Production Systems. Lectures Notes in Artificial Intelligence.
Vol.878. – Berlin: Springer Verlag, 1996.
Adaptation and Learning in Multi-Agent Systems. Lectures Notes in Сomputer Science. Vol.1042/ Ed. by G.Weiss
and S.Sen.– Berlin: Springer Verlag, 1996.
Artificial Evolution. Lectures Notes in Сomputer Science. Vol.1063/ Ed. by J.-M.Alliot et al. – Berlin: Springer
Verlag, 1996.
From Animals to Animats 4. Proceedings of the Fourth International Conference on Simulation of Adaptive
Behavior/ Ed. by P.Maes et al. – Cambridge: MIT Press, 1996.
O'Hare G.M., Jennings N. Foundations of Distributed Artificial Intelligence.– New York: J.Wiley and Sons, 1996.
Mueller J.P. The Design of Intelligent Agents: a Layered Approach. Lectures Notes in Artificial Intelligence.
Vol.1177. – Berlin: Springer Verlag, 1997.
Software Agents and Soft Computing: Concepts and Applications. Lectures Notes in Artificial Intelligence.
Vol.1198/ Ed. by H.S.Nwana and N.Azarmi. – Berlin: Springer Verlag, 1997.
Веблиография: адреса источников информации по агентам, МАС и близким вопросам на WWW-серверах
Intelligent Software Agents (Cambridge, UK) http://www.cl.cam.ac.uk/users/rwab1/agents.html
UMBC Intelligent Software Agents (T.Finin) http://www.cs.umbc.edu/agents/
Collected Agent Information (Birmingham, UK) http://www.cs.bham.ac.uk/~amw/agents/index.html
The @gency http://www.info.unicaen.fr/~serge/sma.html
Aberdeen Agents Page (Software Agents) http://www.csd.abdn.ac.uk/~pedwards/agents.html
Intelligent Agents (collected information) http://elf.kaist.ac.kr/~bhkim/agents/index.html
The Software Agents Mailing List http://www.smli.com/research/tcl/lists/agents-list.html
Learning in Multi-Agent Systems Webliography http://dis.cs.umass.edu/research/agents-learn.html
NetWatch Top Ten - Intelligent Agents / Information Agents http://www.pulver.com/netwatch/topten/tt9.htm
Intelligent Agents http://www.primenet.com/~terry/New_Home_Page/ai_info/intelligent_agents.html
The Agent Society http://www.agent.org/
Autonomous Agents'97: Related Sites
http://www.isi.edu/isd/AA97/related-sites.html
The Mining Company Software Agents Guide http://softwareagents.miningco.com/
UMass Distributed Artificial Intelligence Laboratory http://dis.cs.umass.edu/
Lockheed AI Center Welcome Page http://hitchhiker.space.lockheed.com/aic/README.html
DAI Research Unit (Queen Mary & Westfield College, London, UK) http://www.elec.qmw.ac.uk/dai/
Software Agents Group, MIT Media Lab http://agents.www.media.mit.edu/groups/agents/
UNH Cooperative Distributed Problem-Solving Research Group http://cdps.cs.unh.edu/
WPI Single Function Agent Research
http://www.cs.wpi.edu/Research/aidg/SiFA/sifa.html
Stanford Next-Link Project http://cdr.stanford.edu/html/NextLink/NextLink.html
Multi-agent systems (Brandeis) http://cs.brandeis.edu/dept/faculty/mataric/
DAI at Geneva University Hospital http://www.expasy.ch/sgaico/html/olb/Sources/Access/Pointers.html
MIT Media Lab Autonomous Agents Group http://agents.www.media.mit.edu/groups/agents/
45
Collaborative Interface Agents http://agents.www.media.mit.edu/groups/agents/papers/aaai-ymp/aaai.html
Architectures for Intelligent Agents (Birmingham, UK) http://www.cs.bham.ac.uk/~axs/cogaff.html
MAGMA: Modelling Autonomous aGents in a Multi-Agent world (IMAG, Grenoble) http://cosmos.imag.fr/MAGMA/homefr.html
DAI-hards at University of Tulsa http://euler.mcs.utulsa.edu/~sandip/sandip.html
DAI at Hebrew University Jerusalem http://www.cs.huji.ac.il/labs/dai/
Index of MAAMAW http://www.cs.umbc.edu/agents/maamaw/
The Internet Softbot http://www.cs.washington.edu/research/projects/softbots/www/
AgentX project (Cornell DRI) http://www.tc.cornell.edu/er/sci93/dis14agent/dis14agent.html
FIPA: The Foundation for Intelligent Physical Agents
http://drogo.cselt.stet.it/ufv/leonardo/fipa.htm
CSCW Directory {extensive} http://www.demon.co.uk/jrac/cscwdir.html
IBM Intelligent Agents Page http://www.networking.ibm.com/iag/iaghome.html
The BotSpot http://www.botspot.com/newbots/
Knowledge Sharing Technology: A Quick Summary
Knowledge Sharing Effort (Logic Group)
http://www-ksl.stanford.edu/kst/kst-overview.html
http://logic.stanford.edu/knowledge.html
ARPA Knowledge Sharing Effort public library http://www-ksl.stanford.edu/knowledge-sharing/README.html
Ontology: A Resource Page
http://www.csi.uottawa.ca:80/dept/Ontology/
Ontology resources & conferences
About the KACTUS toolkit
Negotiation Bibliography
http://mnemosyne.itc.it:1024/ontology.html
http://www.swi.psy.uva.nl/projects/Kactus/toolkit/about.html
http://www.business.carleton.ca/interneg/reference/bibliography.html
WWW Virtual Library: Conferences – Agents
http://www.iao.fhg.de/Library/conferences/index/Agents.html
The DAI List http://www.cs.cmu.edu/~softagents/DAIlist/
Agent's World
http://goma.univ-paris13.fr/AgentsWorld/
Agents http://nittany.ca.sandia.gov:8001/index.html http://nittany.ca.sandia.gov:8001/index.html
Agents '98
http://www.cis.udel.edu/~agents98/
Artificial Life http://www.cs.wisc.edu/~smucker/EC.html http://alife.santafe.edu/alife/alife-def.html
PAAM'97 (Practical Applications of Intelligent Agents and Multi-Agents) http://www.demon.co.uk/ar/PAAM97/index.html
First Australian Workshop on DAI
http://walrus.adfa.oz.au/ai95/w03.html
International Conference on Multiagent Systems (ICMAS)
http://icmas.cs.umass.edu/ICMAS/ (1995)
http://www.keihanna-plaza.co.jp/ICMAS96/index.html (1996)
Workshop on Decentralized Intelligent and Multi-Agent Systems (DIMAS'95)
CIKM-94 Intelligent Information Agents Workshop
http://www.agh.edu.pl/~dimas95k/
http://www.cs.umbc.edu/~cikm/1994/iia/
IJCAI95 Agent Theories, Architectures & Languages Workshop
http://www.doc.mmu.ac.uk/STAFF/mike/atal95.html
JCIA95 Workshop on Adaptation & Learning in Multiagent Systems http://euler.mcs.utulsa.edu/~sandip/wshop/schedule.html
AAAI-97 Workshop on Multiagent Learning (July 1997)
http://euler.mcs.utulsa.edu/~sandip/wshop/97/
46
Adaptation, Co-evolution and Learning in Multiagent Systems (AAAI-96 Spring Symp.)
http://euler.mcs.utulsa.edu/~sandip/ss.html
Agent Software Seminar (April 1995, London, UK)
http://www.demon.co.uk/unicom/agent.html
Second International Conference on the Design of Cooperative Systems (COOP'96)
http://www.cs.wpi.edu/Research/aidg/CFPapers/COOP96.html
Cooperative Information Agents CIA-96 Workshop http://www.informatik.uni-kiel.de/~mkl/cia97.html
MAAMAW '96: 7th European Workshop on Modelling Autonomous Agents in a Multi-Agent World
http://arti.vub.ac.be/www/maamaw/welcome.html
ECAI-96 Workshops http://www.dfki.uni-sb.de/ecai96/accepted-workshops.html

Learning in Distributed Artificial Intelligence Systems

Modelling Conflicts in AI

Agent Theories, Architectures and Languages

Argumentation in Agent Communication

Intelligent Agents for Telecoms Applications
AAAI-97 Workshop on Multiagent Learning http://www.aaai.org/Workshops/
Intelligent Agents Book (1995) http://www.doc.mmu.ac.uk/STAFF/mike/atal94/atal94.html
Adaption and Learning in Multi-Agent Systems (1996) http://wwwbrauer.informatik.tu-muenchen.de/~weissg/LNAI-1042/
Distributed Artificial Intelligence Meets Machine Learning (1997) http://www7.informatik.tu-muenchen.de/~weissg/LNAI1221
Journal, Autonomous Agents and MultiAgent Systems http://www.wkap.nl/journalhome.htm/1387-2532