Реферат: О. А. Щербина University of Vienna,\\

ЛОКАЛЬНЫЕ ЭЛИМИНАЦИОННЫЕ АЛГОРИТМЫ ДЛЯ

РЕШЕНИЯ НЕКОТОРЫХ ЗАДАЧ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

О.А. Щербина

University of Vienna,\\

Vienna 1090, Austria

e-mail: oleg.shcherbina@univie.ac.at

Введение

Использование подходов и алгоритмов искусственного интеллекта (ИИ) позволяет решать многие прикладные задачи, такие, как задачи теории расписаний [9], задачи проектирования экспертных систем и систем поддержки принятия решений [3], доказательство теорем, задачи тестирования электронных схем, обработка изображений.

Одной из важных задач ИИ является задача удовлетворения ограничений (constraint satisfaction problem) [11]. К сожалению, большинство интересных задач ИИ являются NP-трудными и решение их в худшем случае может требовать перебора экспоненциального числа решений. Многие практические задачи содержат огромное число переменных и/или ограничений, что создает сложности при попытке решения этих задач с помощью современных решателей.

Перспективными декомпозиционными подходами, использующими структуру разреженных графов, описывающих задачи ИИ, являются графовые декомпозиционные методы [5], интерес к которым возрос в последнее время, что обусловлено результатами Arnborg et al. [8], доказавших, что ряд NP-трудных задач, поставленных в монадической логике второго порядка, могут быть решены за полиномиальное время с помощью методов динамического программирования на графах, описывающих структуру задачи, с ограниченной древовидной шириной.

К графовым декомпозиционным подходам относится класс локальных элиминационных алгоритмов (ЛЭА) вычисления информации [6], включающий локальные алгоритмы декомпозиции [1], [4], алгоритмы несериального динамического программирования (НСДП) ([10], [15]), алгоритмы сегментной элиминации [11], методы древовидной декомпозиции [5].

В [6] рассмотрено применение ЛЭА для решения задач дискретной оптимизации (ДО). Успехи графовых декомпозиционных схем, позволяющих справиться с решением NP-трудных задач с помощью алгоритмов динамического программирования [8], вызвали интерес к применению этих методов и в областях, отличных от оптимизации. ЛЭА может быть использовано и для решения неоптимизационных задач, которые можно разбить на подзадачи и использовать полученные решения меньших подзадач при решении больших. Связь НСДП с локальными алгоритмами ([1], [4], [6]) обусловлена тем, что, как и локальные алгоритмы, НСДП решает задачи, преобразуя локальную информации в глобальную. Одной из общих для этих методов графовых интерпретаций является элиминационная игра [14].

Для решения ряда разреженных дискретных задач искусственного интеллекта вычисление и дальнейшее использование локальной информации (т.е. информации об элементах окрестности) при решении этих задач возможно с помощью локальных элиминационных алгоритмов вычисления информации, позволяющих осуществлять вычисление глобальной информации с помощью локальных вычислений.

Ниже рассмотрен класс локальных элиминационных алгоритмов вычисления информации и их применение при решении задач удовлетворения ограничений.

^ Задачи удовлетворения ограничений

Основные понятия

Задачи удовлетворения ограничений (УО), известные в англоязычной литературе как constraint satisfaction problems (CSP) [11], широко используются при решении ряда практически важных задач ИИ, таких как составление расписаний, проектирование электронных схем, поддержка принятия решений. В данном докладе рассматриваются задачи УО с дискретными переменными.

При задании ограничений используются отношения.

Определение. Для данных множества переменных и соответствующих их областей значений отношением R на множестве переменных называется любое подмножество декартова произведения их областей значений. Множество переменных, на котором определено отношение R, называется диапазоном отношения и обозначается .

Отношения могут задаваться с помощью таблиц, описывающих допустимые сочетания значений переменных.

Определение. Задача УО (ЗУО) определяется множеством дискретных переменных , для каждой из которых задана область определения или домен , и множеством ограничений. Ограничением называется пара (R,S), где R   отношение, определенное на диапазоне S. Решением ЗУО называется присвоение значений всем переменным, которое удовлетворяет всем ограничениям. Целью решения ЗУО может быть нахождение одного или всех решений.

Над отношениями определены следующие действия: пересечение - отношение, содержащее все наборы значений переменных, которые имеются одновременно в обоих отношениях и ; объединение   отношение, содержащее все наборы значений переменных, которые имеются либо в , либо в , или в обоих отношениях; разность называется отношение, содержащее наборы значений переменных, содержащиеся в , но не содержащиеся в ; проекция отношения на множество переменных является отношением, содержащим наборы значений только переменных, содержащихся в ;


,
Соединение отношений с диапазоном и с диапазоном - отношение состоящее из их общих переменных в и . Диапазон получающегося отношения   . Соединение двух отношений с одинаковыми диапазонами эквивалентно пересечению этих отношений.

^ Примеры задач удовлетворения ограничений

В числе важнейших примеров задач УО в обзоре [12] указаны задача о раскраске графа, задача составления расписаний и задача SAT.

^ Задача составления расписания. Дано множество учебных курсов в университете. Известны интервалы времени , в течение которых читаются соответствующие курсы . Необходимо приписать учебные курсы аудиториям так, чтобы никакие два курса не пересекались по времени для одной и той же аудитории. Эта задача может быть сведена к поиску правильной раскраски графа , где Ø. Здесь каждой аудитории соответствует свой “цвет”.

^ Задача SAT. Задача SAT (satisfiability) (задача проверки выполнимости формулы логики высказываний) имеет важное прикладное значение, причем приложения находятся в области тестирования электронных схем, проектирования компьютеров, анализа изображений [12]. Задача SAT состоит в определении, истинна ли данная формула логики высказываний при каком-нибудь значении литералов. Под решением задачи SAT понимается интерпретация, т.е. такое присваивание истинностных значений (1 или 0) литералам в формуле, при которых эта формула станет истинной.


^ Локальные элиминационные алгоритмы вычисления информации

При изучении сложных объектов не всегда возможно получить (или вычислить) полную информацию об объекте в целом, поэтому представляет интерес получение информации об объекте, рассматривая его по частям, т.е. локально. В [1] описаны предложенные Ю.И. Журавлевым локальные алгоритмы вычисления информации.

Локальный алгоритм (ЛА) изучает элементы в порядке, задаваемом алгоритмом упорядочения , используя при этом локальную информацию об элементах из окрестности [1, 2] данного элемента. Алгоритм, расставляющий отметки, производит вычисление функции , значение которой на каждом шаге алгоритма будет определять вид отметки, выставляемой на этом шаге. Функция , порождающая алгоритм,   это функция от двух аргументов, первый из которых пробегает множество элементов, а второй – множество окрестностей. ЛА декомпозиции [4] задач ДО имеют свою специфику, состоящую в том, что они не вычисляют предикаты, а, используя принцип оптимальности Беллмана, вычисляют оптимальные частичные решения подзадач, соответствующих блокам задачи ДО.

Важной особенностью локальных алгоритмов является вычисление и использование именно локальной информации (т.е. информации об элементах окрестности элемента) при решении задач, поэтому локальные элиминационные алгоритмы (ЛЭА) вычисления информации [6] позволяют осуществлять вычисление глобальной информации с помощью локальных вычислений.

Структура ЗУО задается ограничениями, и может быть задана как системой окрестностей переменных задачи (графом взаимосвязей переменных) и порядком просмотра этих переменных с помощью ЛЭА [6], так и различными производными структурами – блочными [6, 10], блочно-древовидными [5], задаваемыми структурными конденсированными графами. В конденсированном графе вершинами являются подмножества переменных задачи.

ЛЭА вычисляет информацию о локальных элементах структуры ЗУО, задаваемой структурным графом, записывая локальную информацию об этих элементах в виде новых зависимостей, добавляемых к задаче, затем элиминируя просмотренные элементы и использованные ограничения. Алгоритмическая схема ЛЭА представляет собой бесконтурный орграф (directed acyclic graph (DAG)), вершинами которого являются локальные подзадачи, соответствующие окрестностям элементов, а дуги – выражают информационную зависимость подзадач друг от друга.

Процедура ЛЭА состоит из двух частей:

прямая часть – выделение локальных элементов, их окрестностей в текущем структурном графе и соответствующих им подзадач, вычисление и запоминание локальной информации в виде новых ограничений, добавляемых к задаче, элиминация просмотренных локальных элементов и использованных ограничений, получение значения критерия (совместна ли ЗУО);

обратная часть – нахождение глобального решения исходной ЗУО по имеющимся таблицам с локальными решениями, обеспечивающего достижение критерия (совместности ЗУО).

Прямая часть ЛЭА анализирует окрестность текущего элемента в структурном графе задачи, применяет оператор элиминации, состоящий в решении подзадачи ЗУО, соответствующей окрестности этого элемента в текущем структурном графе, к этому элементу, вычисляя локальную информацию об элементе в виде нового ограничения , содержащего локальные решения в виде допустимых наборов переменных вида .

Потом строится проекция ; ограничение добавляется к системе ограничений. Далее элемент элиминируется вместе с использованными ограничениями, а из элементов его окрестности создается клика в структурном графе (эта клика соответствует ограничению ). Создание клик изменяет структурный граф и окрестности элементов.

Обратная часть ЛЭА восстанавливает решение всей задачи ЗУО на основе сохраненных таблиц с локальными решениями .

Для решения ЗУО, описываемой переменными , системой ограничений , где   отношение, и при заданном упорядочении переменных ЛЭА выглядит следующим образом:

1. Выбрать очередной элемент (переменную или группу переменных) согласно упорядочению . Сформулировать подзадачу задачи УО, соответствующую окрестности элемента в текущем структурном графе, сформировав новое ограничение с диапазоном , решить ее, запоминая в таблице все решения этого ограничения.

2. Спроектировать полученное ограничение на множество элементов подзадачи, соответствующих окрестности элемента . В результате получится новое ограничение, добавляемое к ограничениям ЗУО. Если ограничение с тем же набором переменных уже имеется, найти их пересечение. Если пересечение пусто, то ЗУО несовместна и допустимых решений не имеет.

3. Элиминировать элемент x вместе с соответствующими ограничениями.

4. Продолжать до тех пор, пока не останется нерешенных ограничений.

Рассмотрим подробнее детали реализации ЛЭА при решении задач УО в случае, когда структурный граф является графом взаимосвязей переменных [10], который в литературе называется также графом ограничений [11]. В графе взаимосвязей ЗУО вершины соответствуют переменным ЗУО, причем две вершины соединяются ребром, если соответствующие переменные имеются в одном и том же ограничении (т.е., в одном и том же диапазоне какого-то отношения). Рассмотрим переменную и ее окрестности в текущем графе взаимосвязей : Пусть   отношения с диапазонами , индексы которых входят в , причем их диапазоны содержат . Решение подзадачи УО, заданной ограничениями и соответствующими переменными, причем , и последующая элиминация может быть описана следующим образом. Определяем диапазон нового ограничения как и новое отношение Затем находится пересечение с существовавшим ранее отношением с тем же диапазоном Граф взаимосвязей при элиминации переменной изменяется согласно алгоритму элиминационной игры [14]:


.
;

.

^ Задача SAT и ее графовое представление

Рассмотрим пример решения задачи SAT, заданной в конъюнктивной нормальной форме, состоящей из 7 элементарных дизъюнкций , называемых дизъюнктами:

.

Структура формулы может быть задана графом взаимосвязей – неориентированным графом, вершины которого соответствуют переменным-литералам, причем ребро соединяет две вершины, если соответствующие переменные входят в один и тот же дизъюнкт формулы (см. рис. 1).



Рис.1. Граф взаимосвязей для задачи SAT.

Оператор элиминации в данном случае – резолюция, которая по двум дизъюнктам и выводит дизъюнкт , называемый резольвентой, в которой литерал элиминирован. Оператор элиминации (в данном случае   резолюция) порождает новые дизъюнкты, которым соответствуют новые ребра в графе взаимосвязей. Определим порядок рассмотрения окрестностей [2] на основе применения эвристики „Minimal Degree“ : . Применение ЛЭА позволяет определить решение данной задачи SAT:













0

1

0

1

0

0

0

1

1

1

0

0

0

1

1

0

0

0

1

0

0

0

1

1

1

0

1

0

1

1

Локальные элиминационные алгоритмы могут быть использованы также для решения и других дискретных задач искусственного интеллекта, таких, как задач расчета вероятностей в экспертной системе, использующей\правило Байеса [13].

Локальный элиминационный алгоритм вычисления информации – перспективный подход, делающий возможным решение прикладных разреженных задач удовлетворения ограничений, в том числе задач SAT и задач о раскраске графа. Перспективными направлениями дальнейших исследований являются разработка эффективных схем локального элиминационног алгоритма при решении конкретных задач удовлетворения ограничений, обладающих специальной структурой с использованием различных видов структурных графов.

ЛИТЕРАТУРА.

Журавлев Ю.И. Избранные научные труды. — М.: Магистр, 1998. – 420 с.

Журавлев Ю.И., Лосев Г.Ф. Окрестности в задачах дискретной математики // Кибернетика и системный анализ. – 1995. – №2. – С. 32-41.

Сараев А.Д., Щербина О.А. Системный анализ и современные информационные технологии // Труды Крымской академии наук. – Симферополь: СОНАТ. – 2006. – С. 47-59.

Щербина О.А. О локальных алгоритмах решения квазиблочных задач дискретного программирования // Проблемы кибернетики.   М.: Наука.   1983. – Вып. 40. – С. 171-200.

Щербина О.А. Древовидная декомпозиция и задачи дискретной оптимизации (обзор) // Кибернетика и системный анализ. – 2007. – №4. – С.102-118.

Щербина О.А. Локальные элиминационные алгоритмы для задач удовлетворения ограничений // Таврический вестник информатики и математики. – 2007. – №1. – С. 24-39.

Щербина О.А. Локальные элиминационные алгоритмы решения разреженных дискретных задач // Журнал вычислительной математики и математической физики. – 2008. – том 48, N 1. – С.161–177.

Arnborg S., Corneil D.G., Proskurowski A. Complexity of finding embed­dings in a k-tree // SIAM J. Alg. Disc. Meth. – 1987. – 8. – P. 277-284.

Barnier N., Brisset P. Graph coloring for air traffic flow management // Annals of Operations Research. – 2004. – V.130. – P. 163-178.

Bertele U., Brioschi F. Nonserial Dynamic Programming. – New York: Academic Press. – 1972. – 235 p.

Dechter R. Constraint Processing. – Morgan Kaufmann. – 2003. – 481 p.

Gu J., Purdom P.W., Franco J., Wah B.W. Algorithms for the satisfiability (SAT) problem: A survey // In: Satisfiability Problem Theory and Applications. – 1997. – P. 19-153.

Lauritzen S.J., Spiegelhalter D.J. Local computations with probabilitieson graphical structures and their application to expert systems // The Journal of the Royal Statistical Society. Series B. – 1988. – 50. – P. 157-224.

Parter S. The use of linear graphs in Gauss elimination // SIAM Review.   1961.   3.   P. 119-130.

Shcherbina O. Nonserial dynamic programming and tree decomposition in discrete optimization / In: Proceedings of Int. Conference on Operations Research "Operations Research 2006" (Karlsruhe, 6-8 September, 2006). – Berlin: Springer Verlag, 2007, pp. 155-160.