Реферат: Каган Евгений Владимирович

Каган Евгений Владимирович, к.т.н.

Тель-Авивский Университет, Израиль


НЕЧЕТКОСТЬ КВАНТОВОГО СОЗНАНИЯ: ОПЫТ РЕАЛИЗАЦИИ ANIMAT


1. Введение

Предлагаемое размышление возникло как результат осмысления некоторых противоречий, возникших в процессе разработки самообучающихся систем управления автономными мобильными роботами. Данные разработки проводятся в направлении, определяемом как «Animat» (animal-automat) [1] и связанном с математическим и техническим решением задачи «конструирования рационального робота», как ее формулирует Серль [2], стр. 142.

Существует ряд методов построения управляющих устройств для автономных мобильных роботов. В случае детерминированного управления предполагается, что для всякого состояния системы «робот – внешняя среда» имеется и заранее предусматривается некоторая реакция робота. В более общем случае, для управления используются вероятностные методы, для которых предусматриваются методы обучения и самообучения. Смысл такого самообучения состоит в том, что в процессе функционирования изменяются вероятности выполнения роботом тех или иных действий так, что средняя эффективность достижения определенной цели или выполнения определенной задачи повышается.

Однако, при реализации вероятностного управления возникает вопрос об источнике используемых вероятностей и о законах обучения и самообучения. Действительно, задание вероятности некоторого действия предполагает, что заранее известен более-менее полный набор состояний системы «робот – внешняя среда», для каждого из которых по некоторому заданному закону выписывается вероятность совершения роботом данного действия при данном внешнем воздействии. В этой ситуации, немедленно возникает проблема знания набора состояний, и проблема источника закона распределения вероятностей.

В нашей работе [3]-[5], мы предприняли попытку использовать квантово-механические модели состояний и переходов между ними для производства вероятностей, согласно которым управляющее устройство робота принимает решения о реакции на состояние внешней среды. Реализация данных моделей, разумеется, в виде классических устройств, показала их практическую эффективность.

Вместе с тем, несмотря на формальную правильность предложенных моделей и методов, их использование вызывают ряд вопросов, которые не решаются формальными средствами и принадлежат, в большей мере, к разряду философских. Ниже мы рассмотрим ряд возникших вопросов и попытаемся осмыслить полученные противоречия.


^ 2. Постановка задачи

По-видимому, первая модель квантового робота предложена в работе [6]. В этом модели речь шла о «мобильных системах, которые имеют на борту квантовые компьютеры и необходимые переферийные устройства... Квантовые роботы двигаются и (локально) взаимодействуют с внешними для них квантовыми системами» [6]. Параллельно с исследованиями по квантовым роботам, действующим в квантовом окружении, рассматривались квантово-управляемые мобильные роботы [7]. В этих системах «управления являются квантовыми, однако сенсоры и манипуляторы являются классическими» [7]. Возможность построения таких роботов достигается тем, что средства измерения, являющиеся внешними для квантовых систем, в данных роботах рассматриваются как внутренняя часть управляющего устройства.

С формальной точки зрения такая возможность не вызывает сомнений, однако с точки зрения методологии квантово-механических систем внесение «наблюдателя» непосредственно в систему управления приводит к определенного рода самореференции управляющего устройства. Разобраться в источнике этой самореференции или, по крайней мере, определеть философский контекст для ее рассмотрения и составляет задачу данного размышления.

Логическим источником упомятутой самореференции, по-видимому, является следующее. В первоначальном варианте, предложенные нами модели управления роботами [3]-[5], выводились из вероятностных схем управления [8]. Однако их прямая реализация оказалась эквивалентной модели вычислений, задаваемой машиной Колмогорова-Успенского [9], которая, в дополнение к возможностям машины Тьюринга, предполагает изменение топологии ленты в зависимости от процесса вычислений. Из данной модели вычислений следовало, что квантово-механические модели управления допускают самоприменимость алгоритмов без возникновения парадокса [10], стр. 270-273. Тем самым, самореференция управляющего устройства квантово-управляемых роботов, по всей вероятности, должна сводиться к некоторой логической структуре. Мы здесь будем говорить о квантово-механической и о нечеткой логике.

В общем виде, связь между квантово-механическими, вероятностными и нечеткими моделями основывается на следующем предствлении о неопределенности. Несколько расширяя замечание, приведенное в [11], можно полагать, что

– неопределенность, рассматриваемая в квантовой механике, является неопределенностью реальности или, по меньшей мере, лучшей из теорий реальности;

– вероятности выражают неопределенность, связанную с нашим неполным знанием о реальности (т.е., вероятность – это неопределенность, возникающая из-за наличия «скрытых параметров», в отличие от амплитуд вероятности, выражающих объективную неопределенность квантово-механических систем);

– показатели нечеткости, рассматриваемые в теории нечетких множеств, выражают неопределенность наших рассуждений (как о реальности, так и о самих рассуждениях).

Нас будет интересовать вопрос о возможности перевода одних неопределенностей в другие и возможности говорить об одних системах на языке других. Связь между вероятностью и неопределенностью, возникающей в квантовой механике, известна, так же как известна связь между вероятностями и показателями нечеткости. Однако, связь между квантово-механическими и нечеткими системами пока, к сожалению не выяснена. Известно лишь одно формальное ограничение, о котором будет сказано ниже.

Таким образом, общей проблемой при разработке Animat, основанном на квантово-механических принципах, оказывается самореференция и неопределенность в структурах управления. Однако, эти свойства являются в точности теми свойствами, которыми наделяют сознание (см. напр. [12], стр. 16-17). А оно, в свою очередь, и является, согласно Серлю, той «первой характеристикой, которую требуется вложить в ваш робот» [2], стр. 143.


^ 3. Сознание и проблема построения разумных машин

Вопрос о сознании и машинах и о возможности «механического» сознания в явной форме был поставлен в логике и философии в 1960 году Патнэмом [13]. Согласно Патнэму, этот вопрос сводится к вопросу о возможности определения машиной своего состояния. «Если Т – машина Тьюринга, – пишет Патнэм, – то вопрос “Как машина Т устанавливает, что она находится в состоянии А?” […] в еще большей степени “логически странен” [чем вопрос “Откуда я знаю, что мне больно?” – Е.К.]; но если машина Т способна обследовать свою соседку, машину Т’ […], то вопрос “Как машина Т устанавливает, что Т’ находится в состоянии А?” вовсе не является странным» [13], стр. 23. Иными словами, осмысленное логическое рассмотрение самореференции, установления причин знания собственного состояния, по Патнэму, невозможно иначе, чем при отождествлении сознания и мозга и придании сознанию возможности «обследовать» мозг, в котором это сознание заключено.

Однако, как указывает Цопф, «чтобы оценить достоверность знаний, нужно уже иметь какие-то знания», [14], стр. 407. Более того, даже само знание, согласно Мамардашвили, возможно только при наличии знания. Если, используя пример Патнэма, [13], стр. 25, полагать, что машина Т «находится в состоянии А если и только если взведен триггер 36», то оказывается, что сознание машины «уже допущено – и допущено акаузально – в самой формулировке причинной связи» [12], стр. 25. В целом же, «знание о нейронах [или, в примере Патнэма о машине, – знание о триггере 36, – Е.К.] не может стать элементом никакого сознательного опыта, который (после получения этого знания) порождался бы этими нейронами» [12], стр. 38.

Тем самым, для того, чтобы говорить о сознании машины, которое предполагает, в определенном смысле, разумность ее поведения, требуется иметь внешнего «наблюдателя», который бы определил разумность машины. Иными словами, получается то же противоречие, о котором говорил Пантэм, но уже при участии двух машин.

Дополнительно, здесь возникает еще одна проблема, связанная с определением «разумности». Действительно, согласно Цопфу, «сказать, что система “разумна”, – значит сказать лишь то, что мы не можем получить достаточно доказательств для определения ее поведения в некоторых ситуациях по “решению задач”. Это значит сказать, что система разумна потому, что мы должны допустить ее разумность для того, чтобы сделать ее поведение доступным разуму. Восхитительный (но неизбежный) порочный круг!» [14], стр. 403.

А значит, мы в принципе не можем построить разумную машину, поскольку «чтобы построить сложную машину, мы должны знать детерминированно, во всех деталях, что мы делаем; но чтобы назвать такую машину разумной, требуется, чтобы мы забыли или игнорировали наши знания как раз о том, как она делает то, что делает» [14], стр. 403.

Таким образом, при построении разумных здесь имеется уже как минимум три парадоксальные ситуации: мы не можем логически непротиворечиво определить, что такое машинное сознание, у нас нет средств для нетавтологичного опреления разумности, и мы не можем построить разумную (с интуитивной точки зрения) машину, не отказавшись от собственной разумности.


^ 4. Логика квантовой механики в приложении к построению машины

В приведенном выше рассуждении изначально предполагалось, что мы, говоря о сознании, разумности и о реализации разумных машин, пользуемся стандартными логическими средствами. Использование этих средств подразумевает, что «различны мир сущностей и мир явлений, на которых мы эти сущности наблюдаем» [12], стр. 22 (более подробно это выражено Серлем в виде шести предположений об основах классической модели рациональности [2], стр. 7-12).

Допустим, что мы можем отказаться от попыток определить сознание, предполагая, что если машина действует разумно, то она обладает сознанием. Предположим, также, что мы понимаем, что значит «разумное поведение» и можем каким-то образом установить, действует Animat разумно, или нет. Тогда для реализации квантово-управляемого робота требуется разрешить третью парадоксальную ситуацию, а именно невозможность построить разумную машину не отказываясь от собственной разумности.

Иными словами, нам требуется построить такую машину, что при наблюдении за ее устройством («снятии кожуха» – Цопф) наши знания о ее устройстве оказывались несоответствующими реальному положению дел. Последнее свойство, очевидно, может выполняться лишь в двух случаях:

– либо при построении машины согласно принципам нелинейных неравновесных систем, для которых сколь угодно малое, в результате наблюдения, изменение параметров может привести к непредсказуемым большим изменениям поведения;

– либо при использовании квантово-механических принципов управления машиной.

Следует отметить, что в недавних работах [15] и [16] сделаны попытки связать поведение классических нелинейных неравновесных систем и поведение квантово-механических систем. Однако, общая теория в этой области пока не построена.

В наших работах, мы следовали второму пути, а именно использовали методы квантовой механики для построения управляющего устройства мобильного робота. Как уже отмечалось выше, речь, разумеется, идет о построении классического устройства, однако такого, что его функционирование описывается с помощью логики квантовой механики. Приведем описание квантовой логики в том виде, как оно использовалось для построения робота [3]. Для целей разработки квантово-управляемого мобильного робота, нам достаточно говорить о конечном числе состояний и действий, поэтому мы не станем приводить полное определение квантовой логики, но дадим лишь ее интуитивное описание в сравнении с вероятностной схемой.

Формальная схема квантовых состояний, называемая квантовой логикой, была предложена Биркгофом и фон Нейманом [17] как вариант аксиоматического описания квантовой механики. Различие между классической и квантовой логикой, как показали Биркгоф и фон Нейман, состоит в том, что в квантовой логике не выполняется закон дистрибутивности.

Квантовая логика представляет собой решетку  событий ^ A, которая содержит наименьший элемент , наибольший элемент , отношение , унарную операцию , и бинарные операции  и . Предполагается, что для событий A   выполняется обычные свойства: а) для всякого события A   существует событие A   такое, что (A) = A; б) A  A =  и A  A = ; в) для любой пары событий A, B  , из выполнения отношения A  B следует выполнение отношения B  A и равенства B = A  (B  A); г) для всякой счетной последовательности A1, A2, … событий из , их объединение также находится в , т.е. (i Ai)  .

Заметим, что от событий A   не требуется быть подмножествами одного и того же множества. Это приводит к тому, что в аксиомах а) - г) закон дистрибутивности для событий A   в общем случае не выполняется, т.е. B  (A  A)  (B  A)  (B  A).

В вероятностной схеме, напротив, события A   являются подмножествами некоторого множества  элементарных исходов, т.е. в дополнение к аксиомам а) - г) требуется, чтобы A   и чтобы объединение всех событий A   было равно . В этой ситуации закон дистрибутивности выполняется. Разумеется, для обычной логики выполнен тот же принцип, что и для вероятностной схемы.

Отсутствие требования для событий A квантовой логики  быть подмножествами некоторого одного и того же множества элементарных исходов  определяет изначальную открытость системы квантовой логики. Тем самым, предполагается, что описание, предоставляемое этой логикой, может зависеть от внешних факторов, а именно – внешних событий, включенных в решетку , но не являющихся подмножествами . Это, собственно, и происходит, когда с машины, функционирующей согласно квантой логике, «снимают кожух», внося в описание дополнительные события, и наши знания о системе до наблюдения оказываются не соответветствующими тому, что получается в результате наблюдения.


^ 5. Квантовые состояния машинного сознания

Выше, описан способ снятия противоречия, связанного с построением разумной машиы. Однако, поскольку мы указали принцип, которому подчиняется функционирование системы, а именно логику квантовой механики, то одновременно, мы обошли и первое противоречие, т.е. невозможность непротиворечиво определить машинное сознание. Действительно, поскольку уже сказано, что управляющее устройство описываемого робота подчиняется логике квантовой механики, нам требуется показать, что для него выполнен приведенный выше принцип Патнэма отождествления сознания и мозга.

Разумеется, речь идет о моделях мыслительной активности, которые бы отвечали требуемым принципам. Устройство же мозга или определение физиологических процессов сознательной деятельности здесь ни в коем случае не рассматриваются. Отметим, что Пенроуз в [18], гл. 7, предпринял ошибочную попытку такого определения, хотя сама постановка вопроса, осуществленная им в [19], гл. 9, является, по-видимому, верной.

Для выяснения тождества сознания и мозга, точнее – модели сознания и модели мозга, рассмотрим, что такое состояние квантово-механической системы. Сказанное ниже, конечно, не является строгим изложением, и может рассматриваться лишь как интуитивное пояснение.

Согласно принципам квантовой механики, у нас нет способа узнать действительное состояние квантовой системы. Единственное, что определяет состояние – это наблюдаемая, с помощью которой устанавливается амплитуда вероятности состояния. Амплитуда вероятности означает следующее. Амплитуду, как характеристику состояния, мы можем знать точно и можем точно рассчитывать и предсказывать амплитуды других состояний. На основании амплитуд, путем тривиальных манипуляций, мы получаем вероятность состояния (о различии между амплитудой и вероятностью см. напр. лекции Фейнмана [20]).

Тем самым, мы не знаем в каком именно состоянии находится система, но на основании измерения узнаем амплитуду состояния, которую затем переводим в вероятность – меру нашего незнания о том, в каком состоянии находится система (ср. [12], стр. 33).

Однако, как отмечено выше, мы в принципе не можем знать сами состояния, иначе, чем с помощью знания амплитуд. Значит, для нас, как наблюдателей, амплитуды и являются состояниями системы, что и позволяет говорить об отождествлении модели сознания и модели мозга при построении системы, функционирующей согласно квантово-механическим принципам. Еще раз подчеркну, что речь идет исключительно о моделях и только о практической возможности отождествления этих моделей.


^ 6. Нечеткость квантового сознания машины

Итак, мы выяснили, что если разрабатывать управляющее устройство робота основываясь на принципах квантовой механики, то возможно создание системы, которая, хотя бы в принципе, отвечала бы формальным критериям, котором должно подчиняться устройство разумной машины. Однако, создание такой машины связано с техническими трудностями. Формально, требуется создать такое классическое устройство, которое могло бы функционировать как квантово-механическая система. Очевидно, что непосредственное использование квантово-механических систем в данном случае невозможно.

В связи с этим, в нашей работе было предложено основываться на моделях квантовой механики, предоставляемых нечеткой логикой с тем, чтобы реализовать управляющее устройство на основе имеющихся нечетких процессоров. Основанием для использования нечеткой логики послужила работа [21], в которой рассматривалась возможность использования нечеткой логики для представления квантово-механических моделей сознания. Одна из моделей мобильного робота, основанная на недавно предложенном способе перевода квантовых операторов в нечеткие [22], предложена в [23].

Возможность использования нечеткой логики для моделирования логики квантовой механики основана на том, что формально можно задать такие функции принадлежности, что для нечеткой модели одновременно с выполнением приведенных выше аксиом а) - г) будет выполнено неравенство B  (A  A)  (B  A)  (B  A), в то время как для всех событий A и B остается справедливым, что A, B  X, где X – некоторый носитель нечетких множеств A и B. Еще более убедительным оказывается следующее приведенное Финкельштейном [21] сравнение нечетких моделей с квантовыми. «Внимательный анализ, – пишет Финкельштейн, – показывает, что и аргумент и значение функции принадлежности [в моделях сознания – Е.К.] следует считать нечеткими. Но это означает, что рассматриваемый аргумент является не строго определенной величиной, а некоторым нечетким множеством величин со своей функцией принадлежности и со своим аргументом, который снова нечеток, и так далее. Поэтому, чтобы оборвать эту бесконечную цепочку, где-то надо остановиться и сказать: “А это наблюдатель считает четким”. Мы видим, что такая ситуация полностью соответствует квантовомеханическому требованию об отделении наблюдаемой и наблюдающей систем и о свободе передвижения границы между ними» [21], стр. 97.

Приведенная аналогия являлась оправданием использования нечеткой модели для описания функционирования квантово-управляемого мобильного робота. Однако, как показали дальнейшее рассмотрение и тесты, функционирование робота, описываемого нечеткой моделью, не соответствовало тому, что ожидалось от исходной квантово-механической модели. Анализ причин этого несоответствия показал, что существует принципиальное различие между этими моделями [11], которое не может быть снято без введения дополнительных размерностей пространства состояний. Для пояснения в чем тут дело, сравним действия логических операторов для обычной бинарной логики, логики квантовой механики и нечеткой логики.

В бинарной логике для переменных x, y  {0, 1} определены три операции: and(x, y), or(x, y) и not(x), которые полностью описывают действия бинарной логики на элементарных состояниях, выражаемых битами x и y (формально, разумеется, достаточно двух операций, но для наших рассуждений это не существенно). В квантовой логике элементарными состояниями являются квантовые биты – кубиты, задаваемые как пары  = (a, b) комплексных чисел a и b таких, что |a|2 + |b|2 = 1, где || означает модуль комплексного числа. Чистыми квантовыми состояниями, аналогичными битам x = 0 и x = 1, являются пары (1, 0) и (0, 1). Сама же квантово-механическая логика задается тремя операторами: оператором Адамара H(), оператором перевода фазы S() и оператором управляемого отрицания C(, ). Для кубитов определены, также, операторы Паули, которые, однако могут быть выражены через указанные операторы. Наконец, для нечеткой логики, действующей на действительных переменных  и , определены операции, аналогичные операциям and и or обычной логики, называемые t-нормой T(, ) и t-конормой S(, ), а также операция отрицания not() = 1 - .

Теперь рассмотрим разницу между нечеткими и квантовыми моделями. Допустим, что нами спроектировано устройство, действующее согласно квантово-механическми принципам, и для его техничекой реализации нам требуется построить нечеткую модель его функционирования. Это та задача, которую мы пытались решить в [23]. Для того, чтобы функционирование нечеткой модели соответствовало спроектированному кванто-управляемому роботу, требуется, чтобы действие базовых операторов в соответствующих логиках совпадало. Однако, это требование, как установлено в [11], не выполняется для оператора отрицания, и значит, ввиду замкнутости соответствующих логических систем, не выполняется и для остальных операторов.

Действительно, обозначим чистые квантовые состояния через |0> = (1, 0) и |1> = (0, 1). Тогда, аналогично бинарной логике, оператор отрицания not для этих состояний, выражаемый через приведенные выше операторы H, S и C, действует следующим образом: not(|0>) = |1> и not(|1>) = |0>. Дополнительно, для оператора отрицания в квантово-механической логике существует оператор snot называемый квадратный корень из not и для состояния  определяемый следующим образом: snot(snot()) = not().

Для того, чтобы нечеткая модель функционировала так же, как квантово-механическая, требуется, чтобы в нечеткой модели существовал оператор, аналогичный квадратному корню из not. Однако, как показано в [11] непрерывного оператора snot, такого, что для нечеткого состояния  выполнено snot(snot()) = 1 -  не существует. Иными словами, для нечеткого состояния , в общем случае, snot(snot())  not(). Тем не менее, в [11] установлено, что в нечеткой логике можно построить разрывный оператор snot’ с конечным числом точек разрыва такой, что snot’(snot’()) = not().

Таким образом, мы приходим к весьма неожиданной связи между указанными при постановке проблемы неопределенностью реальности, рассматриваемой в квантовой механике, и неопределенностью рассуждений, рассматриваемой в нечеткой логике. Согласно приведенному рассмотрению, в противоречии с ожиданиями, нечеткая логика не эквивалентна квантово-механической логике, хотя формально, путем введения дополнительный размерностей пространства состояний, такой переход, по-видимому, возможен. Однако, более неожиданным является тот факт, что несоответствие между классическими рассуждениями, с учетом неопределенности, и неопределенностью реальности возникает лишь в конечном числе точек.

Для нашей проблемы, это означет, что машинное сознание, моделируемое с помощью квантово-механических принципов, будет вести себя вполне предсказуемым образом, за исключением конечного числа случаев принятия решений, в которых исход решения оказывается непредсказуем. Тем самым, если несколько обобщить вывод, для того, чтобы некоторый автомат рассматривался наблюдателем как машина, обладающая сознанием, достаточно ввести в ее функционирование случайный выбор ситуаций, в которых будет осуществляться случайный не зависящий от ситуации выбор из конечного числа возможножных реакций на внешнее воздействие. Разумеется, данный выбор справедлив только для рассмотренного случая моделирования машинного сознания с помощью квантово-механических принципов, и тем не менее, для рассматриваемой задачи создания Animat он оказывается весьма интересен.


Заключение

В предложенном рассуждении рассмотрена проблема создания разумной машины в приложении к квантово-управляемому мобильному роботу, решаемая в рамках направления «Animat». В результате работы, был обоснован способ построения робота на основе принципов квантовой механики. Выяснено, что для такого робота выполнены следующие свойства:

– Знания о поведении робота до наблюдения, несоответствуют знаниям о поведении, получаемым в результате наблюдения. Это снимает противоречие Цопфа, требующее отказа от разумности создания машины для того, чтобы полагать, что машина является разумной.

– Состояния управляющего устройства робота, с точки зрения наблюдателя, могут быть отождествлены с амплитудами вероятности. С практической точки зрения, это позволяет соблюсти принцип Патнэма отождествления сознания и мозга, вернее - модели сознания и модели мозга, требуемый для принципиальной возможности построения разумных автоматов.

Дополнительно, была продемонстрирована связь между неопределенностью реальности, рассматриваемой в квантовой механике, и неопределенностью рассуждений, исследуемой в теории нечетких множеств. Выяснено, что нечеткая логика не эквивалентна логике квантовой механики, и что эта неэквивалентность может быть сведена к конечному числу ситуаций. Это означает, что для внешнего наблюдателя разумным будет считаться такой автомат, который периодически осуществляет случайный выбор из конечного числа ситуаций, в каждой из которых осуществляется случайный не зависящий от ситуации выбор из конечного числа возможных реакций на внешнее воздействие.

Полученные результаты оказываются полезными для дальнейшей работы в направлении «Animat», и для философского исследования возможностей машинного сознания и рассмотрения вопроса о моделировании сознания и построении разумных машин.

Литература
[1] J.-Y. Donnart, J.-A. Meyer. Learning Reactive and Planning Rules in a Motivationally Autonomous Animat. ^ IEEE Trans. Systems, Man, and Cybernetics, vol. 26, no. 3, 1996, pp. 381-395.

[2] J. R. Searle. Rationality in Action. The MIT Press: Cambridge, Massachusetts and London, England, 2001. – 304 p.

[3] E. Kagan, I. Ben-Gal. Navigation of Quantum-Controlled Mobile Robot on a Plane. Submitted to ICAART’10.

[4] E. Kagan, E. Salmona, I. Ben-Gal. Probabilistic Mobile Robot with Quantum Decision-Making. Proc. IEEE 25-th Conv. Electrical and Electronics Engineers. Eilat, Israel, 2008.

[5] E. Kagan, I. Ben-Gal. Navigation of Mobile Robots by Classical and Quantum Informational Decision-Making. 2-nd Israeli Conf. Robotics, Herzlia, Israel, 2008.

[6] P. Benioff. Quantum Robots and Environments. Phys. Rev. A-58, 1998, pp. 893-904.

[7] A. Raghuvanshi, Y. Fan, M. Woyke, M. Perkowski. Quantum Robots for Teenagers. Proc. Int. IEEE Conf. ISMV’07, Helsinki, Finland, 2007.

[8] E. Kagan, I. Ben-Gal. Application of Probabilistic Self-Stabilization Algorithms to the Robot’s Control. Proc. 15-th Conf. IE&M’08, Tel-Aviv, Israel, 2008.

[9] А. Н. Колмогоров, В. А. Успенский. К определению алгоритма. УМН, т. 13, вып. 4, сс. 3-28. Предварительный вариант определения алгоритма см. в статье: А. Н. Колмогоров. О понятии алгоритма. УМН, т. 8, вып. 4, 1953, сс. 175-176.

[10] А. А. Марков, Н. М. Нагорный. Теория алгорифмов. – М.: Фазис, 1996. – 448 + 48 с.

[11] V. Kreinovich, L. J. Kohout, E. Kim. Square Root of “Not”: A Major Difference between Fuzzy and Quantum Logics. Proc. Ann. Meeting NAFIPS’08, 2008, pp. 1-5.

[12] М. К. Мамардашвили. Классический и неклассический идеалы рациональности. – М.: Издательство «Логос», 2004. – 240 с.

[13] Х. Патнэм. Сознание и машины. В кн.: Х. Патнэм. Философия сознания. Пер. с англ. – М.: Дом интеллектуальой книги, 1999. С. 23 - 52.

[14] Г. Цопф (мл.). Отношение и контекст. В кн.: Принципы самоорганизации. Пер. с англ. – М.: Мир, 1966. С. 399 - 427.

[15] Yu. L. Klimontovich. Bridge from Classical to Quantum Theory of Open Systems. Ann. Foundation Louis de Broglie, vol. 26, no. special, 2001, pp. 197-239.

[16] W. H. Zurek. Decoherence and the Transition from Quantum to Classical. arXiv:quant-ph/0306072v1, 2003.

[17] G. Birkhoff, J. von Neumann. The Logic of Quantum Mechanics. Annals Math., vol. 37, no. 4, 1936, pp. 823 - 843.

[18] Р. Пенроуз. Тени разума: В поисках науки о сознании. Пер. с англ. – Москва-Ижевск: Институт компьютерных исследований, 2005. – 688 с.

[19] Р. Пенроуз. Новый ум короля: О компьютерах, мышлении и законах физики. Пер. с англ. – М.: Едиториал УРСС, 2005. – 400 с.

[20] Р. Фейнман, Р. Лейтон, М. Сэндс. Фейнмановские лекции по физике. Пер. с англ. Вып. 3 и вып. 8. – М.: Едиториал УРСС, 2004.

[21] Э. Б. Финкельштейн. Проблема бессознательного и фундаментальные принципы физики. В кн.: Бессознательное. – Новочеркасск: Агенство Сагуна, 1994. С. 91 - 102.

[22] M. S. Hannachi, Y. Hatakeyama, K. Hirota. Emulating Qubits with Fuzzy Logic. J. Advanced Computational Intelligence and Intelligent Informatics, vol. 11, no. 2, 2007, pp. 242-249.

[23] A. Rybalov, E. Kagan, Y. Manor, I. Ben-Gal. Fuzzy Model of Quantum-Controlled Mobile Robot on a Plane. Submitted to COMCAS’09.