Реферат: Следует ли обеззараживать сигналы seti?

Ричард Керригэн

Следует ли обеззараживать сигналы SETI?

Перевод. А.В.Турчин.

DO POTENTIAL SETI SIGNALS NEED TO BE DECONTAMINATED?

Richard A. Carrigan, Jr.

Fermi National Accelerator Laboratory

Box 500 MS221

Batavia, IL 60510 USA

carrigan@fnal.gov

home.fnal.gov/~carrigan/SETI/SETI%20Hacker_AC-03-IAA-8-3-06.doc

перевод:

www.proza.ru/texts/2007/11/20/582.html

Краткое содержание.

Биологическое заражение от образцов из космоса является отдалённой, но допускаемой возможностью. Сигналы, получаемые в процессе поисков внеземного разума (SETI), тоже могут содержать вредоносную информацию в духе компьютерных вирусов, что известно под названием гипотезы SETI-хакера. Поиски внеземного разума в течение последних четырёх десятилетий дали мало обоснований для этой возможности. Некоторые доказывают, что информация из внеземного сигнала не может атаковать земной компьютер, потому что компьютерная логика и код являются уникальными и представляют собой непреодолимый файервол. В этой статье мы рассматриваем то, как можно проверить эти рассуждения. Обсуждаются меры по обеззараживанию внеземных разумных сигналов (ETI). Возможно, было бы правильно изменить современный протокол по обнаружению SETI. Помимо этого, возможное содержание сообщения ETI требует более широкой дискуссии.

Введение .

С рассвета программы SETI четыре десятилетия назад (1) значительно вырос потенциал для достижения успеха. С введением в строй нового мощного оборудования и сложнейших программ по обнаружению сигналов резко выросла интенсивность поисков в радио и оптическом диапазоне (2). Недавние поиски экзопланет показали, что планеты более распространены, чем это считалось ранее. С каждым годом становится понятно всё больше о происхождении жизни (3). Недавние прозрения предполагают возможность того, что скорость и лёгкость эволюции может быть увеличена посредством эндосимбиоза и расширением температурных пределов, подходящих для жизни, примером чему являются экстремофилы. Есть проблески на горизонте искусственной компьютерной «жизни», так что, возможно, мы столкнёмся с этой мрачной возможностью в течение ближайших десятилетий. Даже имея технологии электроники возрастом немногим более ста лет, земная цивилизация обладает способностью посылать сигналы к звёздам. Земля уже не кажется такой «редкой» (4). Но это не обещает того, что в космосе есть разумные сигналы, которые мы вскоре откроем. С другой стороны, эта возможность должна приниматься всерьёз, и должны быть сделаны приготовления, чтобы правильно обращаться с сигналом, если он будет получен.

Сигналы ETI могут придти во множестве разных форм. Одна из форм потенциального ETI сигнала – это маяк, который передаёт небольшое количество информации. Второй тип – это сообщения. В следующей части статьи будет доказываться, что особенное внимание следует уделять тому, как обращаться с сообщениями, когда они будут получены. Третья возможность состоит в том, что в галактике есть артефакты, вроде сигналов ТВ или радаров (5). Такие сигналы-артефакты являются эквивалентом археологической информации от ранних цивилизаций на Земле. Не многие из археологических артефактов, открытых на Земле, были предназначены, чтобы информировать будущее. В начале поисков SETI стало ясно, что есть обратная сторона в излучении ТВ и радио сигналов с Земли. Уже сто лет признаки высоких технологий излучаются с Земли со скоростью света, сообщая о присутствии человечества и о его возможностях. Сигнал от первых радиопередатчиков на Земле 100 лет назад мог достичь звезды на расстоянии в 50 световых лет, и цивилизация там могла немедленно среагировать и послать сигнал назад на Землю. Такой сигнал мог бы быть очень полезен для нас или, возможно, очень опасен. Есть только порядка 400 звёзд на расстоянии 50 световых лет от Земли.

Межзвёздные сигналы могут быть подразделены на сигналы, предназначенные для двухсторонней коммуникации и сигналы для односторонней коммуникации. Двухсторонняя коммуникация возможна для звёзд, которые близки друг к другу. Однако даже самые долголетние сосны Pinus longaeva (живущие до 5000 лет), находящиеся на расстоянии 10 световых лет друг от друга, могли бы осуществить только порядка сотни обменов сообщениями за время жизни, что вряд ли соответствует объёму образования в хорошем колледже. На первый взгляд, односторонние сообщения подобны просмотру ТВ или отправлению записки в бутылке в океане. С другой стороны, стоит только вспомнить влияние греческой культуры на Запад, чтобы понять, как важна может быть односторонняя коммуникация. (Интересно отметить, что П. Моррисон оценил полный объём письменного наследия древних греков в 109 бит информации (6).)

Наконец, будет ли сигнал SETI альтруистическим, равнодушным или злонамеренным? Ответ на этот вопрос помог бы понять мотивацию сообщения до прочтения слишком большой его части. Подобно Одиссею, нам, возможно, следует заткнуть уши наших программистов и привязать главного астронома к радиомачте до того, как ему разрешат прослушать песню звёздных сирен.

Центральной посылкой этой статьи является то, что сигнал ETI может быть вредоносным. Идеи состоит в том, что сигнал может быть способен захватить контроль над компьютером-получателем или призывать к созданию переводчика с неизвестным предназначением. Я назвал эту гипотезу «SETI-хакер». Эта концепция не нова. Она является темой большого объёма научно-фантастической литературы (7). То, что является новым – это попытка исследовать вопрос аналитически и поиск средств нейтрализовать сигналы SETI. Некоторые аспекты этого уже обсуждались ранее в статье, подготовленной для сборника Биоастрономия-2002 (8).

Следующая глава этой статьи посвящена возможной природе межзвёздных сигналов, проблемам передачи информации на межзвёздные расстояния с помощью электромагнитных лучей и материальных носителей, таких как ДНК, возможностям обеззараживания или стерилизации сигнала, и окончательным выводам по дискуссии.

Природа сигналов SETI

Характер и размер сигнала ETI определяет подход к обращению с содержанием этого сигнала. Маяк с сообщением корче, чем 100 килобайт, повторяющемся каждые 10 секунд или около того, может быть исследован без слишком больших мер предосторожности. Основываясь даже на земных программах, можно сделать вывод, что программа в 10 мегабайт будет полностью непрозрачна. Чтобы оценить потенциальное воздействие сигнала полезно рассмотреть характер сигналов ETI и количество информации, которая может быть передана.

Сигнализация или передача информации на межзвёздные расстояния может осуществляться посредством электромагнитных волн, таких как лазерные, радио и ТВ сигналы, или с помощью основанного на материи носителя, такого как обычное традиционное письмо, панспермия (9) ДНК или кремниевых чипов, или посредством космических аппаратов.

Данная дискуссия сосредоточится на электромагнитных сигналах. Для электромагнитных сигналов потребуется приёмник и декодер / демодулятор. Сигнал будет содержать некую привлекательную «рекламу» или соблазн, чтобы завербовать получателя. Почти наверняка реальные сообщения будут определённым образом сжаты. Сигнал будет содержать алгоритмы декодирования компрессии, использованной в сообщении. В первую очередь именно отправителю важно, чтобы алгоритмы компрессии были совершенно понятны.

Реальное содержание послания может значительно отличаться оттого, что мы себе представляем. Например, информация о запахе может быть гораздо более важна, если отправитель – это продвинутая собака. Какая информация будет важной для интеллектуального растения? Даже для людей значительная часть разума основывается на зрительных образах.

Картинки труднее описать, чем текст или интеллект, основанный на цифрах. Наконец, отправитель будет иметь, вероятно, гораздо более продвинутую технологию, чем доступна нам сейчас. Например, мы только учимся читать геномы, и у нас пока нет квантовых компьютеров.

Можно ожидать, что сообщение, скорее, будет основано на науке и логике, чем на магических заклинаниях. Метафоры и аналогии из ненаучных областей вряд ли помогут понять ETI сигналы. Моя жена недавно завершила работу над диптихом, который противопоставляет взгляды муравья и астрофизика. Астрофизик спрашивает: «Могу ли я распутать тонкую материю звёзд?», в то время как муравей хочет знать: «Могу ли я распутать спутанный ковёр земли?» Мы можем быть уверены, что отправитель ETI послания будет смотреть наверх, в сторону звёзд, но его более глубокая перспектива может быть, скорее, как у муравья, чем как у астронома.

Отличительная особенность нетехнического взгляда на SETI — это соблазн попробовать применять моральные аргументы. Будет опасной натяжкой пытаться приписать человеческие юридические или этические ценности нашему муравью-исследователю. Единственные «этические» рамки, которым мы могли бы хоть немного доверять, — это «выживания сильнейшего» по Дарвину. Такой стандарт поведения крайне далёк от альтруистического.

В отношении размера сообщения можно воспользоваться примерами из человеческого опыта. Типичная операционная система настольного компьютера занимает сейчас 1 Gb, то время как Microsoft Word имеет размер приблизительно 0,01 Gb. (1 Gb составляет 10*9 байт.)

Несмотря на то, что геном человека состоит из 3 млрд ДНК базовых пар, эффективное информационное содержание имеет порядок 0,05 Gb. Типичные высшее образование имеет порядок 1-10 Gb. Приблизительная «память» о случайным знакомом, включая зрительные образы, может занимать 0.001-0.010 Gb, что для 1000 знакомыми даст в 10 Gb. А время жизни изображения, сохраняемого один раз в минуту, может быть 100 раз больше.

Кревиер (10) пытался определить информацию, необходимую для характеристики личностной памяти, по нескольким направлениям и получил цифры порядка 2,5 Gb. Принимая число людей на земле как 6 * 10**9 и исходя из 2,5 Gb / на человека, получаем, что потребуется переслать 15 экзабайт информации, чтобы передать память каждого на Земле. (1 экзабайт — это 10**18 байт). Это очень большой объем данных. Около 1997 года Леск (11) ориентировочно вычислил, что для хранения всей имеющейся на тот момент информации на Земле, включая картинки, потребовалось бы 12 экзабайт объёма хранилища. Добавление к этому всего объёма памяти жителей и их генетической информации даст примерно 25 экзобайт. И ещё более амбициозная передача должна была бы включать в себя профили ДНК всех живых существ и растений на Земле. Даже продвинутая цивилизация должна ограничиться где-то в передаче информации.

Информация экзобайтных размеров требует в настоящий момент годы для передачи по оптическому кабелю со скоростью 10 гигабайт/ сек. (Отметьте, что в приводимом ниже примере SETI на расстоянии 50 световых лет обсуждается скорость в 10**(-5) Гб/сек.) Основываясь на экзобайтных размерах баз данных, мы можем предположить возможность очень длинных электромагнитных сигналов, возможно, с вкраплениями коротких, интересных сообщений, предназначенных, чтобы играть роль приманки. Реальные программы для декомпрессии сигналов могут быть достаточно простыми. Даже в настоящий момент этот тип сигналов может быть обработан компьютерами типа РС. Вирусные программы SETI-хакера, скорее всего, будут гораздо сложнее.

Передача информации на межзвёздные расстояния.

Главной задачей SETI-поисков является определение наиболее эффективного способа поисков. Полезный способ определить это состоит в исследовании энергетической цены передачи и получения ETI сигнала. Следует знать, сколько энергии требуется, чтобы передать 1 бит информации с использованием разных подходов. Отправитель будет стремиться поддерживать скорость передачи как можно более высокой, а цену одного бита – низкой. В цену передачи заложены предположения о технологическом уровне на стороне получателя, а также информация о повреждении послания по причине затухания или разрушения в межзвёздной среде. Передача через относительно плотное галактическое ядро труднее, чем передача во внешнее гало. Более дальняя передача требует больше энергии. Передача на маленькую антенну требует больше энергии, чем передача на большую. Знание накладных расходов – хороший инструмент, чтобы уточнить процесс поисков и направить поиски на подходящие SETI кандидаты.

Передача с помощью радиоволн хорошо изучена и может быть легко рассчитана. Относительная цена радио и лазерных сигналов неоднократно обсуждалась в других местах (8). Это отношение зависит от предположений об устройстве лазерной передачи. Следует отметить, что большая часть так называемых высокоэнергетичных лазеров являются импульсными, в то время как именно их средняя мощность важна для передачи сообщений. Лазеры и детектирование лазерных сигналов всё ещё развиваются по закону Мура, так что предположения об этой технологии зависят от выбранных для вычислений рамок.

Передача информации через пространство состоит из трёх компонент: запуск или вещание сигнала, распространение и детектирование. Цена послания может быть разложена на эти три составляющие. Составляющая, связанная с распространением, определяется, в первую очередь, усилением (gain) или фокусирующей силой передающей антенны. Усиление антенны равно:

(1)

Где λ – это длина волны и At. — это эффективная площадь передатчика. Это связано с тем, что конус антенны сужается и сигнал становится более сфокусированным. По мере увеличения усиления антенна вещает на всё более и более маленький участок неба. Этого обычно достаточно для передачи радио или ТВ сигнала, поскольку звезда на небе гораздо меньше, чем область радиолуча. Антенны, использующие интерференцию, могут быть исключением из этого правила. Усиление в лазерных системах может быть гораздо выше, поскольку λ гораздо меньше. В результате конус лазерного луча может быть меньше, чем планетная система звезды для ближайших звёзд. Усиление для передатчика размером с телескоп в Аресибо на 3 см составляет 10**9.

Для зашумлённой радиосвязи предел Шеннона передаточной мощности канала в битах в секунду составляет:

(2)

Где B – это ширина сигнала, TN — шумовая температура приёмника и k – постоянная Больцмана (12). Pr – это мощность, получаемая земной антенной. Лей показал, что при низком отношении сигнал шум максимальная пропускная способность канала равна:

. (3)

В этом случае пропускная способность зависит от получаемой мощности, но не от диапазона. Pr получается из формулы передачи Фрииса:

(4)

где Pt – это энергия передатчика, Ar — это эффективная площадь антенны получателя и R – это расстояние между передатчиком и приёмником. При несущей частоте 10 ГГц (λ = 3 cm) сигнал мощностью в 1000 kW на расстоянии 50 световых лет может передавать значительно больше, чем 10 Kбайт/сек, предполагая в качестве приёмника антенну размером с Аресибо с шумовой температурой приёмника 10 К и 1% уровнем ошибок. Пересылка программы размером в 1 Гб или компьютерной энциклопедии потребует меньше одного дня и расходов в несколько тысяч долларов на энергию, предполагая стоимость энергии равной 10 центов/ киловатт-час. Это только на один порядок величины дороже, чем покупка программ на компакт дисках. При некоторых технологических предположениях энергетическая цена лазерной передачи может быть существенно меньше. Рассеяние на межзвёздной среде ограничивает ширину диапазона передачи. Согласно Лею верхний предел ширины диапазона на расстоянии в 1000 световых лет составляет 3,5 МГц, чего вполне достаточно для скорости передачи 10 кБ/сек на расстоянии в 50 световых лет. Вышеприведённые формулы могут быть использованы для определения δEt ,- расхода энергии передатчика на один переданный бит:

(5)

И δEr, энергии получателя на один полученный бит:

. (6)

Стоимость переданной энергии растёт пропорционально квадрату расстояния и убывает при увеличении усиления антенны (gain). На стороне приёмника более низка шумовая температура и большая по размерам антенна уменьшает отношение энергия / бит. Например, δEr = 10-22 Дж или 0.0006 eV и δEt = 3.6 Дж. Энергия на один фотон δEγ = hν, где h – это постоянная Планка и ν – это частота. Например, энергия на один фотон равна 6.63*10-24 Дж или 0.00004 eV. В данном примере детектирование одного бита равно получению 14 фотонов на приёмнике.

Интересно отметить, что расходы энергии на один бит при электромагнитной передаче и при направленной панспермии и при распространении с помощью космических аппаратов посредством ДНК одинаковы при скоростях порядка 10-4 скорости света. Частично это происходит, потому что хранение информации с помощью ДНК весьма эффективно. Сфера из ДНК диаметром 5 мм может хранить порядка 25 экзабайт информации. Разумеется, передача информации гораздо медленнее электромагнитной передачи. Естественно, различные предположения о радио, лазерной и материальной передаче информации изменяют их относительные энергетические цены. Воздействие будущих технологий также может изменить относительные взаимосвязи. Что касается систем доставки сообщений, то ни одна из них не может быть исключена в настоящий момент.

Наиболее важным здесь является то, что огромные количества информации могут быть недорого переданы со скоростью света даже с помощью современных технологий. Кроме того, размер сообщения может быть столь велик, что подлинное намерение сообщения может быть неочевидным.

Обеззараживание сигнала.

Как уже отмечалось ранее, археологические следы и маяки выглядят достаточно безопасными с точки зрения SETI. Свойством маяка является то, что он будет передавать не очень много информации. С другой стороны, от маяка до сообщения может быть один короткий шаг. Например, маяк может указывать на сигнал на другой частоте, на котором передаётся сообщение. К сообщению следует подходить с большой осторожностью. Оно может быть исключительно опасно! Попросту говоря, приёмник должен иметь вирусную защиту и электронный презерватив.

Следует рассмотреть по крайней мере два сценария для защиты от злонамеренного SETI хакера. Один – это компьютерный вирус в сообщении, который овладевает компьютером на стороне получателя. Другой – это открытое сообщение, которое содержит непонятную для нас программу или инструкции по созданию материального переводчика (hardware translator) для непрозрачных сообщений. Оба варианта опасны. Ущерб может быть нанесён до того, как получатель поймёт, что находится под атакой. Так оно обычно происходит даже при земных обычных хакерских атаках. Может не оказаться возможности убрать сигнал или выключить компьютер до того, как проникший сигнал возьмёт верх.

Остаётся открытым вопрос о том, может ли земной компьютерный вирус проникнуть в компьютер, если он незнаком с его операционной системой. Специалисты по компьютерам и компьютерной безопасности, с которыми я обсуждал этот вопрос, не думают, что это возможно. Аргументы состоят в том, что вирусы проникают в компьютеры, используя известные черты операционной системы. Далее, полагают эксперты, операционная система типичного компьютера достаточно уникальна, так что трудно проанализировать её структуру с логической точки зрения.

Однако, кажется стОящим подойти к этому вопросу без предубеждений. Например, можно попробовать осуществить мысленные или даже практические эксперименты с примитивным «игрушечным» компьютером, например, смоделированным по стопам первого компьютера серии IlliAC (http://en.wikipedia.org/wiki/ILLIAC) и предложить программистам, незнакомым с системой кодов IlliAC, попытаться взломать эту программу. (Программа на кодах IlliAC для взлома лежит на сайте автора статьи – прим. пер.) Я думаю, что также было бы полезно провести семинар с разносторонними участниками, чтобы обсудить вопрос подробнее. Его можно было бы объединить c более широкой дискуссией по вопросу на тему обеззараживания ETI сигналов.

Есть несколько подходов, которые могут быть предприняты для обеззараживания сигналов SETI. Разбивание информации на пакеты, как это делается в настоящий момент для программы SETI@home, делает гораздо более трудным для большой программы снова собраться вместе и загрузится. Изоляция входящих сообщений на специальном компьютере позволит сохранить потенциально опасный сигнал в изолированном окружении. Могут быть также дополнительные техники, такие как использование одноразового программирования (one-time only coding) и постоянная проверка целостности программы. И снова, созыв коллегии экспертов поможет выработать необходимые подходы.

В конечном счёте, то, что нам нужно – это специальный протокол, подобный тому, который используется в отношении угрозы биологического заражения от зонда, вернувшегося из космоса. Международный комитет по космическим исследованиям (COSPAR) выработал такой протокол посредством интенсивных международных дискуссий, включавших даже ООН (13). Озабоченность биологическим заражением возникла благодаря многочисленным случаям, когда новые биологические виды вводились в другую экологическую среду и серьёзно повреждали её. Отметьте, что SETI имеет протокол (14) о том, как действовать в случае обнаружения сигнала, но его цель – избежать проблем связей с общественностью, если сигнал будет обнародован преждевременно.

Заключение .

Энергетическая эффективность и скорость распространения крайне благоприятствуют использованию электромагнитных сигналов для передачи на межзвёздные расстояния. Нынешние SETI усилия концентрируются на поисках электромагнитных сигналов. Электромагнитная передача возможна даже при современных земных технологиях, и может содержать достаточно информации, чтобы быть опасной. Однако для ETI сигналов необходим некоторый тип переводчика на принимающей стороне. Поэтому сигнал должен содержать некого рода наживку, чтобы побудить принимающую сторону расшифровать сообщение. Такая наживка, вероятно, будет весьма интересной и выглядеть приемлемой по намерениям. Это означает, что нужно с осторожностью работать с SETI сигналами.

Данная ситуация требует серьёзного внимания со стороны SETI сообщества. Возможность существования злонамеренного SETI-хакера должна быть оценена, и должны быть приняты защитные меры до получения любых реальных сигналов.

Примечания переводчика.

Данная статья наводит на серьёзные размышления, если сопоставить её с переведённой мною ранее статьёй Е. Юдковски «Искусственный интеллект как позитивный и негативный фактор глобального риска» (http://www.proza.ru/texts/2007/03/22-285.html.), если в статье Юдковского вместо ИИ подставить «ETI сообщение». Основной риск видится в получении по каналам SETI так называемого Seed AI – минимально возможного зачатка ИИ, способного к самообучению и самосовершенствованию, но с заданными целями.

Трудно согласится с оценкой опасного объёма информации, даваемой Кэрриганом. Если объём значимой части генокода человека – 50 мб, по Кэрригану, а объём части, кодирующей мозг, составляет только 3% от генома, то описание общих признаков мозга имеет порядок 1,5 мегабайт. А мозг младенца – это и есть зародыш интеллекта, но с заданными свойствами. Поскольку высокопродвинутая цивилизация могла бы достичь очень больших успехов в компрессии информации и эффективных алгоритмах, то пересылаемый ею Seed AI мог бы иметь порядок 100 кб.

Далее я привожу написанную мною для книги «Структура глобальной катастрофы» (http://www.proza.ru/texts/2007/08/10-217.html) главу о рисках SETI, где обсуждаются некоторые аспекты проблемы.

Риски, связанные с программой SETI .

Программа поиска внеземных радиосигналов уже давно осознаётся как потенциально опасная. В Соединённых Штатах действует закон, запрещающий посылку сообщений в космос. Поэтому все подобные эксперименты проводятся на радиотелескопе в Евпатории. При этому существуют вычисления, показывающие, что вероятность того, что наше случайное сообщение к кому-нибудь попадёт – ничтожно мала. (См. статью А.Зайцева «sending and searching for interstellar messages» fire.relarn.ru/126/docs/iac_07_a4_2.02.pdf). В этой статье допускается, что не только активное SETI, то есть посылание сигналов в космос, но и пассивное SETI, то есть чистое слушание, может быть опасно, поскольку получение и расшифровка сообщений может дать опасные технологии в руки неподготовленных индивидов и организаций. Однако есть и более жёсткий вариант рисков, связанных со слушанием космоса, которые возникают, если допустить, что ИИ возможен, и базовая программа для него может быть переслана по радио. (Эта проблема обсуждается в статье «The Ultimate Hacker:

SETI signals may need to be decontaminated» — «Абсолютный хакер: сигналы SETI по-видимому, следует обеззараживать» Ричарда Кэрригена home.fnal.gov/~carrigan/SETI/SETI%20Decon%20Australia%20poster%20paper.pdf где автор показывает, что возможно переслать значительный объёмы информации на межзвёздные расстояния, и обсуждает риск того, что в них может содержаться нечто вроде современных компьютерных вирусов.)

В фантастическом романе «Штамм Андромеда» люди принимают инопланетный сигнал, расшифровывают его и по содержащемуся в нём проекту создают некое биологическое существо, которое затем ведёт себя агрессивно. Сейчас бы мы назвали такую стратегию поведение «космическим компьютерным вирусом» или «трояном». Возможно, это самый дешёвый способ для сверхцивилизации распространяться по Вселенной – с помощью компьютерных вирусов, рассылаемых по радио. Разумеется, мы не будем такими идиотами, чтобы загрузить из космоса исполняемый код и затем запустить его на компьютере. Однако посылающие его могут повесить на него какую-нибудь приманку, как сейчас делают рассыльщики спама. Например, это может быть обещание новых технологий. При этом, после того, как источник радиосигнала (и его точные координаты) будет открыт, его смогут принимать одновременно многие страны и даже частные лица. Разумеется, кто-то из них может не удержаться перед соблазном запустить присланный исполняемый код, чтобы вкусить обещанных преимуществ. Разумеется, код, который они пришлют, должен также содержать и описание самого компьютера, на котором он будет исполняться. Это может выглядеть так: в начале идёт видеофильм, который распознать не трудно (резкие импульсы обозначают строчную и покадровую развёртку). Фильм обучает основам языка и затем излагает некие заманчивые цели. Затем идёт описание простейшей машины Поста (минимального компьютера с примерно 5 командами), и программа к нему, которая создаёт более сложный компьютер. А затем уже на нём выполняется программа с элементами ИИ, которая действует по обстоятельствам. Основное предположение здесь состоит в том, что сверхцивилизация, рассылающая такие сообщения, обладает интеллектом, на много порядков превосходящий нас, что позволяет им обвести нас вокруг пальца, как малых детей. Период уязвимости для этого риска не велик – от момента создания сверхмощных телескопов до момента, когда наш собственный ИИ будет достаточен, чтобы решить любые потребные задачи без инопланетной помощи. Однако с течением времени внутри этого периода погодовой риск растёт, так как нам становятся доступны всё более мощные радиотелескопы, а также могут быть открыты принципиально новые способы межзвёздной связи (например, может быть использовано мерцание звёзд, окружённых сферами Дайсона с открывающимися и закрывающимися отверстиями.) Очевидно, что если бы мы нашли способ связи, касающийся бесконечного числа звёзд, то вероятность обнаружить разумный сигнал с них была бы равна единице, и доля сигналов, содержащих опасный код, среди них была бы велика, так как рассылка собственных копий – хорошая мотивация для дорогостоящих межзвёздных контактов. Для посылки таких сообщение, содержащих мегабайты информации во все стороны, понадобились бы источники энергии звёздных масштабов. То есть организовать такие сообщения могла бы только цивилизации, на много порядков превосходящая нашу. При этом она могла бы находиться на расстоянии миллионов световых лет от нас, в силу чего не могла бы послать в нашу галактику космические корабли (и даже если бы она послала, они бы прибыли на стони тысяч лет позже, так как летели бы со скоростью меньшей световой, плюс время на разгон и торможение). Такая бы сверхцивилизация приложила бы титанические усилия, чтобы сделать своё сообщение очень понятным.

Цели такой рассылки могли бы быть различны:

1. Это делается для исследования вселенной. После исполнения кода возникают исследовательские зонды, которые отсылают назад информацию.

2. Это делается для того, что не возникло конкурирующих цивилизаций. все их зародыши уничтожаются.

3. Это делается для того, чтобы другая конкурирующая сверхцивилизация не смогла воспользоваться этим ресурсом.

4. это делается для того, чтобы подготовить базу к прилёту твердотельных космических кораблей. Это имеет смысл, если сверхцивилизация находится очень далеко, и соответственно, разрыв между световой скоростью радиосигнала и околосветовой скоростью её кораблей (допустим, 0,5 с) составляет тысячелетия.

5. это делается с нелогичными и непонятными для нас целями, например, как произведение искусства или игрушка. (Например, инопланетянам будет непонятно, зачем американцы воткнули флаг на луне. Стоило ли лететь за 300 000 км, чтобы установить раскрашенную железяку?)

Однако не только рассылка исполняемого кода может быть опасна. Например, нам могут сообщать о некой полезной технологии, которая на самом деле должна привести нас к катастрофе (например, сообщение в духе «быстро сожмите 10 кг плутония, и у вас будет новый источник энергии»). Такая рассылка может делаться некой «цивилизацией», чтобы заранее уничтожить конкурентов в космосе. При этом очевидно, что те страны, которые получат такие сообщения, будут в первую очередь искать технологии военного применения.

К аналогичным выводам, по словам Дж.Лесли, приходит Моравек в «Детях ума» (1988), предполагающий, что по радиоволнам в космосе может рассылаться чертежи опасной машины, способной к саморепликации, но обещающей удовлетворить все желания. Когда такая машина изготавливается, она истребляет «хозяина» и рассылает по космосу миллиарды своих копий. (Например, это могут быть чертежи эффективного наноробота с элементами Искусственного интеллекта.)

Обратный вариант состоит в том, что по SETI придёт полезное сообщение с предупреждением о некой угрозе, которая губит большинство цивилизаций, например: «Не делайте никаких экспериментов с Х-частицами, это может привести к взрыву, который разрушит планету». Но даже и в этом случае останутся сомнения, не обман ли это, чтобы лишить нас неких технологий. (Подтверждением было бы, если бы аналогичные сообщения приходили бы от других цивилизаций, расположенных в космосе в противоположном направлении.) и возможно, такое сообщение только усилит соблазн экспериментировать с Х-частицами.

SETI не относится к научной фантастике. Регулярные поиски внеземных сигналов идут с 60-х годов. В настоящий момент частный фонд ATA (http://www.seti.org/seti/projects/ata/ )планирует развернуть 350 радиотелескопов по всему земному шару с бюджетом в десятки миллионов долларов. Это означает, что если опасные сигналы в нашей галактике существуют, они могут быть пойманы в ближайшие несколько лет. Даже если они не будут содержать кода, направленного на уничтожение человечества, шок от такой встречи будет иметь значительные последствия для Земли.

Нет нужды говорить, что для радиотелескопов SETI верен свой закон Мура, который означает, что их характеристики возрастают во много раз каждые несколько лет (от проекта к проекту). Это означает, что шансы успешного SETI экспоненциально растут.

С этим риском связан интересный методологический аспект. Несмотря на то, что я каждый день в течение последнего года размышляю и читаю на темы глобальных рисков, я обнаружил эту опасную уязвимость в SETI только сейчас. Задним числом я смог найти ещё примерно четырёх человек, которые приходили к подобным выводам. Однако для себя я сделал важный вывод: вероятно, есть ещё не открытые глобальные риски, и даже если составные части некого риска по отдельности мне лично известны, то, чтобы соединить их, может потребоваться длительное время.

Основной защитой от SETI может быть тот факт, что в разумные цивилизации встречаются исключительно редко, один раз на миллиарды миллиардов звёзд. Есть определённые подтверждения этой идеи, основанные на рассуждениях, опирающихся на антропный принцип и число возможных вселенных. (Вкратце, суть этих рассуждений в следующем: наша вселенная настроена настолько точно, что потребовалось бы 10**500 вселенных с разными свойствами, чтобы попасть в заданные условия. Кроме того, если мозг человека весит 1 кг, а Солнечная система порядка 10**30 кг, то есть один шанс к 10**20, что произвольно взятый килограмм окажется человеческим мозгом. Из этого (но не только, часть рассуждений см. в моей статье «Природные катастрофы и антропный принцип) следует, что доля звёзд, у которых есть планеты с разумной жизнью, тоже имеет порядок величины 1 к 10**20 или ещё меньше, что означает, что мы одни на многие миллиарды световых лет и во всей видимой вселенной.)

Однако рано радоваться тому, что другие цивилизации очень редки. Потому что, чем реже цивилизации, тем уникальнее условия, в которых они находятся, что означает (опять же см. мою статью «Природные катастрофы и антропный принцип»), что, скорее всего, они находятся в конце периода благоприятных условий. Итак, или нам угрожает SETI и иные проявления инопланетного разума, или мы находимся в конце периода глобальной устойчивости.

Примечания.

1. [1] Cocconi, G., Morrison, P., “Searching for Interstellar Communications,” Nature, 184, 844-846, 1959.

2. [1] Tarter, J., “The Search for Extraterrestrial Intelligence (SETI),” Annu. Rev. Astron. Astrophys ., 39, 511-548, 2001.

3. [1] De Duve, C. “Life Evolving. Molecules, Mind, and Meaning,” Oxford, New York, 2002.

4. [1] For a contrary view see Ward, P., Brownlee, D. “Rare Earth,” Copernicus, Springer-Verlag, New York., 2000.

5. [1] Sullivan, III, W., Brown, S., Wetherill, C., “Eavesdropping: The Radio Signature of Earth,” Science, 199, 377-388, 1978.

6. [1] Cited in Sagan, C. et al., “Carl Sagan’s Comic Connection,” p. 236, Cambridge University Press, Cambridge, 2000.

7. [1] Carrigan, R., Carrigan, N., “The Siren Stars,” serialized in Analog Mar.-May, 1970, published by Pyramid, New York, 1971, Hoyle, F., Elliot, J., “A is for Andromeda,” Souvenir Press Ltd., London, 1962.

8. [1] Carrigan, Jr., R., “The Ultimate Hacker: SETI signals may need to be decontaminated,” to be published in "Bioastronomy 2002: Life Amongst the Stars " Astronomical Society of the Pacific IAU Symposium Series, 213, editors Norris, R., Stootman, F, 2002.

9. [1] See, for instance, Secker, J., Wesson, P, and Lepock, J., “Astrophysical and biological constraints on radio panspermia,” Journal of the Royal Astronomical Society of Canada, 90, 17:184-192, 1996.

10. [1] Crevier. D., “The tumultuous history of the search for AI,” Basic Books-Harper, New York, 1993.

11. [1] Lesk, M., in comments that appear at www.lesk.com/mlesk/ksg97/ksg.html, 1997.

12. [1] Leigh, D., “An Interference-Resistant Search for Extraterrestrial Microwave Beacons,” submitted to The Division of Engineering and Applied Sciences, Harvard Ph.D. thesis, 1998. (http://seti.harvard.edu/grad/d_thes.html).

13. [1] Nealson, K., et al., “Mars Sample Return: Issues and Recommendations,” Space Sciences Board of the National Academy of Sciences, Task Group on Issues in Sample Return, 1997. <www.nationalacademies.org/ssb/mrsrnot.html>.

14. [1] Billingham, J., Chairman, “SETI Committee. Declaration of Principles Concerning Activities Following the Detection of Extraterrestrial Intelligence,” International Academy of Astronautics Position Paper Annex, 1996.

Реферат статьи Ричарда Керригэна «Следует ли обеззараживать сигналы SETI?» перевод:

www.proza.ru/texts/2007/11/20/582.html

DO POTENTIAL SETI SIGNALS NEED TO BE DECONTAMINATED?

Richard A. Carrigan, Jr.

Fermi National Accelerator Laboratory

home.fnal.gov/~carrigan/SETI/SETI%20Hacker_AC-03-IAA-8-3-06.doc

Профессор Р.Керригэн уже несколько лет исследует проблему рисков, которые может представлять пассивное SETI. В абстракте своей статьи он пишет: «Биологическое заражение от образцов из космоса является отдалённой, но допускаемой возможностью. Сигналы, получаемые в процессе поисков внеземного разума (SETI), тоже могут содержать вредоносную информацию в духе компьютерных вирусов, что известно под названием гипотезы SETI-хакера. Поиски внеземного разума в течение последних четырёх десятилетий дали мало обоснований для этой возможности. Некоторые доказывают, что информация из внеземного сигнала не может атаковать земной компьютер, потому что компьютерная логика и код являются уникальными и представляют собой непреодолимый файервол. В этой статье мы рассматриваем то, как можно проверить эти рассуждения. Обсуждаются меры по обеззараживанию внеземных разумных сигналов (ETI). Возможно, было бы правильно изменить современный протокол по обнаружению SETI. Помимо этого, возможное содержание сообщения ETI требует более широкой дискуссии». С помощью простых формул по радиофизике он показывает, что даже при современных средствах реальна передача информации объёмом в гигабайты на межзвёздное расстояние за приемлемое время (сутки) и деньги (тысячи долларов). Хотя инопланетные вирусы не могут заразить наши компьютеры напрямую, так как они не знают архитектуры и системы команд, послание внеземного разума может содержать некую привлекательную и убедительную по своим намерениям «наживку», которая может побудить нас создать аппаратный переводчик для той программы, которую они нам посылают. При этом мы должны отделять размышления о возможностях сверхцивилизаций от размышлений об их этике.

Особую тревогу вызывает статья Кэрригэна, если сопоставить её с недавней статьёй ведущего американского исследователя Искусственного интеллекта Е.Юдковски, «Искусственный интеллект как позитивный и негативный фактор глобального риска» (http://www.proza.ru/texts/2007/03/22-285.html), если в статье Юдковского вместо ИИ подставить «ETI сообщение». Основной риск видится в получении по каналам SETI так называемого Seed AI – минимально возможного зачатка ИИ, способного к самообучению и самосовершенствованию, но с заданными целями. Объём такой программы мог бы составлять меньше мегабайта. Человеческая цивилизация находится в особо уязвимом положении в настоящий момент, так как уже обладает достаточно мощными компьютерами, чтобы запустить ИИ, но ещё не создала свой ИИ и не верит и не понимает, что это возможно.

А.В.Турчин

еще рефераты
Еще работы по остальным рефератам