фразами вроде "сороконожки ходят" или "кошки ловят мышей". "Черный ящик"
обладает определенной "внутренней программой" действия, которая определяет
все отдельные акты его поведения.
Современный технолог начинает конструкторскую работу с составления
соответствующих планов и расчетов. Мост, локомотив, дом, реактивный
истребитель или ракета создаются, таким образом, как бы дважды: сначала
теоретически, на бумаге, а потом в действительности - когда символический
язык чертежей и планов или алгоритм поведения "переводится" в
последовательность материальных действий.
"Черный ящик" нельзя запрограммировать с помощью алгоритма. Алгоритм
- это раз навсегда составленная программа действий, в которой все заранее
предусмотрено. Выражаясь популярно, алгоритм - это точное,
воспроизводимое, поддающееся исполнению предписание, определяющее - шаг за
шагом, - каким путем надлежит решать данную задачу. Алгоритмом является
любое формализованное доказательство математической теоремы, равно как и
программа цифровой машины, переводящей с одного языка на другой. Понятие
алгоритма возникло в математике, и применительно к инженерному делу я
употребляю его несколько вопреки обыкновению. Алгоритм
математика-теоретика никогда не может "подвести": тот, кто однажды
разработал алгоритм математического доказательства, может быть уверен, что
это доказательство никогда не "подведет". Прикладной алгоритм, которым
пользуется инженер, может и подвести, потому что в нем "все предусмотрено
заранее" только внешне. Мосты рассчитывают на прочность по определенным
алгоритмам, что, однако, не гарантирует их абсолютной сохранности. Мост
может обрушиться, если на него действуют силы, превосходящие те, которые
предусмотрел конструктор. Во всяком случае, имея алгоритм некоторого
процесса, мы можем исследовать - в заданных границах - все
последовательные фазы, все этапы этого процесса.
Так вот, применительно к очень сложным системам, таким, как общество,
мозг или еще не существующие "очень большие черные ящики", подобное
исследование невозможно. Такого рода системы не имеют алгоритмов. Как это
нужно понимать? Ведь любая система, а значит, и мозг, и общество всегда
ведут себя каким-то определенным образом. Способ поведения всегда можно
изобразить с помощью символов. Это так, вне всякого сомнения. Только в
данном случае это ничего не дает, поскольку алгоритм должен быть
воспроизводимым. Он должен позволять предвидеть будущие состояния, между
тем как одно и то же общество, поставленное дважды в одну и ту же
ситуацию, совсем не обязано вести себя одинаково. И именно так обстоит
дело со всеми системами очень высокой сложности.
Как можно строить такие "черные ящики"? Мы знаем, что это в принципе
возможно. Возможно построить систему произвольной степени сложности без
всяких предварительных планов, расчетов, без поиска алгоритмов. Мы это
знаем, потому что сами являемся такими "черными ящиками". Наше тело
подвластно нам, мы можем отдавать ему определенные приказы, хотя и не
знаем его внутреннего строения (точнее говоря, не обязаны знать; знание
такого рода не является необходимым). Мы возвращаемся к ситуации прыгуна,
который умеет прыгать, хотя и не знает, как он это делает, то есть не
располагает сведениями о динамике нервно-мышечных импульсов, результатом
которых является прыжок. Итак, великолепным примером устройства, которым
можно пользоваться, не располагая его алгоритмом, является каждый человек.
Одним из "самых близких нам" во всем Космосе устройств подобного рода
является наш собственный мозг: он находится у нас в голове. Тем не менее
по сей день неизвестно в деталях, как он работает. Изучение его механизмов
с помощью самонаблюдения - метод в высшей степени ненадежный (как
показывает история психологии), сбивающий на самые неправдоподобные
гипотезы. Мозг построен так, что, обслуживая наши действия, сам остается
"в тени". Конечно, дело тут не в коварстве нашего конструктора, Природы,
это просто результат естественного отбора: именно он наделил нас
способностью мыслить, потому что она была эволюционно полезна. Поэтому мы
мыслим, хотя и не знаем, как это происходит, - ведь наделять нас подобными
сведениями не входило в "расчеты" эволюции. Она ничего не скрывала; она
лишь устранила из поля своей деятельности всякое знание - с ее "точки
зрения" лишнее. Ну а если оно не лишнее с нашей точки зрения - что ж, нам
придется добывать его самим.
Таким образом, предлагаемое кибернетикой необычное решение, согласно
которому машина полностью исключена из сферы человеческого знания, в
"популярной" форме, и притом весьма давно, было представлено Природой.
Пусть так, скажет кто-нибудь, но человеку его "черный ящик", его тело
и мозг, стремящийся к оптимальному решению жизненных проблем, дала
Природа, создав их в результате проб и ошибок, продолжавшихся миллиарды
лет. Должны ли мы пытаться скопировать плоды ее творчества? И если да, то
каким образом? Нельзя же всерьез предлагать повторение - на сей раз
техническое - эволюции! Такая "кибернетическая эволюция" поглотила бы если
не миллиарды, то миллионы, да пусть даже сотни тысяч лет... И как вообще
начать это дело? Атаковать ли эту задачу с биологической стороны или же с
небиологической?
У нас нет ответа. По-видимому, нужно будет испытывать всевозможные
пути, особенно те, которые по различным причинам были для эволюции
закрыты. Однако в наши планы не входит фантазировать на тему о том, какие
"черные ящики" мыслимы в процессе технологической эволюции. Известно, что
только очень сложный регулятор может справиться с очень сложной системой.
Поэтому нужно искать именно такие регуляторы - в биохимии, в живых
клетках, в молекулярной структуре твердого тела, везде, где это возможно.
Мы знаем, следовательно, чего мы хотим и что ищем. Мы знаем также от
нашего репетитора Природы, что задачу можно решить. Таким образом, мы
знаем столько, что уже одно это означает половину успеха.
[ Титульный лист ]
[ Содержание ]
<= Глава четвертая (e) ]
[ Глава четвертая (g) =>
Станислав ЛЕМ
СУММА ТЕХНОЛОГИИ
[ Титульный лист ]
[ Содержание ]
<= Глава четвертая (f) ]
[ Глава четвертая (h) =>
ГЛАВА ЧЕТВЕРТАЯ
ИНТЕЛЛЕКТРОНИКА
(g) О МОРАЛИ ГОМЕОСТАТОВ
Пришло время ввести в сферу наших кибернетических рассуждений
моральную проблематику. Ситуация на самом деле обратная: не мы вносим
вопросы этики в кибернетику, а она, кибернетика, разрастаясь, охватывает
своими последствиями в числе прочего то, что мы называем моралью, то есть
систему критериев, дающих оценку действиям, причем оценку - с объективной
точки зрения - произвольную. Мораль в той же мере произвольна, как и
математика, поскольку обе выводятся с помощью логических рассуждений из
принятых аксиом. Можно, например, принять за одну из аксиом геометрии, что
через точку, лежащую вне прямой, проходит только одна прямая, параллельная
данной. Можно отбросить эту аксиому, и тогда мы получим неевклидову
геометрию. Самое главное отдавать себе отчет, когда именно мы поступаем
согласно принятым заранее условиям (как при выборе геометрических аксиом),
поскольку эти условия, этот выбор зависят от нас. Можно принять за одну из
аксиом морали, что необходимо уничтожать детей с врожденными физическими
уродствами. Тогда мы получим известную из истории "тарпейскую мораль",
которая в результате скандала, разразившегося в связи с талидомидом, в
последние годы подверглась страстному обсуждению и была окончательно
отброшена 1. Часто говорят, что существуют внеисторические моральные
императивы. С этой точки зрения "тарпейская мораль", даже в наиболее
смягченной форме (например, постулат эвтаназии 2 людей, испытывающих муки
вследствие неизлечимых болезней), будет аморальной, будет преступлением,
злом. В действительности же тут происходит оценка одной системы морали с
позиций другой. Разумеется, мы выбираем другую, "нетарпейскую" систему; но
коль скоро мы признаем, что и она возникла в процессе общественной
эволюции человека, а не дана нам свыше, мы должны признать и тот факт, что
в истории применялись и другие системы. Вопрос о расхождении морали
провозглашаемой и морали практикуемой вносит осложнения в эту проблему, но
они нас не интересуют, ибо мы ограничимся только описанием реальных
действий, исключая их вполне возможный камуфляж, или, проще говоря,
дезинформацию. Тот, кто дезинформирует, провозглашает на словах не ту
мораль, которую применяет на деле. Сама потребность в дезинформации
указывает на то, что определенные моральные аксиомы безраздельно
господствуют в общественном сознании, в противном случае не было бы нужды
в искажении фактов. Но даже сами факты могут в различных цивилизациях
получить диаметрально противоположную оценку. Сравним моральные аспекты
современной проституции и вавилонской. Вавилонские храмовые блудницы
отдавались не для личного заработка, а по "высшим мотивам" - их религия
одобряла такое поведение. Оно было в полном согласии с моралью, вытекавшей
из этой религии. Тем самым в рамках своего времени и своего общества они
не подлежали осуждению - в противоположность современным куртизанкам, ибо
по сегодняшним моральным критериям проституция - это зло. Таким образом,
одна и та же деятельность получает две прямо противоположные оценки в
пределах двух различных культур.
Введение кибернетической автоматизации влечет за собой довольно
неожиданные моральные проблемы. Стаффорд Бир 3, один из пионеров в области
кибернетизации больших капиталистических предприятий, постулировал
возможность создания "фирмы-гомеостата" и в качестве примера рассмотрел
теорию регулирования деятельности большого сталелитейного производства.
"Мозг" такого предприятия должен так оптимизировать все процессы, из
которых складывается выплавка стали, чтобы производство было наиболее
продуктивным, эффективным и независимым как от колебаний предложения
(рабочей силы, руды, угля и т. д.) и спроса, так и от внутренних изменений
в системе (неравномерность процесса производства, нежелательный рост
себестоимости изделий). Согласно представлениям Бира, такая
производственная единица должна быть ультрастабильным гомеостатом, который
немедленно реагирует на всякое отклонение от равновесия изменением
внутренней организации и тем самым возвращается к равновесию.
Оппоненты-специалисты, которым эта теоретическая модель была представлена,
обратили внимание на то, что ей недостает "религии". Бир сознательно
смоделировал это предприятие-гомеостат по принципу действия живого
организма. Но в природе единственным, по существу, критерием "ценности"
организма является его способность к выживанию любой ценой. Иначе говоря,
при случае также и ценой пожирания других организмов. Натуралист, понимая,
что в Природе не существует "системы моральных оценок", не считает
поведение голодных хищников аморальным. Таким образом, возникает вопрос:
"может ли", то есть "имеет ли право", "организм-предприятие" в случае
нужды "пожирать" своих конкурентов? Имеется много таких вопросов; правда,
возможно, не столь острых. К чему должно стремиться такое гомеостатическое
предприятие - к максимальной производительности или к максимальной
прибыли? А что, если с ходом времени неизбежные технологические сдвиги
сделают производство стали ненужным? Должна ли "тенденция к выживанию",
