немощью математики. Речь идет о построении усилителя интеллекта, о
создании самопрограммирующегося автомата для управления производством и,
наконец, о наиболее широкой проблеме - о построении универсального
гомеостата, сложность которого была бы сравнима с нашей собственной,
человеческой.
Усилитель интеллекта (впервые выдвинутый как реальная конструкторская
задача, по-видимому, в работах Эшби 1 должен представлять собой в сфере
умственной деятельности точный аналог того усилителя физической силы,
каким является любая управляемая человеком машина. Усилителями силы
являются автомобиль, экскаватор, подъемный кран, металлообрабатывающий
станок и вообще любое устройство, в котором человек "подключен" к системе
управления в качестве регулятора, а не источника энергии. Уровень
индивидуальных умственных способностей отклоняется от среднего значения не
больше, чем отклоняется уровень физических способностей, хотя на первый
взгляд кажется, что это не так. Средний показатель интеллектуальности
(измеренный наиболее употребительными психологическими тестами) составляет
около 100-110; у людей с очень сильным интеллектом он достигает 140-150, а
верхняя, чрезвычайно редко достигаемая граница лежит вблизи 180-190. Между
тем усилитель интеллекта приблизительно с таким же коэффициентом, какой
имеет усилитель физической силы рабочего на производстве (обслуживаемая им
машина), дал бы показатель интеллектуальности порядка 10000. Возможность
создания такого усилителя не менее реальна, чем возможность создания
машины в сто раз более сильной, чем человек. Правда, в настоящее время
шансы на создание такого усилителя не очень велики, ибо первоочередной
является постройка упомянутого управляющего автомата для промышленности
("гомеостатического мозга автоматического завода"). Однако я
останавливаюсь на примере усилителя интеллекта потому, что на нем
нагляднее видна та фундаментальная трудность, с которой сталкивается в
подобных задачах конструктор. Дело в том, что он должен создать
устройство, которое было бы "умнее его самого". Ясно, что если бы он хотел
действовать согласно методу, который стал уже традиционным в прикладной
кибернетике, то есть если бы он стал разрабатывать программу работы своей
машины, то поставленная задача не была бы решена: наличие программы ставит
предел "интеллектуальности", достижимой для создаваемой машины. На первый
взгляд - но только на первый - задача представляется неразрешимым
парадоксом. Действительно, задача оказывается неразрешимой (по меньшей
мере, согласно нынешним критериям), если постулировать создание теории -
теории, предшествующей постройке усилителя и по необходимости
математической; это похоже на предложение поднять себя за волосы (да
притом со стотонным грузом, привязанным к ногам). Но существует (пока лишь
гипотетическая) возможность совершенно иного подхода к проблеме. Детальные
сведения о внутреннем устройстве усилителя интеллекта нам недоступны. Но,
быть может, они и не нужны? Нельзя ли смотреть на этот усилитель как на
"черный ящик", то есть как на устройство, о внутреннем строении и
последовательных состояниях которого у нас нет ни малейшего понятия, как
на устройство, в котором нас интересуют только конечные результаты его
действия? Подобно всякому уважающему себя кибернетическому устройству,
усилитель интеллекта обладает "входами" и "выходами"; между ними
простирается область нашего неведения. Но чему это повредит, коль скоро
данное устройство и в самом деле ведет себя так, как интеллект с
показателем интеллектуальности, равным 10000?!
Поскольку метод этот нов и никогда еще не применялся, он похож скорее
на шуточку из комедии абсурда, чем на производственный рецепт. Но
несколько примеров, быть может, оправдают этот метод. Пусть, скажем, в
маленький аквариум с колонией инфузорий всыпали немного железного порошка
(такой опыт производился). Инфузории вместе с пищей поглощают небольшое
количество этого железа. Создадим теперь вне аквариума магнитное поле; оно
будет определенным образом влиять на движение инфузорий. Сигналами на
"входе" этого "гомеостата" будут служить изменения напряженности поля;
состояние "выхода" определяется поведением самих инфузорий. Мы пока не
представляем, для чего можно было бы приспособить этот
"инфузорно-магнитный" гомеостат, и в данном виде он не имеет ничего общего
с гипотетическим усилителем интеллекта. Но суть дела не в этом. Хотя
сложность устройства отдельной инфузории нам совершенно неизвестна и мы не
можем даже нарисовать ее принципиальную схему (как рисуют схемы машин),
все же из этих неизвестных нам в подробностях элементов нам удалось
создать объемлющее их целое, подчиняющееся законам поведения
кибернетических систем с их "входом" и "выходом" сигналов. Вместо
инфузорий можно было бы взять определенные типы коллоидов или пропускать
электрический ток через многокомпонентные растворы. При этом определенные
вещества могли бы осаждаться, меняя проводимость раствора в целом. Это в
свою очередь могло бы привести к появлению эффекта "положительной обратной
связи", то есть к усилению сигнала. Должно признать, что подобные
эксперименты пока не привели к перелому. Многие кибернетики неодобрительно
смотрят на сей еретический отход от традиционного оперирования элементами
электронных схем, на эти поиски нового строительного материала,
приближающегося в известном смысле к материалу, из которого построены
живые системы (это сближение, кстати сказать, отнюдь не случайно!) 2.
Независимо от исхода подобных поисков мы теперь несколько лучше
понимаем, как можно из "непонятных" элементов построить систему, которая
функционировала бы так, как нам нужно. Возникает принципиальное изменение
методики в самой основе конструкторской деятельности. Инженерное искусство
ведет себя сегодня примерно так же, как человек, который даже и не
пытается перепрыгнуть через канаву, пока предварительно теоретически не
определит все существенные параметры и связи между ними: силу гравитации в
данном месте, силу собственных мышц, кинематику движений своего тела,
характеристики процессов управления, происходящих в его мозжечке, и т. д.
Технолог-еретик из кибернетической школы, напротив, намеревается попросту
перепрыгнуть через канаву и не без основания полагает, что если ему это
удастся, то тем самым проблема будет решена. При этом он опирается на
следующий факт. Любое физическое действие, например упомянутый прыжок,
требует подготовительной и реализующей работы мозга, которая является
ничем иным, как сложной, неимоверно запутанной последовательностью
математических процессов (ибо к ним вообще сводится любая работа мозговой
сети нейронов). Но этот же самый прыгун, хотя у него в голове и содержится
вся эта "мозговая математика" прыжка, совершенно не в состоянии записать
на бумаге ее теоретико-математический эквивалент, то есть соответствующее
количество строгих формул и преобразований. Это происходит, по-видимому,
по той причине, что "биоматематика", которую практикуют все живые
организмы до инфузорий включительно, может быть вербализована, то есть
переложена на язык математики в классическом (школьном или
университетском) понимании этого слова только путем неоднократного
перевода системы импульсов с одного языка на другой. Имеет место перевод с
бессловесного и "автоматического" языка биохимических процессов и
нейронных возбуждений на язык символов, формализацией и конструированием
которого занимаются определенные участки мозга, отличные от тех, которые
реализуют "врожденную математику" и отвечают за нее. И решение нашей
проблемы состоит именно в том, чтобы усилитель интеллекта не занимался
формализацией, конструированием, вербализацией, а действовал бы так же
автоматически и "наивно" и в то же время так же искусно и безошибочно, как
и нейронные структуры прыгуна, - чтобы этот усилитель не занимался ничем,
кроме преобразования сигналов, приходящих на "вход" с целью получения
готовых результатов на "выходе". Ни он, этот усилитель, ни его конструктор
- никто вообще - совершенно не будет знать, как усилитель это делает, зато
мы получим то единственное, чего добиваемся: нужные результаты.
1
У. Р. Эшби, Введение в кибернетику, ИЛ, 1959.
2
Г. Паск, Модель эволюции, в сб. "Принципы самоорганизации", изд-во
"Мир", 1966.
[ Титульный лист ]
[ Содержание ]
<= Глава четвертая (d) ]
[ Глава четвертая (f) =>
Станислав ЛЕМ
СУММА ТЕХНОЛОГИИ
[ Титульный лист ]
[ Содержание ]
<= Глава четвертая (e) ]
[ Глава четвертая (g) =>
ГЛАВА ЧЕТВЕРТАЯ
ИНТЕЛЛЕКТРОНИКА
(f) ЧЕРНЫЙ ЯЩИК
В древние времена каждый человек знал и назначение и устройство своих
орудий: - молотка, лука, стрелы. Прогрессирующее разделение труда
уменьшало это индивидуальное знание, и в современном промышленном обществе
существует отчетливая граница между теми, кто обслуживает устройства
(рабочие, техники) или пользуется ими (человек в лифте, у телевизора, за
рулем автомашины), и теми, кто знает их конструкцию. Ни один из ныне
живущих не знает устройства всех орудий, которыми располагает цивилизация.
Тем не менее некто, знающий все, существует - это общество. Знание,
частичное у отдельных людей, становится полным, если учесть всех членов
данного общества.
Однако процесс отчуждения, процесс изымания сведений об орудиях из
общественного сознания развивается. Кибернетика продолжает этот процесс,
поднимая его на более высокую ступень. Ибо в принципе возможно создать
такие кибернетические устройства, структуру которых не будет знать уже
никто. Кибернетическое устройство превращается в "черный ящик" (термин,
который охотно употребляют специалисты). "Черный ящик", например, может
быть регулятором, подключенным к определенному процессу (к процессу
производства товаров или к процессу их экономического круговорота, к
процессам управления транспортом, лечением болезни и т. п.). Необходимо
лишь, чтобы определенным состоянием "входа" отвечали вполне определенные
состояния "выхода" - и ничего более. Создаваемые пока что "черные ящики"
настолько просты, что инженер-кибернетик знает характер связи между
величинами на их "входах" и "выходах". Эта связь выражается какой-нибудь
математической функцией. Возможна, однако, и такая ситуация, когда даже
конструктор не будет знать математического выражения этой функции. Его
задачей будет создать "черный ящик", выполняющий определенные регулирующие
действия. Однако ни конструктор, ни кто-либо иной не будет знать, как
"черный ящик" выполняет эти действия. Математический вид функции,
выражающей зависимость состояний "выходов" от состояний "входов", не будет
известен никому, причем не потому, что узнать это невозможно, а потому,
что знать это ненужно.
Неплохим введением в проблематику "черного ящика" может служить
рассказ о сороконожке, которую спросили, как это она помнит, какую ногу ей
нужно поднять после двадцать седьмой. Сороконожка, как известно, надолго
задумалась над этим и, не сумев найти ответ, умерла с голоду, потому что
больше уже не могла сдвинуться с места. Эта сороконожка является в
действительности "черным ящиком", который выполняет определенные действия,
хотя и "не имеет понятия", как он их выполняет. Принцип действия "черного
ящика" является необычайно общим и, как правило, очень простым, выраженным
