Из шахматной теории известно, что (за исключением неболь­шого числа очень специальных случаев) при правильной игре в этом эндшпиле неизбежна победа того, кто владеет ферзем. Шах­матные мастера обычно уверенно выигрывают этот эндшпиль против любого противника. Поэтому, играя за обладателя короля и ладьи, программа Томпсона выбирала ходы так, чтобы максимально от­тянуть свой проигрыш. На конференции присутствовали два меж­дународных шахматных мастера: Ханс Берлинер, экс-чемпион мира в игре по переписке, и чемпион Канады Лоренс Дей. Томпсон пригласил их показать, как, имея ферзя, выигрывать у машины, играющей с ладьей. К своему крайнему смущению, шахматисты обнаружили, что им не удается выиграть даже после многочислен­ных попыток. И это несмотря на то, что любая позиция, которая встречалась им на протяжении игры, была для них выигрышной.
Машина снова и снова делала оборонительные ходы, казав­шиеся шахматистам очень странными и противоречащими интуи­ции, и от неожиданности они в очередной раз упускали победу. Например, хорошо известно, что в этом эндшпиле нужно всегда придерживаться главнейшего правила: «Не уводить ладью далеко от короля». Предполагается, что ладья нуждается в короле для зРазработка экспертных систем
Чтобы облегчить разработку экспертных систем, предназна­ченных для других областей знаний, из системы МИЦИН были изъя­ты конкретные правила, связанные со спецификой диагностиру­емого заболевания; осталась лишь универсальная система, полу­чившая название Эссеншпал (базовая) МИЦИН, или ЭМИЦИН. На ее основе была создана совершенно самостоятельная экспертная система для диагностики легочных заболеваний - ПАФФ, которая ныне широко применяется в Тихоокеанском медицинском центре в Сан-Франциско.

Но почему именно шахматы? Читатели, знакомые с исследова­ниями в области генетики и наследственности, знают важность плодовой мушки дрозофилы (Drosophila melanogaster). Маленькие размеры этого насекомого, его плодовитость и жизненный цикл (продолжительностью всего лишь 11 дней) позволяют ученым на­блюдать за последствиями своих экспериментов по скрещиванию на многих поколениях. При этом не требуется ни долгих лет ожи­дания, ни больших помещений, ни средств на кормление подопыт­ных животных. Шахматы представляют собой задачу сравнительно компактную, чтобы с ней можно было работать машине, но вместе с тем достаточно обширную, чтобы после нее проблема составления графика промышленного производства показалась почти тривиаль­ной. Шахматы - это своего рода дрозофила искусственного ин­теллекта .
В 1977 г. на конференции Международной федерации по обработке информации, происходившей в Торонто, Кеннет Томпсон из научно-исследовательской фирмы «Белл телефон лабораторис» представил собравшимся компьютерную программу игры в эндшпиле: король и ферзь против короля и ладьи. Разработал он эту программу пре­дельно топорным методом: при отсутствии полного набора правил игры в эндшпиле он просто заранее составил программу, указы­вающую, что делать в каждой из возможных позиций - а их было 4 млн. Программа составлялась методом перебора от конца к на­чалу. С этой целью для каждой позиции выяснялось, каким бы мог быть наилучший предшествующий ход, приведший к данному положению на доске. Все эти ходы были затем занесены в гигант­скую справочную таблицу, хранящуюся в машинной памяти, при­чем каждый элемент таблицы означает:

К сожалению, эти усилия не всегда приносят ощутимую пользу. Становится все яснее, что именно сложность управленческого аппарата повинна в нашем экономическом застое. Производство и торговля требуют действий, но они оказываются безрезультатными из-за бюрократических препон и неразберихи. Если мы не пони­маем, как нужно обращаться с системой, то вряд ли можно ждать от нее чего-то путного. Сложность тормозит происходящий про­цесс - вот поистине тот гаечный ключ, который попал в шестеренки механизма.
И снова решение очевидно: чтобы избежать «загрязнения» окружающего мира сложностью, нужно придать технике такой вид, который упростил бы людям понимание ее работы. А это позволило бы перевернуть дробь познание/сложность с ног на голову.
Чтобы понять, как это можно было бы сделать, обратим внимание на одно благо, которое, как мы показали, наиболее существенно для любой познавательной деятельности, а именно запас знаний. Возникает вопрос: как представляются знания в машине? Тради­ционно - совсем не так. как у человека. Изначально это дикто­валось соображениями экономии, а возможно, техника еще не доросла до такого уровня, чтобы одной из первейших задач ее считалась доступность пониманию. Но как бы то ни было, такое положение вещей привело к тому, что если в нормальных условиях машина еще способна удовлетворительно выполнять свою работу, то в случае какого-либо отказа люди, непосредственно работающие с ней, с трудом смогут сообразить, что делать, или просто не пой­мут, действительно ли что-то случилось.

Но как мы этого добивались? Без сомнения, с помощью техники, которую в последнее столетие немного «приправили» наукой. По­нятие «техника» мы используем здесь в самом широком смысле, включая в него все полезные навыки и ремесла. Таким образом, если наука и техника открывают перед нами дорогу к познанию и управлению и если их мощь и всеобъемлющий характер развива­ются все быстрее, не значит ли это, что так же должна расти и власть человека над тем, что его окружает, включая и наше собственное благосостояние?
Если бы мир, в котором мы живем, не менялся, то все было бы легко и просто; однако широту нашего познания и наших возмож­ностей управлять нужно оценивать дробью. В числитель такой дроби следует поставить мощность наших средств познания и уп­равления, а в знаменатель - сложность среды, в которой они будут применяться. Главным последствием технического прогресса является то, что эта среда становится все более искусственной, а следовательно,- по самой природе процесса - все более сложной.
Итак, рассмотрим отношение познание/сложность. Пока чис­литель растет быстрее знаменателя, мы в выигрыше. В противном случае рано или поздно сложность окружающего мира начнет превосходить наши возможности его понимания и покорения.

Похоже, все мы едины в своих сожалениях по этому поводу. Но разные люди по-разному относятся к тому, какую именно со­ставляющую этого процесса следует клеймить. Одни абсолютно уверены, что в этом повинны профсоюзы, которые состоят в тайном заговоре с невидимой сетью подрывных элементов и террористов всего мира, добивающихся своих политических целей. По мнению других, виновников следует искать в конторах гигантских корпо­раций и банков, возможно действующих в союзе с тайной сетью транснациональных монополий и картелей, во главе с одним-двумя «злыми карликами» из Цюриха, преследующими своп политические цели. Есть и третья «школа мысли», быть может, не столь подвер­женная страстям, как предыдущие две, но зато еще более бредовая, которая считает, что во всем виновата сама техника. Не редки случаи, когда разъяренный покупатель готов срывать злость на неработающем автомате по продаже мелких товаров до тех пор, пока окончательно не лишит его возможности работать.
Хотя, возможно, подобная антитехническая позиция не столь и бредова. Эту идею можно по крайней мере обсудить, поскольку приведенные ранее примеры действительно говорят о том, что наши технические достижения чем-то похожи на неработающий автомат.
Придется сделать небольшой экскурс в глубины истории, чтобы выяснить, а был ли на всем ее протяжении какой-либо устойчивый и в то же время эволюционирующий процесс? Такой процесс не­трудно найти - толчком ему послужило развитие земледелия. И тысячелетие за тысячелетием наши предки, казалось, не заме­чали, что этот процесс непрерывно идет в одном направлении, пока б XIX-XX вв. мы не достигли последней стадии ускорения.

Обращаясь теперь к менее кошмарным, но более насущным про­блемам, посмотрим на глубокий застой в экономике, высокий уро­вень безработицы, кризисы доверия, которые в последние годы все больше беспокоят западный мир. Все эти явления, действительно имеющие место, на первый взгляд совершенно необъяснимы. Начнем с проблемы экономического роста, а точнее - его отсутствия. На самом деле производительный капитал промышленно развитых стран не сокращается. Тем не менее в связи с непрерывным про­грессом науки и техники он постоянно трансформируется. Какова природа этого изменения? Вложенный капитал приносит более высокие прибыли. Рабочие на заводах ныне могут производить за день больше, чем тридцать лет назад. Фермер может накосить больше сена, чем нужно для того, чтобы оправдать прокат сеноко­силки. Недалек день, когда появятся самоуправляемые сенокосилки.
Более того, научно-техническое развитие происходит не просто с постоянной скоростью: каким бы способом мы ни оценивали его темпы, очевидно, что они неуклонно возрастают. Почему в таком случае мы не богатеем такими же темпами? Даже делая скидку на потери, связанные с реорганизацией работы в тех или иных отрас­лях, человечество в целом должно бы оказаться в значительном выигрыше. Видимо, действует некая сила, блокирующая тот рог изобилия, из которого, казалось, должны были бы ныне сыпаться блага на всех нас.

Экстраполируем эту тенденцию до 2010 г. и представим себе, что автоматическая система городской администрации, сети меди­цинских учреждений, банков и управления дорожным движением, система массовой информации, обретя достаточно сильный встроен­ный интеллект, окажутся лучше приспособленными к решению большинства заданий, чем люди. Кроме того, эти системы будут обладать собственными автономно перемещающимися радиоуправ­ляемыми исполнительными механизмами и смогут непосредственно и многообразно общаться друг с другом. Вообразим теперь ситуа­цию, когда контролируемые компьютером системы начнут фор­мулировать собственные цели, когда не найдется никого, кто хотя бы понимал соответствующую документацию, не говоря уже о работе самих систем. Каждый человек способен различать лишь одну-единственную тропинку в электронных джунглях. В этом случае мы должны быть абсолютно уверены в том, что все оценочные функции и эвристические правила именно таковы, как нам хотелось бы, ибо электронному городу придется вступать в различные де­ловые контакты с другими подобными электронными городами. Каждый город имеет в своем распоряжении определенные ресурсы и может заключать определенные договоры. Один город, например, желает как-то перестроить свое водоснабжение, а от системы уп­равления другого города зависит стоимость этой перестройки. А в обмен система регулирования дорожного движения в первом го­роде может, скажем, сделать так, чтобы толпы футбольных болель­щиков в воскресенье направлялись по другому маршруту... и т. д. К 2500 или 3000 г. это может кончиться тем, что люди превратятся в безвольные придатки автоматизированных городов, управляемых гигантскими электронными «нервными системами», действия кото­рых подчиняются выработанным ими же непостижимым стратегиям и законам.

Если вычислительные системы будут и в дальнейшем разви­ваться по тому же пути, как сейчас, когда на их и без того не слиш­ком надежную архитектуру возлагается все больше функций, то можно не сомневаться, что ЭВМ 90-х годов станут совершенно не­пригодными для пользования: неуправляемыми и пугающими - этакими помощниками всемирного «злого духа». Человеческое общество, которое уже сейчас сильно зависит от подобных машин, столкнется с кризисом чудовищных масштабов. Вычислительные машины - в том виде, как они существуют сейчас,- в некотором смысле уже достигли предела своих возможностей. Сегодня главная задача состоит уже не в том, чтобы довести их производительность до максимума, извлечь все возможное из машинных ресурсов. На­против, их работа должна основываться на совершенно иной идее - идее антропоцентризма. Чтобы мы могли понять работу машин, нужно научиться организовывать ее по образу и подобию работы человеческого мозга.
Можно и дальше развивать этот зловещий сюжет, представив себе наше будущее таким, как его не раз описывали писатели-фантасты, начиная с Сэмюела Батлера: мир, в котором власть захватили машины. Эта идея обычно отвергается техническими специалистами как абсурдная. Но так ли она абсурдна? Взять хотя бы ЭВМ, ко­торые уже используются в управлении жизнью наших городов. В ее функции входят не только задачи центральной администрации, но и коммунальные услуги, поддержание порядка в городе, обра­зование, банки, воздушное сообщение, регулирование уличного движения, проблемы строительных и планирующих организаций. И наступает такой момент, когда соответствующие вычислительные сети начинают непосредственно обращаться друг к другу - пер­воначально по самым простым поводам.

В течение восьми месяцев 1979-1980 гг. вооруженные силы США получили три ложных сигнала тревоги, предупреждающих о «на­падении» советских ракет. Все сигналы поступили из центра уп­равления Северо-американскими воздушными силами, запрятанного в глубине горы Шайенн в шт. Колорадо. Первая ложная тревога была просто результатом ошибки оператора, который по небреж­ности заложил в систему пленку с информацией, предназначенной для обучения. Второй раз вышел из строя один из компонентов системы: отказала интегральная схема. Третий сигнал оказался преднамеренным - это была попытка воспроизвести условия вто­рой тревоги в целях проверки .
К счастью, спустя несколько минут после этих ложных тревог был дан отбой, однако вызванное ими нервное перенапряжение не забыто. Совершенно ясно, что система, которая в буквальном смысле слова может привести к концу света, должна быть сделана так, чтобы полностью исключалась возможность недопонимания в взаимосвязи человек - машина.
Вывод, который следует из этих историй, очевиден: по мере того как технические системы все более усложняются, их стано­вится все труднее понимать, а следовательно, и контролировать. Особенно это относится к вычислительным системам, которые, даже предназначаясь для выполнения простейших вещей, должны быть очень сложными. Мы стремимся к тому, чтобы они смогли решать задачи практического значения, и тем самым увеличиваем их сложность до уровня, понимание которого лежит вне возможно­стей человека или даже группы людей. Такое время уже пришло.

Управление воздушным сообщением вызывает равное беспокойство как у пассажиров, так и у диспетчеров и в Америке, и в Европе. Слишком частыми стали случаи, когда самолеты едва не сталки­ваются в полете, не говоря уже о сбоях в электронном оборудовании, которые оставляют диспетчеров беспомощными на протяжении столь драгоценных секунд, а то и минут. По данным лаборатории координирования научных исследований Иллинойсского универси­тета управление воздушным сообщением с помощью ЭВМ в Аме­рике становится столь сложным, что операторы иногда с трудом могут разобраться в происходящем. Что касается перспектив на будущее, то высказываются две противоположные точки зрения на то, какими должны быть системы управления, которые придут на смену существующим ныне. Одни специалисты призывают ко все большей автоматизации, полагая, что это исключит неопределенно­сти, связанные с присутствием человека; другие считают, что люди и машины должны быть в своем роде партнерами в этом общем деле. Но по какому бы пути ни пошло дальнейшее развитие систем управления, всегда возможны ситуации, где потребуется вмешатель­ство человека. II если создатели системы заранее не позаботятся о том, чтобы человек мог понять, как работает система, то его вме­шательство скорее всего будет весьма незначительным и произойдет с большим опозданием.