ОГЛАВЛЕHИЕ
>>>
В этом разделе мы продолжим наше обсуждение, и я попрошу вас набраться терпения. Мы рассмотрим дальнейшие параллели между машиной и человеческим мышлением, которое обычно полностью автоматично, приукрашено и неосознаваемо. Для того чтобы произошло пробуждение, мышление должно стать более осознанным.
В предыдущем разделе мы наделили машину, подъемный кран из нашего примера, некоторыми зачаточными формами интеллекта. В четвертом поколении своей эволюции подъемный кран уже мог распознавать некоторые изменения, происходящие в окружающей среде, и вносить соответствующие коррекции в свое поведение в соответствии с поставленной перед ним задачей – в данном случае это перестановка ящиков с одного транспортера на другой.
Для достижения способности реагировать на степень изменений, а не просто на изменения типа "все или ничего", мы добавили к подъемному крану компьютер, простейшую форму мозга. Коль скоро у нас теперь есть вычислительные возможности этого компьютера, давайте заставим наш подъемный кран пятого поколения совершить эволюционный скачок, который приблизит степень его разумности к тому интеллекту, который мы наблюдаем у человека.
Используя приобретение способности справляться с более сложными задачами как побудительный стимул для эволюции, давайте представим, что по транспортеру поступают разные ящики, которые затем должны переноситься на три разных транспортера в зависимости от типа ящиков, так как различная продукция, упакованная в эти ящики, должна храниться в разных частях склада. Таким образом кран пятого поколения из простого переносчика становится краном-сортировщиком, способным принимать решение о типе ящиков, прежде чем переносить их на соответствующий транспортер. Людям обычно приходится совершать выбор из множества различных возможностей, а не просто всегда одинаково реагировать на один и тот же стимул. Действительно, чаще всего мы предпочитаем принимать решение, которое затем побуждает нас действовать.
Ящики могут иметь разные размеры и содержать в себе разную продукцию. Часть продукции в ящиках легкая и хрупкая, часть – тяжелая и прочная. Тяжелые ящики с прочной продукцией требуют более сильного захвата, чтобы ящик не выскользнул и не упал при подъеме. Однако если то же усилие захватов использовать при подъеме легких ящиков, то они могут быть раздавлены. Таким образом, усилие захватов должно соответствовать типу ящиков.
Как и в предыдущих примерах, расположение ящиков на транспортере может быть разным: некоторые из них стоят правильно, некоторые повернуты под тем или иным углом. Иногда бывает более длинный промежуток времени перед тем, как по транспортеру поступает новый ящик; иногда бывает так, что несколько ящиков стоят вплотную друг к другу.
Мы бы не захотели нанимать рабочего, который бывает настолько поглощен своей работой, что не замечает неожиданных, но жизненно важных изменений в окружающей обстановке и потому не может на них реагировать.
Мы уже разбирали случай, когда один из транспортеров, на которые нужно перегружать ящики, останавливается. Но что делать, если он вдруг начал двигаться в обратную сторону? Или, например, представим, что на складе возник пожар, создающий угрозу для человеческой жизни и для всего оборудования. А что если какой-то посторонний человек вошел в зону работы крана? Или если за короткое время поступает так много ящиков, так что кран-сортировщик не успевает переносить их на другие транспортеры? Или же прекратилась подача питания на кран, и ящики начали нагромождаться возле транспортера? Если наш кран-сортировщик пятого поколения действительно совершил качественный скачок в своей разумности, то он должен реагировать на все эти возможные события.
Наш первый эволюционный шаг состоит в том, чтобы добавить крану-сортировщику новые органы чувств. Отчасти эту задачу можно решить с помощью простых датчиков типа "все или ничего". Наши отводящие транспортеры должны быть оснащены датчиками, которые реагируют не только на то, движутся ли они или нет, но и на то, движутся ли они в правильном направлении. Датчик, реагирующий на высокую температуру, может служить сигнализатором возможного пожара. Простой измеритель напряжения может определять, поступает ли питание на подъемный кран.
Разобраться с различными размерами и разной ориентацией ящиков труднее. Кран четвертого поколения использовал телевизионную камеру над подающим конвейером, дополненную компьютером со специальной программой обнаружения форм и углов, так что он мог распознавать ящик и определять его Ориентацию и местоположение. Чтобы это делать, ему приходилось обращаться к памяти компьютера, которая определяла, как выглядит ящик на телевизионном изображении.
Как нам иметь дело с ящиками разного размера (а также разного веса и разной хрупкости)? Для простоты мы можем составить компьютерную программу распознавания ящиков, так чтобы она исходила из допущения (как обычно поступают и люди), что все эти три параметра взаимосвязаны: маленькие ящики обычно легкие и хрупкие, а чем они становятся больше, тем они тяжелее и прочнее. Тогда программа распознавания может подавать команду захватам использовать небольшое усилие для маленьких ящиков, все более увеличивая его по мере увеличения размеров ящиков.
Коль скоро наш компьютер достаточно мощный, чтобы на нем могла работать программа распознавания ящиков по телевизионному изображению, давайте установим вторую камеру, которая будет обозревать то пространство вокруг крана, в котором было бы нежелательно появление людей. Изображение с этой второй камеры должно анализироваться в компьютере для обнаружения присутствия человека. Мы можем значительно упростить эту процедуру. Нам не нужно знать, что это за человек, мужчина это или женщина, какого он или она роста, или какого цвета одежда на этом человеке. В действительности нам даже не нужно знать, человек ли это. Если что-либо будет передвигаться в запретной зоне, мы хотим, чтобы наша программа обнаружения постороннего присутствия тут же это замечала и останавливала кран.
Однако в этой ситуации есть и своя проблема. Кое-что регулярно входит в запретную зону и движется в ней, а именно сам работающий кран. Нам бы не хотелось, чтобы управляющий компьютер крана-сортировщика останавливал кран каждый раз, когда он обнаружит сам себя. Основная функция разума живых существ состоит в том, чтобы узнавать самого себя и отличать себя от не себя. Иначе мы могли бы поедать самих себя! Таким образом, программа обнаружения посторонних объектов должна анализировать изображение, поступающее с камеры, чтобы распознавать форму и движения крана как отличающиеся от любых других форм, движущихся в запретной зоне. Тогда команда остановки крана будет подаваться лишь в том случае, если обнаружится что-то, по своей форме не являющееся краном.
Поскольку наш кран-сортировщик должен ставить разные ящики на различные транспортеры, программа распознавания должна не только воспринимать ящики, но и классифицировать их по одному из нескольких параметров. Для простоты представим себе, что это делается только на основе размера.
Нам нужно, чтобы наш кран-сортировщик пятого поколения делал совсем немного вещей. Он должен (а) наблюдать за ящиками на подающем транспортере, (б) распознавать размер и расположение каждого ящика, поворачивать захваты в зависимости от расположения ящика, опускать захваты, когда ящик находится под ними, (в) захватывать ящик с усилием, соответствующим его размеру, и поднимать его, (г) классифицировать ящик по типу и направлять движение крана к соответствующему транспортеру, (д) поворачивать ящик таким образом, чтобы он был правильно ориентирован по отношению к ленте того транспортера, на который его нужно перенести, (е) установив ящик над нужным транспортером, (ж) опускать стрелу крана и раскрывать зажимы, (з) поднимать стрелу крана и (и) возвращать ее в исходное положение над подающим транспортером. В то же время система должна быть готова остановить транспортер и работу крана при сигнале тревоги в случае (к) пожара, (л) обнаружения посторонних в запретной зоне, (м) если любой из транспортеров останавливается или начинает двигаться в обратную сторону, или же (н) если на кран перестало поступать питание.
Все это представляется весьма сложным. Однако одним из результатов попытки создания все более разумных машин явилось то, что мы осознали, сколь многое в отношении наших простых действий мы считали само собой разумеющимся.
Понятно, что прекращение работы любого из транспортеров остановит процесс производства, так что это не должно происходить без необходимости. Поэтому возможность останавливать подающий транспортер, в том случае если любой из отводящих транспортеров останавливается или движется в обратную сторону, можно было бы далее усовершенствовать так, чтобы компьютер выключал подающий транспортер только в том случае, если он обнаружит на нем ящик, который должен быть перенесен на неисправный отводящий транспортер. Тем временем он мог бы подать сигнал тревоги обслуживающему персоналу, чтобы они починили неисправный транспортер, причем ремонт мог бы закончиться до того, как поступит новый ящик, предназначенный для этого транспортера.
Эта задача была бы вполне выполнимой, если бы наш компьютер имел неограниченные возможности по части программ и памяти. Но ни люди, ни компьютеры не обладают неограниченными возможностями. Хотя вы можете нанять много работников, чтобы они одновременно наблюдали за всеми этапами процесса, или можете купить очень мощный компьютер, но существуют экономические соображения: вам не хотелось бы вкладывать во все это слишком много денег без особой необходимости. Таким образом, на практике "внимание" нашего компьютера должно распределяться между всеми этими задачами так, чтобы, с учетом присущих ему ограничений, наилучшим образом соответствовать нашим целям.
Компьютеру нужно вполне ограниченное количество времени для анализа информации, поступающей по каждому из его сенсорных каналов, и столь же ограниченное время для вычисления того, что ему нужно делать с тем, что он обнаружит. Кроме всего прочего, компьютер может делать только одну вещь за раз, так что ему нужно будет потратить определенное время на одно задание, затем перейти к следующему заданию, затем к следующему и так далее. Последовательное выполнение серии этих заданий и возвращение к начальному состоянию – это цикл работы компьютера. Позволим ли мы компьютеру тратить столько времени, сколько ему необходимо на каждое задание, или равное количество времени на каждое задание (слишком много для одних, слишком мало для других), или более длительное время для решения более важных задач?
Те приоритеты, которые компьютер определяет для разных задач, являются механическим аналогом человеческих ценностей. Не вдаваясь пока в детальное рассмотрение роли эмоций, мы можем заметить, что то, что вы цените, можно определить по количеству времени, в течение которого эти вещи занимают ваше внимание, и по их приоритету, который определяет, насколько вы готовы ради них отложить все другие дела, когда возникает подходящая ситуация. Например, я провожу много времени за чтением книг, что показывает, насколько я ценю чтение. Более того, мне не нравится, когда другие люди заговаривают со мной, если я читаю интересную книгу. Хотя, если бы вы прервали меня, чтобы сказать, что в доме пожар, я был бы искренне рад! Я ценю свою жизнь и жизнь моей жены, и мне также хотелось бы сохранить свой дом от разрушения – это явно более важно, чем чтение интересной книги.
Давайте зададим нашей компьютерной управляющей программе систему ценностей в виде распределения времени на разные задачи и приоритетности выполнения этих задач.
Предположим, что анализ сигналов от каждого из датчиков нашего компьютера, подключенного к крану-сортировщику, занимает одну десятую секунды. У нас есть восемь датчиков (датчики пожара, вторжения посторонних в запретную зону, остановки каждого из трех транспортеров и правильного направления движения каждого из трех транспортеров). Если мы сочтем, что информация от каждого из этих датчиков имеет одинаковую ценность, то мы можем запрограммировать компьютер так, что он будет поочередно анализировать сигналы от каждого из этих датчиков. В этом случае цикл обработки сигналов от датчиков будет иметь восемь шагов. Если сигналы подтверждают, что все в порядке, кран-сортировщик может проверить, не поступает ли ящик (девятая операция длительностью 0.1 секунды), и, если он окажется на месте, начинает выполнять задание по его сортировке и перемещению. Если ящик не поступает, то компьютер может снова начать обрабатывать контрольные сигналы от своих восьми датчиков. Так этот цикл повторяется снова и снова до тех пор, пока не будет обнаружен поступивший ящик.
Обнаружение поступившего ящика на девятой стадии приведет к тому, что будет определен его тип и ящик будет перемещен по назначению. Допустим, что это займет 9,1 секунды, после чего кран возвратится в исходное положение, и тогда общее время на то, чтобы проверить сигналы от всех датчиков, обнаружить ящик, переместить его, а' затем возвратиться в исходное положение, составит ровно десять секунд.
Неявные ценности
Так как перемещение ящика занимает 9,1 секунды, в то время как проверка сигналов от датчиков занимает только 0,9 секунды, то мы в неявном виде задаем нашему крану-сортировщику систему ценностей, причем ценностей весьма материалистического толка. Мы можем выразить их в антропоморфной форме следующим образом:
Первая Заповедь: Если нет работы, которую нужно выполнять (нет ящика для сортировки и перенесения на другой транспортер), защищай человеческую жизнь и оборудование, посвящая 1/9 часть твоего времени проверке, нет ли в помещении пожара, и еще 1/9 часть твоего времени выяснению того, нет ли посторонних лиц в потенциально опасной зоне движения крана.
Вторая Заповедь: Если есть работа, которую нужно делать (сортировка и перемещение ящиков), отдавай меньший приоритет защите человеческой жизни. Защищай человеческую жизнь и оборудование, посвящая одну сотую часть твоего времени (0,1 секунды каждые 10 секунд) проверке, нет ли в помещении пожара, и еще одну сотую часть твоего времени выяснению, нет ли посторонних в опасной зоне.
В последнее десятилетие мы все больше осознаем, что порой то, что кажется простыми технологическими стратегиями и решениями, на самом деле оказывается выбором ценностей. Чем в меньшей мере мы признаем действительную сложность возникающих перед нами задач, тем больше потенциальных будущих неприятностей мы создаем для себя по причине своей собственной слепоты. Вероятно, наиболее мудрым будет предположить, что все планы в отношении того, как делать какие-то вещи, а не только те из них, что связаны с технологией, неявно касаются определенных ценностей, происходит ли это сознательно или бессознательно.
Автоматизм нашего мышления, восприятия и чувств, который мы рассматривали в предыдущей главе, способствует сохранению нашей слепоты по отношению к тому, что мы делаем. Ситуация стереотипно воспринимается как "инженерное решение" или "техническая проблема", и мы имеем тенденцию воспринимать наши предубеждения в отношении этой ситуации взамен ее действительной реальности.
Мы могли бы сказать, что наш кран-сортировщик пятого поколения способен разумно реагировать на опасные ситуации в то время, когда он не занят работой. Когда же он занят работой, он поглощен ею на достаточно долгое время, утрачивая на этот период контакт с внешней реальностью. Напрашивающиеся параллели со многими видами человеческой деятельности здесь достаточно очевидны.
Мы могли бы увеличить ценность, которую наш кран-сортировщик придает защите человеческой жизни, внеся изменения в программу цикла транспортировки. Напомним, что до этого кран, как только он обнаруживал поступивший по транспортеру ящик, переставал уделять внимание датчикам, связанным с состоянием окружающей среды до тех пор, пока он не завершал полностью цикл перемещения ящика, который занимал значительно больше времени, чем проверка состояния окружающей среды. Но мы можем изменить программу компьютера таким образом, что он будет контролировать наличие посторонних в зоне работы крана между разными стадиями в пределах цикла транспортировки. Теперь кран-сортировщик уже не так глубоко погружен в работу, он находится в большем "контакте с реальностью", с той реальностью, которую ценим мы, его создатели.
Ценности имеют свою стоимость
Отметьте, что мы заплатили определенную цену за то, что наш кран-сортировщик стал уделять больше внимания защите человеческой жизни. До того как мы добавили эту дополнительную проверку в цикл транспортировки, весь этот цикл занимал десять секунд. Если ящики поступали достаточно быстро, то кран мог сортировать и перемещать один ящик каждые десять секунд. После добавления дополнительных шагов проверки цикл стал более длинным и, соответственно, менее продуктивным. Настолько ли мы ценим человеческую жизнь, чтобы делать наш производственный цикл менее эффективным? Достаточно ли велика вероятность нахождения постороннего человека в зоне работы крана для того, чтобы оправдывать снижение продуктивности работы, или же мы принимаем слишком усердные меры защиты от очень маловероятного события?
Теперь наш кран-сортировщик усовершенствован настолько, что может приспосабливаться к тому, чтобы справляться с несколькими возможными типами изменений в окружающей обстановке. Он может быть более эффективным, действуя в соответствии с запрограммированной системой ценностей, а именно правильно переносить ящики самым эффективным способом, уделяя при этом внимание защите человеческой жизни и оборудования склада от возможной опасности. Смог ли бы какой-то разумный наблюдатель, не являющийся человеком, а также не имеющий никаких предубеждений о том, что жизнь и разум могут существовать только на органической основе, воспринимать наш кран-сортировщик как некое разумное животное? Мог ли бы такой наблюдатель приписывать ему сознание? Мог ли бы он воспринимать человека, делающего такую же работу, как этот кран, как полностью равного крану-сортировщику?