Русский философ Николай Бердяев в статье “Человек и машина”, которую он
особенно ценил, подробно останавливался на проблемах, возникающих в
ходе развития технического мира. Он определил двойственность техники:
“Всегда есть эти две стороны в технике: с одной стороны, она несет в
себе удобства, комфорт жизни и действует размягчающе, с другой стороны,
она требует большей суровости и бесстрашия” (Бердяев Н.А., 1989, с.
154). И далее: “Чудеса техники, всегда двойственной по своей природе,
требуют небывалого напряжения духовности, неизмеримо большего, чем
прежние культурные эпохи” (Там же, с. 157). Важно различать культуру и цивилизацию, т.к. они далеко не одно и тоже.
Культуру один из философов определил как связь людей, а цивилизацию -
как связь вещей. Иногда они развиваются в плодотворном взаимодействии,
но часто вступают в противоречие. Бердяев так высказался о
взаимоотношениях культуры и технической цивилизации, характеризуемых
противостоянием: “Техническая цивилизация по существу своему
имперсоналистична, она не знает и не хочет знать личности. Она требует
активности человека, но не хочет, чтобы человек был личностью. И
личности необыкновенно трудно удержаться в этой цивилизации. Она,
прежде всего, есть единство в многообразии и целостность, она из себя
полагает свою цель, она не согласна быть превращена в часть, средство и
орудие. Но техническая цивилизация, но технизированное и
машинизированное общество хотят, чтобы человек был их частью, их
средством и орудием, они все делают, чтобы человек перестал быть
единством и целостностью, т.е. хотят, чтобы человек перестал быть
личностно” (Там же, с. 158-159). Иначе говоря, усилия технической
цивилизации состоят в том, чтобы приблизить образ человека к образу
машины. Диалектически связанным с тенденцией превращения человека в
машиноподобное существо является встречный процесс уподобления техники
человеку. Цивилизация пытается уничтожить принципиальные преграды между
человеком и машиной не только “подтягивая” человека к машине, но и
создавая проекты человекообразных машин. Последние десятилетия
продемонстрировали значительные успехи в создании искусственных; рук,
ног, сердца, легких и других натуральных органов человека. На вершине
же галереи этих разработок находятся информационные технологии и
искусственный интеллект. Компьютерные технологии, по бытующему в настоящее время мнению, в
состоянии стать надежным помощником человека при принятии решений,
сделают многие ранее неосуществимые проекты реальными. Как не вспомнить
здесь предостережение о неизбежности, необходимости бесстрашия при
работе с техникой. В чем же должно быть проявлено бесстрашие при
использовании компьютера? Дело в том, что на заложенные в программное
обеспечение человеческие способы рассуждения накладываются совершенно
нечеловеческие мощности в его быстродействии и памяти. В результате
такой комбинации параметров компьютеров, а тем более сети предлагаемые
им решения становятся неподконтрольными и непонятными для пользователя.
Конечно, разработчики систем, как могли, позаботились о том, чтобы
снять эту не очень приятную для человека ситуацию, разработав
подсистемы объяснения. Такие подсистемы по требованию пользователя
могли бы шаг за шагом растолковывать ему, как был получен предложенный
вывод. Тем не менее, и такая процедура очень часто не снимает
недоумения пользователя. У этого недоумения, как минимум, две причины:
разница в уровне информационной базы пользователя и компьютерной базы
данных и значительная длина цепочки рассуждений, осуществленных
системой от заданных условий до вывода. В такой ситуации пользователю
гарантировано ощущение недоумения и снижение самооценки. Приведенный пример относится к работе экспертных систем, которые далеко
не исчерпывают всего разнообразия современных компьютерных систем. Так,
другая их группа, предназначенная непосредственно для работы в условиях
производства, самостоятельно осуществляет контроль и управление
технологическими процессами, т.е. работает независимо от пользователя
на всех этапах технологического процесса. В этом случае понимание
пользователем предпринятых системой действий также может быть нарушено.
Напомню ход последнего сбоя в энергосистеме г. Москвы, когда около
суток потребовалось для того, чтобы оценить динамику предпринятого
системой управления решения по отключению подстанций, а источниками
отключений назвались разные объекты в сети подстанций. Еще один фактор снижения понимания пользователем логики работы системы
потенциально присутствует в создании класса так называемых
самообучающихся интеллектуальных систем. Он должен проявиться в том
случае, когда система будет в состоянии основываться в своих выводах на
собственных полученных в работе знаниях, а также на знаниях,
почерпнутых из смежных баз данных и знаний. Кроме этого -
самообучающаяся система будет в состоянии использовать в диалоге с
пользователем выводы, полученные в ходе взаимодействия с ним. Иначе
говоря, такая система будет способна учитывать стиль деятельности
пользователя, а в перспективе и использовать как его сильные, так и
слабые стороны. Перечисленные особенности систем искусственного интеллекта могут вести
при работе с ними, по крайней мере, к трем стратегиям поведения
пользователя. Первый, - пользователь продолжает предпринимать усилия в
освоении системы. Этот исход похож на соперничество интеллектов.
Второй, - пользователь отказывается от использования системы, не
справившись с нею. Этот вариант можно условно назвать - уход. Третий, -
пользователь доверяет системе и действует в соответствии с ее
рекомендациями. Это похоже на подчинение. Мне кажется, ни один из
указанных вариантов не может быть признан оптимальным. Соперничество
может отнимать у пользователя слишком много сил. Уход от взаимодействия
также будет иметь негативные психологические последствия для
пользователя. А подчинение компьютеру - совсем не подходящий для
человека вариант. Существует и позитивное решение данной проблемы. Оно состоит в опоре на
гуманистические традиции, на культуру. “Техника всегда есть средство,
орудие, а не цель. Не может быть технических целей жизни, могут быть
лишь технические средства, цели же жизни всегда лежат в другой области,
в области духа” (Бердяев, с. 148). Очевидно, решение корректного
использования компьютерных технологий лежит не в самих информационных
системах, а прежде всего в сознании их создателей. И поместить
разрабатываемые системы на достойное их место можно, лишь способствуя
обогащению культуры их проектировщиков. Если это удастся, последствия
не замедлят сказаться. В чем же они могут проявиться?
