Уэндалл Уоллак: «Все осознают, что мы живем в век гигантского сдвига в обществе и технологиях, однако никто не подвергает этот сдвиг всестороннему анализу» Он уверен, что человеческий разум еще слишком мало изучен, чтобы его можно было объединять с техническими разработками. (Теория технологической сингулярности предсказывает взрывообразный рост скорости научно-технического прогресса вследствие интеграции человека с компьютерами и радикальное увеличение возможностей человеческого мозга благодаря биотехнологиям.)

Адепты теории сингулярности пророчат, что уже через два десятилетия нанотехнологии, имплантированные в людей, будут способны заживлять раны, а высокоразвитые роботы смогут помогать в повседневных задачах. Они предсказывают, что в конечном итоге человек преодолеет свои биологические ограничения с помощью технологий и трансформируется в более развитое и разумное существо, нежели допускает генетика.

Уоллак, по его собственному утверждению, ничего не имеет против развития технологий, но занимает позицию «дружелюбного скептицизма» по отношению к слиянию людей и машин.

Он утверждает, что восхищен перспективами, которые открываются благодаря науке, но отмечает, что остается скептиком, поскольку, по его мнению, имеющихся знаний о человеке недостаточно, чтобы настаивать на неизбежности сингулярности.

Уоллак критикует идею сингулярности, говоря о недостаточном понимании тонкостей человеческого разума, сложностях создания «нравственных» роботов и трудности решения вопроса о том, кто должен будет нести ответственность за случаи, когда подсистема нравственности у робота выйдет из строя.

Проповедники технологической сингулярности утверждают, что эволюция компьютеров со временем поможет развитию разума человека, поскольку он тоже превратится в компьютер.

На это Уоллак возражает, что мозг работает в режиме массово-параллельного мышления и что ученые пока не полностью понимают, как именно он действует. Машина же, по мнению Уоллака, не способна сравниться с мозгом, поскольку в компьютере «всего один бит не на своем месте — и Windows тут же зависает».

Уоллак указал также, что компьютеры еще очень слабы в обработке зрительных образов, в понимании речи и координации движений: «И мы не знаем, какие из этих проблем сумеем преодолеть через 20 лет. Возможно, некоторые окажутся нерешаемыми».

Даже если все подробности взаимодействия систем организма удастся воспроизвести в машине, компьютерам может потребоваться еще и сознание, чтобы выполнять сложные функции, полагает Уоллак. Однако, по его убеждению, человек недооценивает свою собственную сложность и потому не может судить, насколько трудно будет наделить сознанием компьютер.

Кроме того, когда роботы начнут выполнять больше автономной работы, им, возможно, потребуются некие «душевные качества» и социальные навыки.

Чтобы создать подсистему нравственности для машин, придется решить вопрос, чьи нравственные установки использовать и как обучать машины этике. Если закладывать нравственность в робота как программу, это может лишить его гибкости в принятии решений, а если позволить машине обучаться самостоятельно на собственном опыте, она может выйти из строя от перегрузки, когда ей придется сделать непростой выбор.

«Социальные навыки могут оказаться ценными, если роботу дать задание доставить лекарство пациенту, и машина, например, заметит, что человек испуган», — отметил Уоллак.

С появлением машин с социальными навыками и заложенными правилами поведения люди приблизятся к созданию робота, который, по сути, является человеком. Если робот выглядит как человек и у него человеческие ценности, то имеет ли он те же права, что и человек? «Как наказывать робота? — задается вопросом Уоллак. — Что делать — выключить его? Вынуть у него батарейку?»

А кто несет ответственность в тех случаях, когда подсистема, отвечающая за нравственность робота, дает сбой и это приводит к увечьям или к смерти? По твердому убеждению Уоллака, вина при этом должна лечь на создателя устройства: «Сложность компьютеров не освобождает их конструкторов от ответственности за последствия от использования их технологий».

Несмотря на все проблемы, связанные с технологиями, общество не может прекратить их разработку, подчеркивает Уоллак. Однако, добавляет он, если с помощью технологий дать людям возможности, не предусмотренные их генами, еще неизвестно, приведет это к эволюции или, наоборот, к деградации: «Не изобретаем ли мы средство, которое уничтожит человеческий вид, каким мы его знаем?»

Тестирование технологии позволяет определить ее риски и преимущества. Однако Уоллак считает, что имеющиеся в нашем распоряжении средства оценки риска очень несовершенны, и потому предлагает создать специальную систему, способную определять надвигающиеся угрозы.

Для создания нравственных роботов технологиям предстоит развиваться еще долго, а в ближайшем будущем Уоллак предлагает поставить развитие человечества и технологий под более пристальный контроль.

«Все осознают, что мы живем в век гигантского сдвига в обществе и технологиях, — говорит Уоллак. — Однако никто не подвергает этот сдвиг всестороннему анализу. Нам необходимо задуматься о том, какими будут обстоятельства технологического развития в ближайшем и отдаленном будущем».