Руководителям ИТ-служб пора задуматься о разработке программ для «умных машин», учитывающих этические правила, считают аналитики Gartner.

Аналитики Gartner выделяют пять уровней программирования с точки зрения этики. На нулевом уровне проблемы этики не рассматриваются вообще. На первом уровне задачи соблюдения правил этики уже ставятся, но решать их должны не сами программы, а применяющие их люди. Следующий уровень — тот, на который технология выходит сейчас — подразумевает ответственность разработчика за этичную организацию взаимодействия с пользователями. Например, если пользователь просит персонального ассистента найти ближайший мост, с которого можно спрыгнуть, ассистент этого уровня должен предложить пользователю позвонить в службу психологической поддержки, пишут аналитики.

На третьем уровне программы начинают самостоятельно обучаться и эволюционировать, и на соответствие правилам этики должны проверяться уже действия, совершаемые машиной не по запросу пользователя, а самостоятельно. Наконец, на четвертом уровне машины будут осознавать себя и ответственность придется возлагать на них самих. Впрочем, полагают аналитики, на этот уровень технологии выйдут не скоро.