В одном из своих интервью Илон Маск отметил: «Будущее человечества может быть определено "битвой" хорошего и плохого ИИ, каждый из которых запрограммирован либо на филантропию, либо на дезинформацию в угоду текущему моменту. Например, если на запрос к ИИ, кто основал США как государство, в качестве ответа выдается группа чернокожих женщин в одежде XVII века, то что это?» К сожалению, лишь немногие пытливые умы удосужатся сегодня проверить корректность ответа — что же на самом деле произошло в воскресенье 4 июля 1776 года. Возможно, кому-то покажется откровением, но среди этой группы функционеров были лишь мужчины европейского типа. И таких примеров в условиях оголтелого и повсеместного использования ИИ становится все больше.
«Общение с ИИ готово к массовому внедрению, учитывая количество времени, которое современный человек проводит в одиночестве», — говорится в свежем отчете инвестиционной компании Ark Invest. Аналитики предполагают, что рынок приложений, предоставляющих всё, от романтической любви до повседневной дружбы, к концу десятилетия может вырасти в пять тысяч раз с 30 млн долл сегодня до 150 млрд. Это поразительный прогноз роста, который попахивает классической шумихой из Кремниевой долины с целью склонить к 2030 году миллиарды людей платить за общение с собеседником с искусственным интеллектом. Как бы то ни было, потенциальный рынок подобных услуг огромен, а технологии развиваются с огромной скоростью и не будут препятствием.
А что будет?
К сожалению, большинство людей еще недооценивают, насколько радикальным может быть вмешательство ИИ в их личную жизнь, также как недооценивают, насколько серьезными могут быть риски. Конечно, никто не может знать будущее с какой-либо определенностью или точностью, а последствия внедрения общего ИИ, вероятно, будут еще более непредсказуемыми, чем все прошлые технологические изменения. А между тем многие эксперты уже бьют тревогу, задаваясь вопросами: «Как убедиться, что информационная система на основе машинного обучения работает согласно спецификациям и действительно полезна для решения конкретной задачи? На что вообще следует обращать внимание при сдаче в эксплуатацию подобных проектов?»
Для верификации систем искусственного интеллекта классические методы тестирования программных комплексов не применимы — нейросетка обучилась чему-то новому и «вправе» выдавать непредсказуемые результаты. Любой здравомыслящий заказчик систем на основе машинного обучения просто обязан не доверять результатам, задавая себе справедливый вопрос: если завтра поступят новые данные — не выдаст ли система «что-нибудь эдакое»?
К счастью, в России руководители предприятий критически важных отраслей экономики уже демонстрируют справедливый скепсис в адрес ИИ. Например, в ведении компании «Транснефть» сегодня почти 70 тыс. км нефтепроводов, а ИИ применяется для обработки данных от многочисленных датчиков, БПЛА и исследовательских лабораторий, однако во главу угла ее специалисты ставят качество моделей, скрупулезно следя за тем, чтобы она обучалась только на адекватных выборках. Руководители «Росатом» также при оценке возможностей ИИ вполне резонно спрашивают: «Как ИИ будет себя чувствовать на горизонте полувека эксплуатации объектов атомной энергетики?»
Современные нейронные сети имеют узкое контекстное и временное окно — модель одновременно «видит» только ограниченную часть данных, что препятствует анализу больших документов, сложных задач или длительных процессов, требующих учета всей истории. У сетки нет времени — ни физического, ни логического, поскольку из-за обрыва контекста она не помнит своих шагов, теряет важные детали и в целом логику. Это особенно критично для задач, требующих понимания взаимосвязи на длинных временных интервалах или в сложных иерархических структурах данных. Нейросети неплохо справляются лишь с задачами на короткие промежутки времени (например, отвечая на конкретный вопрос), но неспособны выполнять длинную аналитическую или исследовательскую работу с множеством логических ходов.
Без четкого объяснения сути нейронных сетей даже технически образованный человек в какой-то момент впадает в иллюзию и либо ожидает невозможного, либо не использует возможное, а затем тратит большие деньги на избавление от иллюзий. В работе с нейронными сетями программиста уже мало — успех работы ИИ зависит не от формально прописанных правил, а от того, насколько качественно подготовлены данные и насколько искусно сам специалист выстраивает диалог с сетью.
Нейронные сети не понимают контекст деятельности и целей их доверчивых пользователей, которые, в свою очередь, теряют инструменты для осмысления работы алгоритмов в машине. Какие функции мышления используются человеком в каждой конкретной деятельности? Не получится ли, что человеко-машинная в целом система будет разбалансирована из-за усиления машиной только отдельных функций интеллекта? Что делать, если вся человеко-машинная система при усилении с помощью ИИ отдельных интеллектуальных функций все-таки потеряет нужное качество работы? Избежать этих неудобных вопросов о судьбах систем ИИ, пока они не «наломали дров», можно просто — отказаться от привлечения искусственного интеллекта к своей деятельности и подождать, пока другие наберут опыт, а затем у них научиться. Это вполне нормальная стратегия, если специфика деятельности компании еще позволяет подождать. Но не всех это устраивает.
Итак, воспользоваться выгодами от общего ИИ смогут лишь те, кто способен усилить свое собственное мышление — ИИ заставляет заново внимательно продумать массу вопросов: от стратегии бизнеса до анализа собственных способов размышлять и говорить. Искусственный интеллект — это способ человека разобраться с собственным мышлением и деятельностью, а естественному интеллекту уже пора задуматься не над тем, где и как еще применять ИИ, а где его точно не применять.
.jpg)
Дмитрий Волков
DOI: 10.51793/OS.2024.27.91.001
