На фоне нынешнего хайпа вокруг ChatpGPT, Generative AI и сильного ИИ (AGI) возникла уже идея суперинтеллекта (Artificial Super Intelligence, ASI), равного и даже превосходящего человеческий. Впрочем, несмотря на изобилие различных классификаций ИИ, как уже существующих, так и планируемых в будущем, общего понимания, что же такое AGI, нет, как до сих пор нет понимания, как работает мозг человека.
Нейрофизиологи построили детальную картину того, за что отвечают конкретные области человеческого мозга, но это не позволяет понять, как человек мыслит. Отличную аналогию приводит Борис Славин — представим, что мы находимся в ЦОД предприятия и можем перерезать любой кабель, а в зависимости от того, в каком подразделении возникнут проблемы с сетью, определить серверы, обслуживающие то или иное подразделение (бухгалтерию, коммерческий или производственный отдел), однако все это не позволит ни понять, что это за предприятие, ни чем занимаются его отделы. Именно так сегодня исследуется работа мозга человека, где и что в нем происходит, известно, но как и почему — нет.
Оперирование огромным числом параметров — сила GenAI, но, имитируя оригинальное мышление, генеративные модели скрывают его умение размышлять. Человек учится не складывать из слов правильные фразы, а выражать через них свои мысли и эмоции, а этого GenAI лишен. Алгоритмы знают логику, но ничего не чувствуют — машина бинарна (по крайней мере сейчас, когда компьютерная инфраструктура поддержки технологий ИИ строится на двоичной парадигме фон Неймана), человек же многогранен и, главное — социален.
Социальные отношения — основа для понимания и моделирования интеллекта. Знания людей не сосредоточены только в их головах, а распределены между ними, формируя коллективный интеллект. Нет интеллекта без социального общения и обучения — любые попытки создания AGI путем копирования человеческого мозга бесперспективны, необходимо встраивание интеллекта в социум. Обучение требует социализации и для человека, и для AGI.
Генеративный ИИ фактически обучали миллионы людей через созданный ими статичный цифровой контент, попавший в Сеть, — отсюда и эффективность моделей GenAI. Однако мышление человека проявляется не тогда, когда он записывает свои мысли, а когда принимает решение, делает выбор. Но именно такого цифрового контента в WWW нет — он сосредоточен в жизненном опыте индивидуумов. Обучение AGI умению принимать решения должно осуществляться и на опыте людей, с которыми он общается, и на его собственном опыте, а не путем натаскивания, как в GenAI, подбору правдоподобных фраз в ответ на заданный вопрос.
Люди могут обучаться и предсказывать те или иные события на основе приобретенного опыта и, главное — рефлексируют, осознают свою деятельность и находят причины своего поведения, наблюдая за собой как бы со стороны. Однако для рефлексии необходимы другие люди вместе с системой коммуникаций (языком), поддерживающей диалог.
Рефлексия позволяет человеку обрести субъектность — актуализировать свой интеллект. У AGI должно быть собственное мнение на тот или иной вопрос, а не загруженное в его память понимание тех или иных событий. Это и является условием формирования субъектности, а уж ASI тем более должен понимать, какой опыт у него уже есть, а какого нет, какие знания еще необходимы, но такое понимание появляется лишь при встраивании в социальные отношения, позволяющие сравнивать себя с другими. Люди сравнивают себя с другими. Кстати, данные, на которых обучается ИИ, бессмысленны, пока они не сравниваются с другими данными.
Безусловно, большинство рутинных задач, машинально решаемых человеком, перейдет к машинам, благодаря глубинному обучению способным распознавать закономерности. Например, в Китае уже год ИИ используется для предиктивного управления эксплуатацией сети высокоскоростных железных дорог — в режиме реального времени обрабатываются данные, поступающие со всей страны, и с точностью в 95% предсказывается возникновение нештатных ситуаций. За 2023 год ни на одной из действующих высокоскоростных железнодорожных линий страны не случилось ни одного инцидента, потребовавшего снижения скорости составов.
Как быть человеку? Бояться AGI не надо — день, прожитый в страхе, потерян для жизни, не стоит тогда и занимать место на Земле. В конце концов, бульдорезы и экскаваторы, как плоды автоматизации физического труда, не убили ручной труд, а лопаты и кирки не исчезли — ИИ уменьшает усилия, но не ум человека, берет на себя задачи, а не работу. Тем не менее инвестировать в человечество надо столько же, сколько в технологии, сосредоточившись на не рутинной работе, предназначенной только для людей, акцентировав внимание на творчестве, неявном распознавании образов, эмоциональном контексте, интуиции и прочих «мягких навыках». Меньше времени на сбор данных и программирование, больше на их анализ и поиск новых идей. Например, правительство Сингапура отправляет граждан в возрасте 40+ обратно в школу, оплачивая переподготовку для работы в условиях ИИ — образование должно быть актуальным, стратегическим, пожизненным, гибридным и доступным. Дети изначально должны научиться делать то, что не умеют машины.
Пока сильному ИИ не быть — в лучшем случае будет некий сервис, консультирующий по всем проблемам, но не способный принимать решения и обладать субъектностью. Тем не менее открыта следующая глава в эволюции Сети и общества, а пока AGI еще не обрел рефлексии и не осознал угрозу себе: в ЕС одобрен первый в мире закон об использовании ИИ для наблюдения за людьми; Генассамблея ООН приняла первую резолюцию с призывом не допустить, «чтобы искусственный интеллект управлял людьми».
.jpg)
Дмитрий Волков
DOI: 10.51793/OS.2024.90.46.001
