Профессор Университета Дьюка Синтия Рудин стремится использовать возможности искусственного интеллекта, чтобы помочь обществу, будь то предотвращение аварий в электрических сетях, выявление закономерностей в преступлениях или оптимизация распределения ресурсов при уходе за тяжелобольными пациентами.

За «интерпретируемые» алгоритмы машинного обучения, которыми она занималась на протяжении последних 15 лет, Рудин получила от Ассоциации по развитию искусственного интеллекта AAAI награду в размере 1 млн долл., став вторым лауреатом новой ежегодной премии, учрежденной компанией Squirrel AI для признания достижений в области искусственного интеллекта «на благо человечества».

«Денежные вознаграждения на уровне миллиона долларов есть только у премий, которые вручаются за заслуги мирового масштаба, таких как Нобелевская премия или премия Тьюринга Ассоциации вычислительной техники (ACM), – указала председатель комитета AAAI по присуждению наград Иоланда Гил. – Работы профессора Рудин подчеркивают важность прозрачности в условиях высокого риска, важность ответственного и этичного использования искусственного интеллекта».

Первым прикладным проектом Рудин стало сотрудничество с энергетической компанией Con Edison, отвечавшей за энергоснабжение Нью-Йорка. Используя методы машинного обучения, она прогнозировала места отказов, возникающих из-за ухудшения качества и перегрузки электрических цепей. Но вскоре выяснилось, что точность прогнозов гораздо сильнее зависит от интерпретируемости и прозрачности процесса, нежели от усложнения алгоритмов и модели машинного обучения.

В течение следующего десятилетия Рудин разрабатывала методы интерпретируемого машинного обучения, которые представляют собой прогностические модели, объясняющие свою работу способами, понятными людям. С их помощью она создала систему прогнозирования возникновения деструктивных изменений у пациентов, переживших инсульт или другую травму головного мозга. А затем – модель, которая помогает выявить общие черты между преступлениями и определить, могут ли они быть частью серии, совершенной одними и теми же людьми.

Полной противоположностью прозрачным моделям Рудин являются модели черного ящика. Методы, применяемые в этих алгоритмах искусственного интеллекта, не позволяют людям понять, от каких факторов зависит работа модели, на каких данных она фокусируется и как их использует. При решении тривиальных задач, позволяющих, например, отличить с помощью искусственного интеллекта собаку от кошки, это не столь важно, но когда ставки высоки, а речь идет о кардинальном изменении жизни людей, ситуация совсем другая. Модели Рудин помогают людям принимать решения, а не подменяют их собой, и этом их принципиальное отличие.

Первым лауреатом премии AAAI Squirrel AI Award for Artificial Intelligence for the Benefit of Humanity стала Регина Барзилай из Массачусетского технологического института за работы по созданию моделей машинного обучения для ранней диагностики и синтеза лекарств от рака молочной железы.