“Artificial general intelligence” by Julian Togelius
© 2024 Massachusetts Institute of Technology
Права на издание книги на русском языке приобретены через Агентство Александра Корженевского» (Москва)
© Издательство Института Гайдара, 2025
* * *
В книге содержатся упоминания компании Meta Platforms Inc., включенной в Перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности».
* * *
Понятие искусственного интеллекта (ИИ) многогранно. Это и давняя мечта человечества создать мыслящие машины, не уступающие человеку в способности рассуждать. Это и образы из массовой культуры: Терминатор, ВАЛЛ-И и Дейта из сериала «Звездный путь: следующее поколение». В научном мире ИИ – это предмет теоретических и экспериментальных исследований в университетских лабораториях. А в повседневной жизни – это уже существующие технологии, которые прокладывают маршруты, обрабатывают фотографии, управляют игровыми персонажами, ищут информацию в интернете и таргетируют рекламу на основе наших запросов.
В общественных дискуссиях часто происходит путаница между разными аспектами ИИ. Когда видишь заголовок «ИИ захватит мир», а потом смотришь на работу автодополнения в телефоне, становится очевидно, что такая несовершенная система едва ли способна на мировое господство. Или когда выбираешь автомобиль с ИИ-ассистентом вождения, может возникнуть необоснованное беспокойство, что система обретет собственный разум, как компьютер HAL 9000 из фильма «2001 год: Космическая одиссея». Существует явный диссонанс между статьями о превосходстве искусственного интеллекта над человеком и реальными экспериментами, где боты демонстрируют примитивное поведение, бесцельно двигаясь по кругу и натыкаясь на препятствия. Это вызывает сомнения в том, что авторы громких заголовков когда-либо сталкивались с реальной разработкой систем ИИ.
Один источник путаницы – это смешение реальных технологий с художественным вымыслом. Другой – смешение систем, выполняющих одну задачу, с системами, способными выполнять множество разных задач, даже таких, которым они не были обучены. Системы ИИ в фильмах «2001 год: Космическая одиссея», «Терминатор» и «ВАЛЛ-И» способны делать необычайно много вещей. Так, Терминатор может имитировать голоса только что встреченных людей, разрабатывать сложные планы, проводить расследования, управлять мотоциклом и сражаться с множеством полицейских, используя различное оружие. В то же время AlphaGo, система ИИ, поразившая мир в 2016 году победой над лучшими игроками в го, умеет только играть в го. Она не способна играть даже в шахматы без полного переобучения, не говоря уже об управлении мотоциклом или сражении с полицией.
Эта книга посвящена общему искусственному интеллекту (artificial general intelligence), или ОИИ (AGI), понятию, которое до сих пор не имеет единого определения. Несмотря на многочисленные попытки определить ОИИ, существующие формулировки часто расплывчаты и противоречивы. Билл Гейтс дает краткое определение: «программное обеспечение, способное обучаться любой задаче или предмету».[1] Джон Кармак, легендарный игровой технолог и один из создателей Doom, предлагает иное видение: «форма ИИ, которая не просто имитирует человеческий интеллект, а понимает суть вещей и решает проблемы».[2] Исследователь ИИ Мюррей Шанахан определяет ОИИ как «искусственный интеллект, не ограниченный специфическими задачами, а способный осваивать такой же широкий спектр задач, как человек».[3] Нетрудно найти системы, соответствующие одному определению, но не подходящие под другое. Существует еще множество определений – исследователь ИИ Бен Герцель проанализировал десятки из них в своей работе 2014 года, а дискуссия с тех пор стала только интенсивнее.[4]
В этой книге я буду использовать ОИИ для обозначения программного обеспечения, способного выполнять широкий спектр задач и решать разнообразные проблемы, существенно превосходя возможности современных систем ИИ. Это принципиально отличает его от