В статье обсуждается возможность появления машин с интеллектом, превосходящим человеческий. Создание таких ИИ может оказаться самым значительным событием в истории человечества и иметь долгосрочные последствия не только для нашей планеты, но и для всей галактики. Автор пишет, что сейчас самое время подумать о том, как и в какие направления возможного будущего направить развитие наших технологий — ведь другого шанса у нас может не быть.

Интеллект человеческого уровня знаком нам по биологическому “железу” — вы пользуетесь им прямо сейчас. Похоже, что наука и технологии с нескольких направлений сходятся к возможности создания подобного интеллекта в небиологических системах. Трудно предсказать, когда это может произойти, но большинство специалистов по искусственному интеллекту (ИИ) считают, что это скорее произойдет в течение нынешнего столетия, чем нет.

Свободные от биологических ограничений, таких как мозг, который должен помещаться в человеческий родовой канал (и который работает на мощности всего лишь 20-ваттной лампочки), небиологические машины могут быть намного разумнее нас. Что это будет значить для нас? Ведущий исследователь ИИ Стюарт Расселл предполагает, что это, к лучшему или худшему, будет «самым значительным событием в истории человечества». Действительно, наши решения в этом столетии могут иметь долгосрочные последствия не только для нашей планеты, но и для всей галактики, как отметил британский астроном Королевской академии Мартин Рис. Будущее разума во вселенной может зависеть от того, что мы делаем прямо сейчас, здесь, на Земле.

Стоит ли нам беспокоиться? Люди уже многие поколения спекулируют на тему машинного интеллекта — что же нового?

Ну, в последние десятилетия произошло два крупных изменения. Во-первых, был достигнут значительный реальный прогресс — теоретический, практический и технологический — в понимании механизмов интеллекта, как биологического, так и небиологического. Во-вторых, ИИ достиг такого уровня, что стал чрезвычайно полезным для выполнения множества задач. Из-за этого он обладает огромной коммерческой ценностью, что стимулирует значительные инвестиции. Этот процесс, судя по всему, будет продолжаться и, вероятно, ускоряться.

Так или иначе, мы будем делить планету с большим количеством носителей небиологического разума. Что бы он ни принес — нам, людям, вместе пожинать плоды этого будущего. У нас есть очевидный общий интерес в том, чтобы всё прошло как надо. И нам нужно преуспеть с первой же попытки. За исключением того случая, где какая-нибудь катастрофа положит конец нашей технологической цивилизации, но не уничтожит нас полностью, у нас не будет возможности пройти этот путь заново.

Есть обнадеживающие признаки растущего осознания этих проблем. Многие тысячи исследователей ИИ и других специалистов уже подписали открытое письмо с призывом к проведению исследований для обеспечения безопасности и благотворности ИИ. Совсем недавно была создана новая партнёрская инициатива по ИИ для блага людей и общества при участии таких компаний, как Google, Amazon, Facebook, IBM и Microsoft.

На данный момент основное внимание уделяется вопросам безопасности и относительно краткосрочным выгодам и влияниям ИИ (например, на рынок труда). Но хоть это и важно, эти вопросы — не единственные, о которых мы должны задуматься. Я позаимствую пример у Яана Таллина, одного из основателей Skype. Представьте, что мы отправляем человечество в космос на флоте гигантских кораблей. Нам нужно убедиться, что эти корабли безопасны и управляемы, и что все на борту обеспечены жильем и пищей. Эти вещи будут жизненно важными, но их одних недостаточно. Мы должны также постараться выяснить, куда нас ведёт этот флот, и что мы можем сделать, чтобы направить его к лучшим из вариантов. Там могут быть райские миры, но их разделяет много холодного, тёмного космоса. Нам нужно знать, куда мы двигаемся.

Когда речь идет о долгосрочном будущем ИИ, есть основания для оптимизма. Он может помочь нам решить многие практические проблемы, с которыми не справляются наши ограниченные умы. Но когда дело доходит до вопросов о том, как выглядит карта возможных вариантов будущего, какие её части лучше или хуже, и как мы можем двигать мир к лучшим вариантам, — насчёт всего этого мы пока остаёмся по большей части невежественными. У нас есть некоторое представление о том, каких областей нужно избегать, но большая часть карты остаётся терра инкогнита. Нужно быть особенно беспечным оптимистом, чтобы думать, что нам нужно просто подождать и посмотреть, что будет.

Одним из дальновидных писателей, предвидевших это, был великий Алан Тьюринг. «Вероятно, как только машины начнут мыслить, они вскорости превзойдут наши слабые способности», — писал он в заключении к лекции 1951 года. Его статья 1950 года о так называемом тесте Тьюринга, предназначенном для оценки нашей готовности приписать машине разум, подобный человеческому, завершается такими словами: «Мы можем видеть лишь на небольшое расстояние вперед, но мы видим там множество вещей, которые нужно сделать». Мы уже прошли рубеж Тьюринга, но этот прогресс совсем не уменьшает ощущения, что у нас остаются насущные вопросы, на которые мы должны попытаться ответить. Напротив, мы живём в условиях давления, которое вскоре выведет нас за наши пределы. И по сравнению с Тьюрингом у нас ещё больше причин думать, что-то, что впереди, может оказаться поистине масштабным.

Если мы собираемся развивать машины, способные мыслить, обеспечение их безопасности и благотворности — одна из великих интеллектуальных и практических задач этого столетия. И мы должны решать её вместе — этот вопрос слишком масштабен и важен, чтобы его могло решить какое-то отдельное учреждение, корпорация или народ. Наши внуки, или их внуки, скорее всего будут жить в другой эпохе — возможно, в большей степени в механоцене, нежели антропоцене. Наша задача — извлечь из этого перехода в другую эпоху максимальную пользу для них и для последующих поколений. Чтобы извлечь лучшее из искусственного интеллекта, нам нужно лучшее от человеческого интеллекта.

* * *

Оригинал: Huw Price, Now it’s time to prepare for the Machinocene (2016). Перевод: К. Кирдан для проекта Reducing Suffering. Иллюстрация сгенерирована ИИ.

Следить за нашими обновлениями: Telegram, ВКонтакте.