Donate
Philosophy and Humanities

Игры разума

Автор концепции восприятия реальности как контролируемой галлюцинации Анил Сет — о природе сознания, угрозах искусственного интеллекта и утешении в смерти

Британский нейробиолог Анил Сет. Фото: anilseth.com
Британский нейробиолог Анил Сет. Фото: anilseth.com

Эта статья впервые была опубликована на сайте «Новой газеты Европа». Материал принадлежит «Новой газете Европа». Любое его использование допустимо только после согласования с редакцией издания.

Способны ли мы видеть мир таким, какой он есть? Существуем ли «мы» как самостоятельный субъект восприятия, обладающий свободой воли? Британский нейробиолог Анил Сет, профессор когнитивной и вычислительной нейронауки в Университете Сассекса, на оба вопроса отвечает отрицательно. Согласно его концепции, то, что мы принимаем за объективную реальность, равно как и сама наша личность, наше внутреннее «я», — не более чем контролируемые галлюцинации. В ноябре российское издание его бестселлера «Быть собой», ранее признанного книгой года по версии The Economist и Bloomberg Business, получило премию «Просветитель». «Новая-Европа» воспользовалась поводом и поговорила с профессором Сетом о том, чем сознание отличается от разума, почему не стоит бояться смерти и что на самом деле значит «быть собой».

— Анил, вышедший минувшим летом русский перевод вашей книги получил одну из главных в России литературных премий. Что вы думаете об этом?

— Честно говоря, узнал об этом от вас. Спасибо, что сказали. И спасибо за возможность обратиться к русскоязычной аудитории.

— С этого и начнем: что бы вы сказали, обращаясь к русскоязычным читателям? Кому стоит обязательно прочитать книгу и почему?

Всем, кто интересуется природой сознания, тем, как мы воспринимаем окружающий мир. Тем, кто хочет понять, что это означает — быть собой. Думаю, большинство людей в той или иной степени задавались этими вопросами. Где было мое «я» до рождения? Что с ним произойдет после смерти? Обладаю ли я свободой воли? Мы нечасто думаем над этими вопросами, но полностью они никогда не уходят. На протяжении всей моей карьеры, включая эту книгу, я пытаюсь разобраться в таких вопросах как можно лучше, показать, что говорит на этот счет современная наука, и, возможно, предложить новый подход. Ведь здесь есть множество практических вопросов, о которых стоило бы поразмыслить. К примеру, какова природа психических заболеваний, способны ли машины обрести сознание и как это отразится на обществе, как вообще устроено общество. Когда мы со всем этим как следует разберемся, будет проще взаимодействовать друг с другом. В целом это очень личная книга. Она для тех, кто хочет узнать себя чуточку лучше.

— Когда и почему вы заинтересовались темой сознания? Вы сказали о личных мотивах, но в чем они заключаются?

— Кажется, сознание интересовало меня всегда, сколько себя помню. Еще ребенком я думал о том, что будет, когда я умру, и почему я — это я.

Полагаю, в этом нет ничего необычного. Но когда я поступил в колледж, не было способа получить специальные знания об этом, просто не было такого курса в учебной программе. Эта проблематика была где-то на периферии науки и образования, во всяком случае на Западе. Всё это не считалось настоящей наукой. Однако в 1990-е ситуация начала меняться, вопросы разума обрели своего рода легитимность. Отчасти благодаря новым методам изучения, а отчасти потому, что это действительно самые интересные вопросы. Мне повезло: я начал карьеру как раз в это время.

Есть ли сознание у бактерий

— Существует множество подходов к определению сознания. Вы предлагаете рассматривать это явление с точки зрения функционализма. Что это значит?

Во-перых, есть множество ученых, которые называют себя функционалистами, но с которыми я не согласен. Они полагают, что сознание и разум — это своего рода способы отработки информации, а мозг — что-то вроде компьютера. Именно эта версия функционализма предполагает, что искусственный интеллект может обладать сознанием или уже обладает. У меня другой взгляд.

Я тоже материалист, но я не считаю, что сознание — это некая загадочная сущность. Сознание — это комбинация того, что из себя представляет мозг и что он делает.

Это представление — тоже часть функционализма, и в таком понимании я этот подход разделяю.

— Как сознание соотносится с разумом?

Люди обычно объединяют сознание и разум, но я думаю, это разные вещи. Сознание, в моем представлении, — это разновидность опыта. Как чувство боли или радости. Скажем, вы открываете глаза и видите, какого цвета это дерево. Для этого не нужно быть слишком умным.

Разум — это другое. Он связан с тем, чтобы делать нужные вещи в правильное время, понимать причины явлений, находить решения. Сознание не является прерогативой человека — это свойство характерно для множества других существ. Наука это уже проходила, когда человека убирали из центра нашей картины мира после открытий Коперника и Дарвина.

Иллюстрация: Настя Покотинска / «Новая газета Европа»
Иллюстрация: Настя Покотинска / «Новая газета Европа»

В таком случае обладают ли сознанием черви или, например, бабочки? С какого класса живых организмов можно говорить о наличии сознания?

Честный ответ заключается в том, что никто этого не знает. Всё, что можно сделать, — продвигаться к пониманию шаг за шагом. Я знаю, что обладаю сознанием, вижу, что обладаете им и вы, и подавляющее большинство людей, если, конечно, у них не поврежден мозг.

Если же мы посмотрим за пределы вида Homo Sapiens, увидим признаки сознания по меньшей мере у всех млекопитающих. Собаки, кошки, обезьяны — все обладают сознанием, но иного рода. Я имею в виду, что они испытывают отличный от человека опыт и у них нет самосознания. Скажем, я не просто воспринимаю мир вокруг, я также знаю, что я Анил Сет и что я сейчас даю интервью. У них, вероятно, такого понимания нет. Но если мы идем дальше, за пределы класса млекопитающих, всё становится труднее. Я не уверен насчет сознания у рыб, насекомых, и уж тем более я с трудом могу представить сознание у бактерий или одноклеточных организмов. Я говорю так потому, что даже у людей сознание — очень хрупкая вещь. Оно очень быстро уходит под действием общей анестезии или после серьезного повреждения мозга. Словом, это особая вещь, не уникальная для человека, но недоступная бактериям. Так мне кажется.

Реальность как контролируемая галлюцинация

— Вы сказали, что в 1990-е, когда начали карьеру, в науке о сознании случилось что-то вроде революции. Что мы узнали такого, чего не знали раньше?

Множество вещей. Во-первых, стало ясно, какие части мозга отвечают за сознание. Нельзя сказать, что оно помещается в какой-то определенной зоне, скорее речь идет о том, что разные части мозга как бы говорят друг с другом. Это доказано множеством замечательных экспериментов.

Другой момент — и это уже непосредственно относится к моей работе — заключается в том, что наше восприятие мира не сводится к обработке сенсорных сигналов. Наоборот, это своего рода активная реконструкция. Сигналы, благодаря которым мы получаем опыт об окружающем мире, поступают не снаружи, а изнутри мозга. Это представление противоположно тому, что было лет тридцать назад.

Наука о мозге здорово отличается от других наук. Скажем, трудности астрономии связаны с тем, что она изучает объекты, находящиеся очень далеко. Трудности квантовой физики — в том, что ее объекты очень малы. Наша основная проблема и главный вызов — невероятная сложность мозга. У нас только начали появляться математические инструменты и теории для понимания, как эта сложность работает. Они и станут ключом к пониманию физических основ сознания. Наконец, мы стали намного больше понимать о некоторых состояниях психического здоровья — скажем, как и почему люди испытывают галлюцинации при шизофрении или психозах.

— В книге вы называете свой подход к природе сознания коперниковской революцией в том смысле, что он кардинально меняет сложившуюся за столетия и интуитивно понятную парадигму. С вашей точки зрения, человеческий мозг не воспринимает реальность непосредственно через органы чувств, а воссоздает ее как некую галлюцинацию. А органы чувств лишь помогают дополнить и скорректировать готовую картину. Но как возникает эта галлюцинация, что служит ей основой? Скажем, если мне два года от роду, у меня ведь еще нет никакой предустановленной картины мира?

Ну, я-то как раз считаю, что есть. Мы не появляемся на свет как чистый лист.

— Получается, у каждого из нас при рождении есть представление об окружающем мире, что-то вроде предустановленной операционной системы с базовыми программами?

Точно. Хотя мне не близко сравнение мозга с компьютером, мы рождаемся с набором предустановленных знаний, как бы зашитых в мозг.

— Откуда они там?

Мы наследуем их от предыдущих поколений, от предшественников вида Homo. Это, в общем, результат эволюции. Да, когда мы видим что-то впервые, мы действительно видим это впервые, но воспринимаем это через призму того, что мы и наши предки уже когда-то видели. Я не говорю, что мозг выдумывает вещи вокруг нас, — нет, они действительно существуют. Но то, как мы их воспринимаем, — результат реконструкции.

В природе, к примеру, не существует такой вещи, как цвет, есть лишь разная длина волн излучения. Цвета создаются нашим мозгом.

И эволюция сделала так, чтобы воссоздаваемая мозгом картина была максимально близка к реальности. При этом мы никогда не видим реальность такой, какова она на самом деле. Наше восприятие определяется тем, каковы мы сами.

— На каких примерах или экспериментах можно показать, что эта концепция соответствует реальности, что она верна?

Этим как раз занимается наша исследовательская группа. Единого эксперимента, который бы всех убедил, нет. Речь скорее о подходе, способе мышления, и можно наблюдать на практике, насколько он эффективен. Мы в лаборатории можем показать, насколько то, что человек ожидает испытать от того или иного воздействия, разнится с тем, что он на самом деле испытывает. Вы наверняка видели множество зрительных иллюзий, показывающих, как велика может быть разница между тем, что мы видим и что изображено на картине на самом деле. Скажем, мы видим, что две линии явно разной длины, но, измерив их, убеждаемся, что их длина одинакова. Или цвета предметов нам кажутся разными, но они абсолютно идентичны, просто помещены в разное окружение.

Множество простых экспериментов показывают, что мы не просто считываем реальность: мозг глубоко вовлечен в ее интерпретацию. Но мы также стремимся проникнуть в глубины мозга, используя его снимки, компьютерное моделирование и другие сложные технологии. И получаем при этом множество свидетельств, что-то, как мы воспринимаем реальность, как представляем мир вокруг, в большей степени зависит от сигналов, поступающих от мозга к глазам, а не наоборот.

Иллюстрация: Настя Покотинска / «Новая газета Европа»
Иллюстрация: Настя Покотинска / «Новая газета Европа»

— Чего еще вам недостает, чтобы превратить вашу теорию в общепризнанное знание, которое попало бы в учебники по нейрофизиологии?

Хороший вопрос. Это, действительно, лишь одна из нескольких теорий, и, что особенно волнительно, люди сейчас пытаются найти способы сравнить эти теории. Нечто подобное происходило в физике в начале XX века, когда ученые придумывали эксперименты, которые помогли бы отделить ньютоновский и эйнштейновский подходы к познанию мира. Не думаю, что какая-либо из существующих в нашей области теорий, включая мою собственную, исчерпывающе отражает реальность, ставит точку в понимании сознания. И это нормально. Суть научного метода в том, чтобы ошибаться, но делать это продуктивно, каждый раз убеждаясь, что постепенно ты узнаешь больше. [В науке] всегда будет этот прекрасный баланс между конкуренцией и сотрудничеством с другими людьми, теориями и идеями. Так что я, наверное, даже разочаруюсь, если моя теория станет [окончательным] ответом, — думаю, нам еще многое предстоит открыть. Но похоже, что мы на верном пути. А насчет того, что нам нужно, что действительно бы трансформировало всю научную область… Смотрите, у астрономов есть телескопы, у физиков — ускорители частиц, и нам нужно что-то подобное.

— Что-то вроде телескопа для мозга…

Да, телескопа или ускорителя частиц. У нас есть сканеры, но они недостаточно хороши, мы не можем с их помощью видеть активность всех нейронов.

Человек, который помнил всё

— Одна из ключевых концепций вашей книги — существование разных уровней сознания, от комы до активного бодрствования. Обычно, если вокруг не происходит какой-нибудь катастрофы, люди хотят жить настолько осознанно, насколько возможно, воспринимать и запоминать жизнь во всей ее полноте. Что для этого нужно? Как можно достичь и поддерживать такое состояние сознания?

Подождите, я, пожалуй, поспорил бы с постановкой вашего вопроса. У вас никогда не было бессонницы, когда вы хотели лишь одного — отключиться и выспаться как следует?

— К счастью, нет. Но были моменты, которые хотелось остановить, удержать как можно дольше или по крайней мере ощутить во всей полноте.

Думаю, что мы нередко ошибаемся в своих желаниях, и это тот самый случай. Это очень трудно — одновременно быть в моменте, воспринимать реальность во всей полноте и при этом запоминать каждое мгновенье. Советский нейрофизиолог Александр Лурия, один из первопроходцев в этой сфере, описывал случай из своей практики: у него был пациент, который никогда ничего не забывал, обладал феноменальной памятью. И его жизнь была ужасной.

Невозможность забывать парализует, и одна из проблем, связанных с современными технологиями, — в том, что они не дают нам забывать то, что следовало бы забыть.

Так что ответ на вопрос, какого рода осознанность на самом деле нам нужна, не так очевиден. У древних греков было понятие эвдемонии, означающее не совсем счастье, но процветание и благополучие. Думаю, это хорошая отправная точка для понимания, какое состояние сознание нам следует культивировать.

— Мы, кажется, разобрались, как мозг воспринимает простые вещи — цвета или звуки. А как насчет информации — идей, концепций, новостей? Всё это тоже контролируемая галлюцинация?

Думаю, да. Но я также признаю, что ответ на этот вопрос — вызов для моей теории. Она хорошо описывает воспринимаемый нами опыт, то, как мы воспринимаем мир и себя в нем. При этом она не так уж много говорит о нашем мышлении. Но в целом это всё — часть одного и того же процесса, просто на более высоком уровне абстракции. Я смотрю в окно и вижу лист, следом я вижу дерево, и уже затем, на следующем уровне, я думаю об этом дереве. Одна и та же структура определяет наши представления, мысли, способность предсказывать, но все эти вещи удалены от наших органов чувств. В общем, это не самый проработанный аспект, и многие другие теории испытывают трудности с ним. Кстати, это довольно любопытно, учитывая, что когда-то Декарт отождествлял сознание и мышление.

— Cogito ergo sum: мыслю, следовательно, существую…

Точно. Но мы пошли другим путем и сосредоточились на опыте восприятия.

— А что насчет принятия решений? Как, с вашей точки зрения, работает этот механизм?

Есть два подхода к пониманию этого процесса. Первый — декартовский, приближающий нас к богу и отдаляющий от других животных. Нам нравится думать о себе как о рациональных существах. Но, разумеется, мы не насколько рациональны, как нам бы хотелось представлять. Мы с трудом можем осмыслить огромные временные промежутки и расстояния в космосе, у нас множество разных предубеждений, о которых очень хорошо осведомлены экономисты. И благодаря более глубокому пониманию сознания, благодаря в том числе моей теории мы можем пролить свет на то, как работают некоторые из этих предубеждений. Когда мы принимаем решение, зачастую оно основано на том, как мы воспринимаем окружающий мир, каким видим его. Если эти вещи подвержены предубеждениям — а так оно и есть, потому что восприятие идет изнутри, то это также влияет на процесс принятия решений.

Иллюстрация: Настя Покотинска / «Новая газета Европа»
Иллюстрация: Настя Покотинска / «Новая газета Европа»

— В книге вы на многочисленных примерах показываете: мы видим то, во что верим. Означает ли это, что мы в принципе не способны воспринимать вещи такими, какие они есть? И насколько корректно в этом случае говорить о таких понятиях, как правда и ложь?

С точки зрения восприятия говорить о правде и лжи сложно. Но важно не отказываться от них полностью. Мы не должны впадать в [моральный] релятивизм, при котором возможно всё. Когда я говорю о восприятии как контролируемой галлюцинации, в этом словосочетании контроль так же важен, как галлюцинация. То, как мы воспринимаем реальность, крепко привязано к тому, что происходит на самом деле. Если, конечно, речь не идет о психическом заболевании, когда вы буквально не видите подходящий автобус или видите его тогда, когда его нет. И в то же время мы никогда не воспринимаем мир на сто процентов таким, какой он есть.

Личность — это процесс

— Если я правильно понял, с точки зрения вашей теории, такого понятия, как «я», в нейрофизиологии не существует. То есть сам субъект восприятия — тоже своего рода галлюцинация. Что такое личность в этом случае?

На мой взгляд, «я» — это не какая-то внутренняя сущность, сидящая в мозгу, смотрящая на мир с помощью глаз и принимающая решения. Скорее это еще одна форма восприятия, точнее — сумма различных форм восприятия, которые вместе дают нам ощущение себя.

— Выходит, что это скорее процесс, чем стабильная сущность?

Именно! Это процесс. И эта идея не нова. На Западе о ней писал Дэвид Юм, на Востоке об этом говорит вся буддистская традиция. Так что современная наука о мозге лишь подтверждает, проливает новый свет на старую идею, что «я» непрерывно меняется.

— Итак, нет ни свободы воли, ни единой объективной правды, ни нас самих как рациональных познающих сущностей. Но нам всё же стоит притворяться, будто всё это есть, чтобы общество окончательно не распалось?

Нет, на мой взгляд, как раз наоборот. Лучшее понимание того, как всё устроено, поможет нам. Если мы продолжим пользоваться устаревшими концепциями и представлениями, будто мы видим мир таким, каков он есть, будто есть свобода воли, благодаря которой всё вокруг происходит, мы вновь и вновь будем сталкиваться с теми же проблемами. Как раз признание того, что мы видим мир по-разному, поможет нам выстроить платформу для эмпатии, для взаимодействия, для всего, что нам так необходимо сегодня.

— Но как при отсутствии свободы воли быть с базовыми структурами западного общества — капитализмом и демократией? Скажем, если это не я голосовал за Трампа, а моя внутренняя галлюцинация и никакого «я», в общем-то, нет, как тогда выстраивать здоровое общество и политическую систему?

Ну знаете, нейронауку не стоит использовать в этом случае как оправдание. По крайней мере в суде это не сработает. Нейронаука не говорит о том, какая политическая система лучше. Она лишь помогает нам лучше понять себя. И это тоже может быть полезно. Решения, которые мы принимаем, в том числе в сфере политики, подвержены влияниям. На них влияют СМИ, изображения, звуки и еще множество вещей, которые мы даже не осознаем. И понимание того, как мы принимаем решения и как воспринимаем мир, дает нам дополнительные инструменты для защиты важных для нас институтов.

В наступающем году пройдет огромное количество выборов в демократических странах, миллионы людей пойдут на избирательные участки, и здесь откроется огромное пространство для дезинформации и манипуляций. Это будет трудный год.

И мы точно не должны воспринимать [демократические] институты как нечто само собой разумеющееся.

Коллективное сознательное

— Если в основе сознания лежат физиологические процессы, охватывающие весь организм, почему ученые до сих пор пытаются создать компьютерный аналог мозга, как, например, в рамках проекта Blue Brain?

По многим причинам. Не думаю, что они пытаются буквально воссоздать сознание: всё же это свойство биологических систем, недоступное компьютеру. Всё, что можно получить таким способом, — это лишь имитация сознания. Это как с моделированием погоды: можно сделать очень точную и полезную модель, но как бы точна она ни была, ни настоящего ветра, ни дождя внутри компьютера не будет. Хотя, знаете, возможно, я ошибаюсь. Может, в будущем и получится создать некий вид сознания с помощью компьютера. Это стало бы серьезной моральной проблемой: такой компьютер уже так просто не выключишь, даже если он нам не нравится, придется считаться с его интересами. Даже машины, просто хорошо имитирующие сознание, способны оказывать на нас сильное влияние. Так что, думаю, это не очень хорошая идея. С помощью компьютеров можно добиться многого в понимании принципов работы мозга, но воссоздавать искусственно некий аналог человека… Это ловушка, известная с древности и отраженная во многих культурах, она восходит еще к еврейскому мифу о Големе. Историческая и литературная традиции говорят нам, что попытки человека искусственно создать свое подобие всегда заканчиваются плохо.

— Еще одна любопытная концепция, отраженная в вашей книге, — теория интегрированной информации, когда система в целом становится чем-то большим, чем сумма ее частей. Один из примеров — стая птиц, которая ведет себя особым образом, как бы обретая отдельный вид сознания. У людей дело обстоит так же? Можно ли говорить о существовании коллективного сознания и, если да, в какой мере можно таким сознанием управлять?

Это интересная идея. В определенном узком смысле коллективное сознание существует: в составе большой группы, коллектива наше восприятие реальности в огромной степени меняется.

— Например, на митинге.

Или на футбольном матче, да. Мы ощущаем себя иначе, когда становимся частью толпы. Эта толпа как бы начинает жить своей жизнью. И всё же я не считаю, что толпа сама по себе обладает каким-то самостоятельным отдельным сознанием. Философ Томас Нагель говорил, что система обладает сознанием в том случае, когда есть нечто, считающее себя этой системой. Есть нечто во мне, понимающее, что я — это я, и нечто, понимающее, что я нахожусь в толпе. Есть ли это «нечто» у толпы? Не думаю. Да, стая птиц больше суммы этих птиц, как толпа — больше суммы ее участников, но сознание… Это нечто индивидуальное, глубоко укорененное в нашем существе.

Иллюстрация: Настя Покотинска / «Новая газета Европа»
Иллюстрация: Настя Покотинска / «Новая газета Европа»

— Есть популярный эксперимент, когда наблюдателей просят сосчитать, сколько раз группа людей перекинет друг другу мяч, и, увлекшись подсчетом, никто не замечает появляющегося в кадре человека в костюме гориллы. В книге вы объясняете, как это работает. Но ведь эту особенность человеческого восприятия нередко используют политики, специально сбивающие фокус внимания общества на малозначительные вещи, не давая сосредоточиться на важном. Можно ли как-то научиться, натренировать себя выявлять такие манипуляции, не давать собой манипулировать?

Это очень сложно. Но, думаю, мы можем сделать две вещи. Во-первых, нужно знать, что происходит вокруг. Это придает сил. Возвращаясь к эксперименту Дэниела Саймона с мячом и гориллой: да, наш мозг способен фокусировать внимание лишь на отдельных участках реальности. К тому же вся технологическая экономика, особенно социальные сети, настроены на то, чтобы эксплуатировать наше внимание. Полностью избежать этого влияния невозможно, но знание того, как всё устроено и что на самом деле происходит, помогает. Также мы можем натренировать наше сознание с помощью медитации. Есть множество методик, но все они так или иначе помогают нам быть более осознанными, понимать, чему мы уделяем внимание в тот или иной момент и почему делаем это. Но я думаю, эта сфера требует регулирования, мы не можем оставить людей один на один со всем этим. Даже если мы знаем, что нас эксплуатируют, мы всё еще уязвимы для эксплуатации.

Личный опыт забвения

— Если наше восприятие окружающего мира определяется особенностями личности, биологией и биографией и поляризация, охватившая многие общества, — это лишь следствие человеческой природы, получается, мы обречены на бесконечные конфликты?

Хотелось бы ответить «нет». Очень легко впасть от всего этого в депрессию. Но кажется, будто поляризация действительно нарастает неумолимо, и социальные сети лишь ускоряют этот процесс. Даже если мы знаем об эффекте эхо-камеры (ситуация, когда люди сталкиваются в медиа или соцсетях только с теми мнениями, которые разделяют. Прим. авт.), этого мало, чтобы защититься от ее воздействия. В то же время я не думаю, что мы обречены, что игра проиграна. Возможно, это прозвучит чересчур оптимистично, но я полагаю, что понимание того, как работает наше восприятие, как действуют эти эхо-камеры, способно помочь.

Если мы признаем, что наши взгляды на мир отличаются, нам проще свыкнуться с мыслью, что дела, возможно, обстоят не так, как нам кажется. Это помогает выработать своего рода смирение, а это уже важный шаг к тому, чтобы разрушить эти эхо-камеры. Помните, как десять лет назад разошлась фотография платья, которое кто-то считал белым и золотым, кто-то — синим и черным? Это примечательно во многих отношениях: например, с какой убежденностью люди доказывали свою правоту. Но можно ведь взглянуть на это под другим углом. Можно сказать: смотрите, разве это не удивительно, вы настолько убеждены, что не можете даже допустить возможность существования другого взгляда! Этот взгляд на себя со стороны — то, что нужно, чтобы развить в себе эмпатию и принятие другой точки зрения. Так что я не считаю ситуацию совершенно тупиковой, но нам нужно предпринять серьезные усилия и ввести определенные ограничения, регуляторные нормы. Я не фанат этой мантры Кремниевой долины — мол, давайте всё быстро разломаем, построим новое, а с проблемами разберемся потом. Это очень серьезные вещи, влияющие на общество, и поступать с ними нужно по аналогии с другими потенциально опасными отраслями, скажем, фармацевтикой и авиацией: нельзя выпускать в свет технологии, последствий которых мы в полной мере не знаем.

— Ровно эту же мысль озвучивали многие участники недавнего саммита по безопасности искусственного интеллекта в Великобритании. В последнее время эта тема постоянно витает в воздухе, топ-менеджеры технологических корпораций предрекают едва ли не апокалипсис, страны и международные сообщества вводят разного рода ограничения. Однако, насколько я понимаю, вы не особо разделяете ажиотаж вокруг ИИ. Что, на ваш взгляд, действительно происходит в этой сфере, куда она движется и представляет ли ИИ реальную угрозу?

Происходит много всего, и происходит очень быстро. Моя кандидатская двадцать лет назад была как раз посвящена искусственному интеллекту, но с тех пор многое изменилось. Я всё еще не считаю, что ИИ обретет сознание. Но опять же, я могу ошибаться. И я — в меньшинстве в сообществе нейроученых. Одна из проблем — в том, что люди не до конца понимают, какого рода угрозы исходят от ИИ. С одной стороны, многие говорят об экзистенциальной угрозе человечеству, буквально как в научной фантастике. ИИ получит сознание, всех нас поработит, и всё такое. Это не то чтобы невозможно, но маловероятно, учитывая текущую траекторию развития технологии. И всё же у нас есть повод для беспокойства.

Последствия действительно могут быть катастрофическими, но не в том смысле, в котором пишут в научно-фантастических романах. Мы уже обсудили, как ИИ может превращать социальные сети в оружие, поляризуя общество, убеждая нас поступать тем или иным образом. Уже существуют сочетания языковых моделей и дипфейк-технологий, которые могут привести к тому, что мы просто не сможем верить ничему, что видим. Это уничтожает основания для принятия каких бы то ни было решений, подрывает основы, на которых базируются общества на Западе и Востоке. При этом ИИ-системы тоже могут быть предвзятыми, ведь они учатся на определенных наборах данных, которые не всегда репрезентативны. ИИ-системы непрозрачны, мы зачастую не знаем, как именно они работают, как ведут себя в случае сбоя. И если мы предоставим им возможность контроля за [критически важными] процессами, это приведет к неверным решениям.

Я вспоминаю эпизод времен холодной войны, когда советский офицер Станислав Петров не прислушался к компьютеру, ошибочно определившему, что СССР атакован американскими ракетами, и, вероятно, спас планету. Наличие человека в этой цепочке было критически важно. Словом, существует огромное количество опасностей и рисков в ближайшей перспективе. Но также есть и много волнующих возможностей. Признавая риски, мы не должны полностью отказываться от технологии, тем более что у любой технологии есть две стороны. Яркий тому пример — ядерная энергия. ИИ способен сделать много хорошего для общества, например, в сфере медицины или изменения климата. Но мы должны ясно понимать риски, которые вовсе не сводятся к апокалиптическим предсказаниям из научной фантастики.

— Ваша книга называется «Быть собой». А что это значит — быть собой? И почему это важно?

Всё в конечном счете возвращается к этим вопросам. По крайней мере для меня. Окончательно понять себя — это не может быть итоговой целью, у этого процесса просто нет конца. Но лично мне он здорово помог. У меня были периоды, когда я страдал от тяжелой депрессии и тревоги. И чем больше я понимал, что «я» — не какая-то статичная сущность, а процесс, тем больше становилась дистанция между моим жизненным опытом, тем, что я испытываю, и самой идеей того, кто я есть. Как только ты открываешь для себя это пространство, становится легче. Так проще развить в себе эмпатию, сочувствие к себе и другим.

Я начал книгу с описания своего опыта полной анестезии.

Я не просто уснул тогда. Я полностью отключился, превратился в объект. Это могло длиться пять минут, а могло — пятнадцать лет.

И в этом отсутствии не было никакого страдания. Не было ничего. Было лишь забвение, близкое к тому, что ожидает каждого из нас. Забвение, которое предшествовало нашему рождению и последует за нашей смертью. Это придает спокойствие, утешает. Ведь если там нет ничего, то нечего и бояться.

Григорий Волков

panddr
Comment
Share

Building solidarity beyond borders. Everybody can contribute

Syg.ma is a community-run multilingual media platform and translocal archive.
Since 2014, researchers, artists, collectives, and cultural institutions have been publishing their work here

About