Написать текст
Точка беспокойства

Трудная проблема ИИ

Мстислав Казаков 🔥
+37

В современной философии сознания существует так называемая «трудная проблема сознания», то есть проблема субъективного опыта, присущая каждому человеку. Иногда попытки разрешить эту проблему приводят людей к совершенно ложным выводам, вроде абсолютизации эпистемологического солипсизма или социального конструкционизма. Несмотря на неполную очевидность связи между субъективным опытом и упомянутыми теориями, философы сознания в своих умозаключениях часто приходят к фатальной ошибке: абсолютизации социальной природы личности. Несмотря на ссылки на нейробиологические исследования, результат всегда схож — социальное конструирование реальности как единственное условие личности. Такого рода философы ссылаются на лингвистический релятивизм Э. Сепира — Б.Л. Уорфа [1], социальное конструирование реальности П. Бергера и Т. Лукмана, приводят в качестве аргумента идеи психолога П. Ватцлавика и кибернетиков Г. Рота и Э. фон Глазерсфельда. Несмотря на богатый базис и обилие фамилий, вывод один и тот же: «мозг имеет социальную природу, а с ней имеет социальную природу и личность». Это утверждение, что очевидно, ложно.

Личность имеет социобиологическую природу. Согласно такому пониманию личности, оппозиция сознание/тело является конвенциональной, то есть удобным способом именования отношений, фиктивной оппозицией, границу которой еще следует выявить науке. Л. Витгенштейн в «Философских исследованиях» поставил под вопрос различение частного и публичного, задавшись вопросом о гранично допустимых условиях формирования личности. У Витгенштейна, как и у К. Маркса и его множественных последователей, материальной действительностью мысли выступает язык (вспомните концепцию идеального в работах Э. Ильенкова). «Границы моего языка суть границы моего мира» [2, с. 119], — одно из наиболее популярных высказываний австрийского философа.

Очевидно также, что ни язык, ни мышление, ни личность как таковая (безъязыковая личность из группы охотников-собирателей или немой человек) невозможна без биологической конституции человеческого организма, определенного «тонкой настройкой мозга», при которой все подсистемы «архитектуры» сознания функционируют так, как должны функционировать для формирования личности. Именно биологическую природу как первопричину человеческой личности упускают социальные конструкционисты. Если у нас не будет — страшно сказать — материального базиса, не будет и социолингвистической надстройки, взаимодействия, формирующего личность. Повредите у человека ядро таламуса, ответственное за слуховые данные, и личность останется возможной, разрушьте неокортекс — и о личности можно забыть. А ведь все это — части одной и той же органической субстанции, присущей одному и тому же организму.

Эту идею, начиная, пожалуй, от царя философов Б. Спинозы, несли сквозь века классики и современники мировой философии: К. Маркс, Л. Витгенштейн, Э.В. Ильенков, Г. Райл, Д. Деннет, Н. Блок П. Черчленд, Д.И. Дубровский. И каждый раз теория социобиологической природы мозга находила новые и новые подтверждения. Впоследствии, философы сознания, основываясь на марксовом понимании мышления (мышление как свойство материи, воспроизводимое в определенной совокупности химических элементов, биохимических процессов и физической среды), радикализируя философские идеи предшественников на основе абсолютно новых данных когнитивных наук и в связи с появлением первого ИИ, назвали это направление функционализмом.

Функционализм представлял качественно новый тип материализма: если в социолингвистическом подходе базовыми условиями для формирования интеллекта, а следом за ним — и личности, являлось общество, то в функционалистской парадигме главным условием является создание биологических/биохимических/биотехнических условий, при которых может возникнуть мышление. Основываясь на понимании мышления (человеческого мышления) как одного из свойств материи, функционализм провозгласил необходимость поиска условий, в которых это свойство может быть воспроизведено. Помимо человеческой биологической конституции. Амбициозная задача, решения которой не существует и по сей день. В функционализме нет речи о проблеме переноса чужого субъективного опыта на другого субъекта, как это оговаривается в статье Т. Нагеля «Каково быть летучей мышью?» [3] (извиняюсь за столь банальную наводку). Речь идет о возможности или невозможности создания условий возникновения субъективного опыта, феноменальных восприятий чем-то (а, в сущности, Кем-то), не являющимся человеком.

Естественно, в рамках самого функционализма существует множество подходов: физикалистский функционализм С. Шумейкера, психический функционализм Н. Блока, информационно-процессуальный функционализм Д. Деннета, редуктивный телеофункционализм Ф. Дрецке, функционализм по Тьюрингу Х. Патнэма, лингвистический функционализм Дж. Фодора, информационный подход к сознанию Д.И. Дубровского (концепт нейродинамического кода, в сущности, не выходит за рамки функционализма) и, естественно, элиминативный материализм Пола и Патриции Черчленд.

Все эти подходы объединяет одна точка зрения: ментальные состояния нельзя разделять на идеальные и материальные — следует рассматривать их как нейтральные функциональные состояния, возникающие в определенных условиях. Это защищает сознание от антропологического шовинизма («Субъективный опыт да не возникнет вне человека!»). Соответственно, реализация, воплощение актов сознания (интенциональных, когнитивных, перцептивных) не привязывается к биологии человека и, одновременно с этим, имеет вполне физические ограничения — ограничения, представленные совокупностью условий, при которых возникает сознание. Замечу, что родство функционализма в некоторых его проявлениях весьма схоже со старым материализмом. Так, элиминативистский подход П. Черчленда воспроизводит мнение Л. Витгенштейна, согласно которому сознание субъекта как проблему следует исключить из теоретического описания сознания, перейдя к интерсубъективности и эволюционным процессам, которые сделали сознание человека (таким, каково оно сегодня) возможным.

Впрочем, нас должно занимать не столько это, сколько сами условия, сделавшие возможными «условия присутствия личности» [4], если воспользоваться термином Д. Деннета. И здесь мы, собственно, приходим, наконец, к заглавию нашей статьи. Если мы принимаем парадигму функционализма и тот факт, что сознание является атрибутом материи (коль скоро им является мышление), мы должны также принять тот факт, что существует то, что можно назвать трудной проблемой искусственного интеллекта. Проблема эта озвучивается очень просто: как понять, что мы нашли условия, в которых возникает сознание? И поскольку единственное место поиска в данный момент — наша собственная техника, поиск придется проводить именно среди нее.

И поиск присутствия сознания сводится в первую очередь к поиску его в современных разработках искусственного интеллекта. К нему приковано внимание не одних только функционалистов: панпсихисты, дуалисты и идеалисты ищут в этой теории опровержение материализма, сторонники слабой теории ИИ (как А. Тьюринг) — ее подтверждения, а сторонники сильной теории ИИ — поиска реальных условий существования искусственного разума, а не его имитации. И здесь возникает вопрос: как же нам все–таки определить, мыслит данная машина М или нет? Ответ очень прост: понимание. Понимание тех данных, которые М принимает. Понимание представляет собой не только обработку данных, вводимых в М или правильный ответ, который, по И. Канту или Б. Больцано можно в этом случае условно назвать аналитической истиной. В архитектуре программы должны также существовать и синтетические истины. Алгоритм прост:

1. М утверждает, что а.

2. М может обосновать, почему в данном конкретном случае утверждает, что а, а не х (то есть ответ не является компьютерной ошибкой или случайностью).

3. Создатель М знает, что а нет в базе данных М, введенной в нее извне при программировании. Создатель М неспособен объяснить (в рамках личного участия в производстве М), как М произвела ответ а, используя собственную архитектуру.

4. М реагирует нестандартно, создавая не присущую ее базе данных единицу информации.

Что это демонстрирует? Естественно, социобиологическую природу сознания, а точней, в этом конкретном случае, — социотехническую. С одной стороны мы имеем базис, в котором у машины возникает понимание, с другой — вложенную в машину извне социальную природу, ее искусственно созданные способности взаимодействовать с окружающим миром. По словам российского философа С.М. Левина [5], подобный тест представляет собой «тест на креативность»: способна ли конкретная программа создать нечто свое, имея заложенный базис из данных. Опять же, здесь следует вернуться к идеям Витгенштейна, который считал, что следование правилу или сознательный отказ от следования правилу обусловлен в первую очередь возможностью понимания этого правила.

Если М имеет сознание, она сможет следовать правилу или обосновать отказ от него, и здесь нет никаких промежуточных вариантов. Подобные мысли выразил Дж. Серл в аргументе «Китайская комната» [6], обозначив действия программ (в частности — машины Тьюринга) как понимание синтаксиса без понимания семантики. Понимание семантики проверяемо весьма просто: заставьте машину выстроить ассоциативный ряд относительно пропозиций индивидуального языка. Предложите машине рассказать Вам, что такое «пегаситься» (уж простите, что отсылаю вас к У. Куайну, но множить сущности без необходимости смысла не вижу)! Если ассоциаций с «Пегасом» не возникнет (даже после разъяснения машине, кто такой Пегас), у меня для создателей этой машины плохие новости. Если она, конечно, претендовала на наличие сознания.

Если же программа будет способна воспринять ваш окказионализм («пегаситься» — лишь пример) и верно на него отреагировать — программа находится на пути к пониманию. Но этого, естественно, мало. Второе условие свидетельства понимания — отличие отсутствия смысла от бессмыслицы (это понимал еще классик постмодернизма Ж. Делез [7]). Необходимо, чтобы программа умела отличать набор бессвязных слов (имеющих значение как таковое) от набора символов, которые ни при каких обстоятельствах неспособны принять значение. Иными словами, бессмыслица и не-смысл в восприятии машины должны пониматься. А не просто восприниматься.

В философии искусственного интеллекта можно очень легко разграничить концепты рас-познания и о-сознания. Познавая символы, воспринимая их, машина может допустить ошибку в выводах, но сознавая сущность этих символов (при условии, что она будет находиться на равном уровне семантического базиса или необходимых познавательных способностей с человеком), машина отреагирует адекватно. То же самое и с человеком — распознанные символы (точнее сказать — стимулы) из внешней реальности могут заставить человека действовать по-разному, часто — неадекватно. Но осознанные стимулы/символы приведут к той или иной реакции, неоднозначность которой обусловлена многозначностью воспринимаемых информационных стимулов. Лишь осознание позволяет нам понимать, в каких случаях один и тот же феномен или процесс является угрозой жизни или источником удовольствия (и правы здесь были древние греки, у которых слово «pharmacon» значило и «отраву», и лекарство). И неважно, в рамках какой материалистической теории сознания мы мыслим наши способы осознания — назови мы их «совещательной архитектурой» или «метасимволическими манипуляциями», результат в этом конкретном случае налицо: присутствует понимание полученных данных, а не слепое их восприятие с последующим условным/безусловным рефлексом, явленным в виде определенной «стандартной» реакции.

Что же мы получаем в сухом остатке? Условия существования личности несводимы ни к сугубо биологическим, ни к социальным процессам. Наиболее ярким выражением этой невозможности редукции является трудная проблема ИИ — проблема понимания. С одной стороны, нас преследует проблема создания материальных условий, при которых возможно понимание, с другой — сами особенности понимания системой данных не на уровне «синтаксиса», но «семантическое» их восприятие. В контексте трудной проблемы ИИ не ставится проблема материализма или идеализма — проблема ставится в контексте возможности/невозможности воспроизвести сознание. И если сознание воспроизводимо на материальных носителях, существующих по «воле» человека (хотя слово «воля» кажется здесь весьма мерзким) — вопрос об идеализме будет снят автоматически. Ведь невозможно воспроизвести «душу» в «материальных условиях», если исходить из идеалистического подхода. В зависимости от конкретного понимания бога, душа имеет конкретную трактовку в рамках идеалистической концепции. В случае же с воссозданием свойств, которые структурно отличны от первоначальных условиях возникновения «души», данное понятие превратится в социально-биологический конструкт. Впрочем, не превратится: оно всегда им и являлось. Биологическая конституция человека и социальные отношения — единственное, что может конституировать наше сознание. Единственное и необходимое.

Литература:

[1] — Whorf B.L. Language, thought and reality: Selected writings of Benjamin Lee Whorf. Ed. John B. Carroll. — New York: Wiley, 1956; Edward Sapir & Morris Swadesh (1946) American Indian Grammatical Categories. Word 2:103–112. Reedited for Dell Hymes in Language in Culture and Society, Harper and Row, 1964:100–107.

[2] — Витгенштейн Л. Логико-философский трактат. Москва: АСТ: Астрель,2010.

[3] — Нагель Т. Каково быть летучей мышью? // http://www.gumer.info/bogoslov_Buks/Philos/Article/nag_kak.php

[4] — См. по этому поводу: Д. Деннет Условия присутствия личности // http://www.ruthenia.ru/logos/number/37/07.pdf

[5] — Левин С.М. Тест Тьюринга и креативность // Проблема сознания в междисциплинарной перспективе. Москва: «Канон+» РООИ «Реабилитация», 2014. С. 183-190

[6] — Searle, John. R. (1980) Minds, brains, and programs. Behavioral and Brain Sciences 3 (3): 417—457 // http://www.philosophynotes.info/2008/06/john-searle-minds-brains-and-programs/

[7] — Делёз Ж. Логика смысла. Москва: Академический проект, 2010.

Подпишитесь на наш канал в Telegram, чтобы читать лучшие материалы платформы и быть в курсе всего, что происходит на сигме.
+37

Автор

Мстислав Казаков
Мстислав Казаков
Подписаться