Серия «Быть собой»

Свинью и поросят судят за убийство ребёнка

Может ли сознание принадлежать нечеловеку? Может. Но не сознание. И не принадлежать. А если серьёзно, то у нас нет другой возможности, кроме как использовать людей в качестве точки отсчёта и пытаться обнаружить нечто подобное у кого-то ещё. Многие связывают сознание с разумом, и что-то в этом есть. Наш автор с его теорией «машины-зверя», однако, считает, что сознание имеет более тесную связь с жизнью, нежели с разумом. И потому у животных вполне можно поискать как минимум элементы сознания. Например, млекопитающие поголовно записываются автором в «сознательные», поскольку их мозг очень похож на человеческий.

Он составил с коллегами список из семнадцати свойств человеческого сознания и тестировал на этот предмет различных животных. В списке были анатомические признаки, активность мозга, а также сознание и идентичность. Млекопитающие спят, как люди, лежат под наркозом, как люди, имеют схожее восприятие. Конечно, есть и различия, обусловленные образом жизни и другими причинами. Дельфины спят необычно, летучие мыши полагаются на свой локатор, а панды и собаки не узнают себя в зеркале. Но ведь и люди до полутора лет тоже не узнают себя в зеркале, но язык не поворачивается сказать, что они не имеют сознания в этом возрасте. Обезьяны-капуцины тоже не узнают себя в зеркале, но реагируют на несправедливость, когда видят, что сосед получает за работу вкусную виноградину, в то время, как сам имеешь всего лишь огурчик. Они сознательны, но сознательны по-другому!

Или возьмём головоногих моллюсков. Чрезвычайно умные и примечательные твари! Восемь щупалец, три сердца, голубая кровь, а нейронов – в шесть раз больше, чем у мыши. Даже РНК-последовательности у них могут редактироваться перед трансляцией в белки. Находят спрятанную приманку, пролезают через лабиринт, импровизируют, учатся и превосходно маскируются на любой поверхности. При этом их кожа меняет цвет вне зависимости от того, знает ли об этом голова. Всё говорит о децентральности разума или даже сознания у этих существ. Отрезанное щупальце действует, подобно полуавтономному животному, и способно хватать еду некоторое время после отделения от остального тела. Они явно совсем другие, чем мы, млекопитающие. И тем не менее, они явно способны отличать себя от других. Их щупальца инстинктивно присасываются к посторонним предметам, но не к своему телу.

Есть и другие существа, у которых автор готов искать сознание, начиная с попугаев и заканчивая инфузорией туфелькой. По мере удаления от млекопитающих свидетельств становится всё меньше. Но они есть, особенно если исходить из теории «машины-зверя» и искать сознание в реакции животного на болезненные события. В этом смысле можно присмотреться к многим рыбам или даже к мухе-дрозофиле, которая вырабатывает гиперчувствительность после определённого стимулирования. Очень похоже на хроническую боль у людей. И да, анестезия действует на всех животных, даже на одноклеточных.

Конечно, эти свидетельства не доказывают наличие сознательного опыта. У нематоды с её 320 нейронами автор испытывает трудности с поиском какого-нибудь сознательного состояния. Что уж говорить об инфузории туфельке.

Теперь посмотрим в сторону машин. Может быть, и они когда-нибудь получат сознание? Почему сознание обязательно должно базироваться на живом материале? В рамках функционального подхода важно не то, из чего система построена, а то, что она делает. Автор дистанцируется от этого подхода: мы не можем знать, верен ли он и потому вправе относиться к нему с подозрением. Ещё одной предпосылкой для машинного сознания является связь сознания с интеллектом. Эта предпосылка на самом деле плохо обоснована и вызвана нашим извечным антропоцентризмом. Если мы на неё обопрёмся, то запишем в сознательные механизмы, таковыми не являющиеся и вычеркнем других животных.

Несмотря на эти сомнения, в последние годы в публику вбрасываются апокалиптические прогнозы о неизбежности или даже неотложности искусственного сознания. Рей Курцвейл спрогнозировал наступление в 2045 году технологической сингулярности, когда Земля начнёт превращаться в один гигантский суперкомпьютер. Автор считает это крайне маловероятным, потому что не верит в связь сознания и интеллекта. Очень многие из современных систем искусственного интеллекта в лучшем случае описываются как изощрённая система распознавания образов.

Сознание и интеллект разделяемы и многомерны

Графика красивая, слов нет, но напомню: она опирается на авторское предположение. В Твиттере он явно связывает сознание со способностью страдать, говоря «тебе не нужно быть умным, чтобы страдать». Почему сознание должно быть связано с наличием нервов (которые и вызывают ощущение страдания), а не проводов с электрическим током – мне лично непонятно. Животноцентризм, однако! Никто нам не мешает сделать такую машину, которая бы «страдала» при поступлении определённых сигналов обратной связи.

Теоретически мы могли бы сделать не разумную, а просто сознательную машину, в зависимости от того, что мы понимаем под сознанием и какой теории придерживаемся. Но даже если взять теорию «машины-зверя» за основание, авторская интуиция говорит: «Нет». Автор считает, что сознание критически зависит от материала построения и от многоуровневой саморегуляции в организме. Короче, оно должно быть живое. Можно довольно легко отличить GPT3 от обычного человека. Может быть какая-нибудь следующая версия станет настолько изощрённой, что этого сделать не удастся. Но и в этом случае искусственный интеллект останется лишь узкой формой разума, несравнимой с естественным интеллектом.

Если всё же удастся создать нечто, напоминающее реальное сознание, придётся озаботиться этической компонентой этого действия, то есть уменьшать страдания искусственного сознания, как мы уменьшаем страдания людей. А ведь мы даже как следует не знаем, что такое есть вообще сознание и в какой степени нам удастся его реализовать. На этом фоне появляются призывы к мораторию на исследования в этой области «синтетической феноменологии».

Вообще, далеко не факт, что искусственное сознание станет продуктом развития машинного интеллекта. Появление церебральных органоидов заставляет обратить серьёзное внимание на биотехнологии. То, что есть в наличии сегодня, вряд ли создаёт впечатление сознательности, но прогресс может со временем принести плоды в этой многообещающей области. И поскольку база здесь «естественная», то, с точки зрения автора и его теории, мы можем надеяться на определённые результаты. Но и здесь нельзя будет обойтись без этических аспектов.

------------------------------

Этот трюк – «сознателен по-другому» – и позволяет автору записать в «сознательные» всех млекопитающих и некоторых других животных лишь по отдельным признакам. При этом его не тревожит недоказуемость собственных предположений. А ведь сам ссылался на Томаса Нагеля в начале. Этот философ утверждал, что да, летучая мышь может иметь сознание, но узнать об этом – весьма проблематично, если вообще возможно. Анатомических сравнений и зеркального теста для этого явно недостаточно.

У меня сложилось впечатление, что когда Сет признаёт сознание за животными, отказывая в этом машинам, он опирается на не вполне научные критерии. Во всяком случае отсутствие доказательств часто игнорируется в первом случае и принимается за основание не верить в искусственное сознание – в другом. Можно считать это позицией сердца, но не позицией разума. Сознание должно быть живым, потому что оно предназначено для поддержания жизни в организме. Автор готов признать сознание за осьминогом, но отказывается признать его даже за будущими версиями искусственного интеллекта. Почему? Потому что они, даже если будут неотличимы от человеческого в некоторых отношениях, неспособны будут полностью соответствовать «естественному» интеллекту. Однако на том же основании неполного соответствия человеческому сознанию следует отрицать сознание и у животных тоже.

Ожидания от книги у меня были выше. Начали с философии, ею же и закончили, да ещё и немножко активизма в пользу животных подмешали. Впрочем, трудно было ждать чего-то более серьёзного в таком сложном деле. Но надежда не умирает. Не умерла она и после прочтения книги Сета. Будем надеяться, что когда-то этот твёрдый орешек поддастся научному прогрессу.

Перспективное «я» на примере автопортрета Эрнста Маха (из левого глаза).

Если мы чувствуем единство их всех, то это не значит, что они на самом деле слиты в одно. Если заболеть деменцией или амнезией, можно потерять нарративное «я». Шизофрения и синдром чужой руки приводят к деградации волевого «я». Внетелесные переживания и диссоциативные расстройства затрагивают перспективное «я». Расстройства телесного «я» в форме фантомных болей, соматопарафрении и прочих подобных синдромов – тоже, в общем, не редкость. Опыт «быть собой» – это коллекция восприятий, которые, как мы уже знаем, являются тесно свитым клубком предсказаний, призванных сохранить нас в живом состоянии.

Обратимся к телесному «я». Его легко обмануть, о чём свидетельствует эксперимент с резиновой рукой. В поле зрения испытуемого помещалась резиновая рука, в то время, как настоящая рука была скрыта от взора, но лежала параллельно. Обе руки начинали синхронно гладить, и при этом возникала иллюзия, что настоящая рука – вот та, что на столе. Ткни эту резиновую руку ножом - получишь незабываемые ощущения у испытуемого.

Эксперимент с резиновой рукой

Подобная иллюзия может быть продемонстрирована не с одной лишь рукой, но и со всем телом сразу.

Внетелесные переживания, о которых рассказывают бывшие при смерти, не означают, что душа покидает тело. Они говорят лишь о том,

...что перспективы от первого лица складываются более сложными, предварительными и ненадежными способами, чем мы когда-либо будем иметь прямой субъективный доступ к ним.

Вы поняли, о чём автор? Я – нет. Ясно лишь: в бестелесную душу автор не верит.

Обратимся к нарративному «я». Мы ассоциируем себя со своим именем, с воспоминаниями о прошлом и планами на будущее. Эта идентификация может быть полностью отсоединена от телесного «я». Ребёнок может не знать своего имени, не помнить прошлого, но, тем не менее, идентифицировать себя с телом. Есть такой Клив Уэринг, у которого герпес поразил гиппокамп. Так он потерял вообще всю свою автобиографическую память и начинает свою жизнь каждый день с чистого листа. И всё же некоторые аспекты своего «я» остались нетронутыми. Он по-прежнему владеет своим телом, играет на рояле и каждый день влюбляется в свою жену.

Когда нас беспокоит, что думают о нас другие, то вступает в игру социальное «я». Человек – общественное животное. Как и визуальное восприятие, социальное тоже зависит от контекста и ожиданий, и мы можем пытаться уменьшить разницу между ожидаемым и наблюдаемым. Мы либо изменяем наблюдаемое, либо корректируем ожидаемое. Если случается жить на необитаемом острове, мы не нуждаемся в этом процессе и теряем своё коллективное «я». Дичаем, так сказать.

Что ещё стоит упомянуть о «я» – это то, что оно изменчиво. Мы постоянно становимся другими людьми. Наше самовосприятие непрестанно изменяется. Но это не значит, что мы ощущаем эти изменения. Так и живём в экстремальной форме «слепоты изменения себя». Почему так? Потому что сознание наше предназначено не для того, чтобы познать себя, а для того, чтобы управлять собой.

Рене Декарт считал, что в человеке сосуществуют животное и духовное начала. Животное начало -это недумающая бесчувственная машина, которая работает, подобно часовому механизму. Нашему автору ближе материалистическая позиция Ламетри, который считал и человека тоже по сути машиной. То есть отрицал наличие духовного начала. Разум для него – свойство тела. То же можно сказать и о сознании:

Наш сознательный опыт о мире вокруг нас и о нас в этом мире, происходит посредством и по причине наших живущих тел.

Наряду с восприятием внешнего мира (экстеросепцией) у нас есть и восприятие собственного тела (интеросепция), получаемое посредством центральной нервной системы. Его ассоциируют с эмоциями и настроением. В конце девятнадцатого века появились предположения о том, что эмоции отражают изменения в состоянии тела. Автор предполагает, что по аналогии с активным выводом, направленным вовне, в отношении своего тела мы мыслим схожим образом. С перспективы его теории, которую он называет теорией «машины-зверя», эмоции и настроения, подобно другим восприятиям, идут изнутри вовне, а не наоборот. Боимся ли мы, волнуемся, радуемся ли – всё это коренится в процессе оптимизации оценок о состоянии своего тела. Потому как восприятие предназначено не для познания мира, а для управления и регуляции. А хороший регулятор – это такой регулятор, который содержит в себе модель регулируемой системы. Применив логику кибернетики, автор приходит к выводу, что эмоции и настроения можно понять как восприятие по регулированию ключевых параметров организма.

На более глубоких уровнях «я», ниже эмоций, таится зачаточный и трудноописуемый опыт бытия живым организмом. Автор предполагает, что и весь остальной сознательный опыт о мире вокруг нас и о самих нас происходит с нашим телом, посредством нашего тела, и из-за нашего тела. Задача мозга – сохранять нас в живых, вот он и старается. Этот зачаточный опыт не связан с окружающим миром. Он является базовым состоянием сознания:

Бесформенное ориентированное на управление перцептуальное предсказание о настоящем и будущем физиологическом состоянии тела.

Так можно объяснить поддержание психологической целостности: мы представляем себя неизменными, чтобы контролировать себя, а не чтобы познать себя. Наша же «душа» - не что иное, как выражение восприятия «глубокой непрерывности между разумом и жизнью». Вы понимаете, что он имеет в виду? Я – нет… Единственное, что ясно – что мы, по словам автора, не познающие компьютеры, а чувствующие машины.

Сет развивает свою тему осознания жизни принципом свободной энергии Карла Фристона. Согласно этому принципу все живые организмы минимизируют свою сенсорную энтропию во время жизни. Мы снижаем свою энтропию и поддерживаем себя в этом состоянии путём снижения количества «свободной энергии», которая есть не что иное, как сенсорная ошибка предсказания. Я не стану далее грузить голову читателя этой малополезной и практически неопровергаемой мутью, которую трудно вообще назвать наукой.

Мы ещё не касались темы волевого «я». Оставим в стороне философскую дискуссию о свободе воли и обратимся к экспериментам. В своё время много шума наделал опыт Бенжама Либета начала восьмидесятых. Испытуемому под ЭЭГ предлагали пошевелить пальцем в момент возникновения такого желания. Оказалось, что активность мозга возрастает заметно раньше, чем начинается движение руки.

Эксперимент Либета

Многие подумали, что автор опроверг свободу воли, потому что потенциал готовности увеличивался за сотни миллисекунд до действия. Но позднее оказалось, что этот потенциал может вырасти вообще при отсутствии действия. То есть активность мозга колеблется случайным образом, и когда она превосходит определённый порог, может включиться волевое действие. Замечу, что сам Бенджамин Либет к концу жизни пришёл к выводу, что сознание – не продукт работы мозга, а дислоцировано в некоем «поле», с которым мозг находится в контакте.

Опыт волеизъявления автор определяет тремя свойствами. Первое: человек делает то, что согласуется с его верованиями, ценностями и желаниями. По словам Артура Шопенгауэра

Человек может делать, что хочет, но не может желать, что хочет.

Надо же, наш автор читал «О свободе воли». Неплохо, неплохо.

Вторым элементом воли автор называет чувство, что можно было поступить каким-то другим образом. И третьим – что волевое действие, похоже, происходит изнутри, а не навязано извне. Волевое поведение зависит от контроля над этими тремя степенями свободы. Определённая сеть процессов в мозгу сначала определяет что сделать, потом когда сделать, а потом ещё может отменить действие. Это всё крутится в замкнутом бесконечном цикле мозга, тела и окружающего мира. На опыт волеизъявления можно тоже смотреть как на контролируемые галлюцинации особого рода, направленные на себя самого. В целом, способность осуществлять «свободную волю» - это способность уникально мыслить, совершать действия и делать выбор.

Так что же, свобода воли – это иллюзия? Ну-у-у… Вопрос, конечно, интересный! С одной стороны явно нереальна «жуткая свобода воли», противоречащая закону причины и следствия. С другой – каждый здоровый человек способен на волевые действия вне зависимости от желания начальника или инфлюэнсера из Ютюба. Но не от законов природы, конечно. И не от своей системы верований, ценностей и целей. Реальность подобной свободы становится явной, если вспомнить о случаях повреждения головного мозга, при которых люди либо не считают своим то, что они делают, либо вообще неспособны на волевые действия. Неудачно расположенная опухоль в мозгу может превратить обычного студента в Техасского снайпера. Волевые акты не только реальны, они необходимы нам для выживания.

-----------------------------

Автор сам затрудняется описать свой «опыт бытия живым организмом». Но не стесняется ставить его в основание своей концепции «машины-зверя», которая призвана объяснить существование сознания вообще. На мой взгляд, на столь малопонятных вещах не стоит базировать свои теории.

Автор привёл несколько примеров, поясняющих, что мир и то, что мы о нём представляем – несколько разные вещи. Пример первый: феномен синего или белого платья, получивший вирусное распространение в Интернете в 2015 году.

Займёмся содержанием нашего сознания. Наш мозг, живя в тесной коробке, узнаёт об окружающем мире от органов чувств. Но органы эти дают сырую информацию. Она не даёт представление о мире и его объектах. Выработать это представление – задача мозга. Нам кажется, что восприятие направлено в одну сторону: свет, звук и другие физические воздействия преобразуются в электрические импульсы, идущие «наверх», где они подвергаются многоступенчатой обработке. И на выходе имеем представление с миром, состоящим из объектов. В обратную сторону идёт информация, служащая для уточнения этого представления. Логично? Вполне. Но не факт, что верно.

The dress

Какого цвета это платье: сине-чёрное или бело-золотое? Не все люди видят это одинаково: кто-то видит так, кто-то – иначе. Оказалось, дело в настройке восприятия. Одно из объяснений: если ваша визуальная система привыкла к желтоватому освещению внутренних интерьеров – увидите платье сине-чёрным. Если же привыкли проводить много времени на свежем воздухе – получите бело-золотое. Но платье-то реально одного (на деле сине-чёрного) цвета и картинка тоже одна и та же для всех. И всё же мы видим по-разному, что иллюстрирует тот факт, что мир и наше представление о нём – разные вещи.

Вот ещё пример. Взгляните на эту шахматную доску и скажите, какая клетка темнее – А или В?

Шахматная доска Адельсона.

Казалось бы, дело плёвое – конечно, А! А вот и нет, эти клетки одинакового цвета. В этом можно убедиться, соединив их линиями того же цвета:

Но если перевести глаза наверх, то невозможно отделаться от впечатления, что это всё же не так. Не может быть, ведь А явно темнее. Да, темнее, но только в нашем представлении, подсовывающему шахматный узор, в котором белое не может быть одного оттенка с чёрным. Это представление – работа нашей системы восприятия, предполагающей наиболее вероятное объяснение сенсорной информации. Проблема в том, что оно не соответствует действительности.

Но оно и не должно соответствовать действительности. Восприятие – творческий акт. Наша эволюция создала управляемые галлюцинации восприятия не для того, чтобы они служили прозрачным окном в мир, а для того, чтобы помочь нам выжить.

Строя свои предположения, наш мозг исходит из наиболее вероятного объяснения наблюдаемых данных. Работает он при этом по принципу условной вероятности: в процессе обновления прогноза принимается во внимание надёжность информации. Мы генерируем то, что должны увидеть или услышать, делая это на разных уровнях обобщения. И если мы не видим того, что ожидаем, то пытаемся уменьшить разницу между ожиданием и действительностью. Это можно сделать, например, концентрацией внимания. Если мы увидели гориллу на оживлённой улице, имеет смысл прежде всего присмотреться. Но вышеупомянутая разница может быть уменьшена не только этим. Мы можем начать действовать, чтобы новые сенсорные данные ближе соответствовали нашей модели. Это называется активным выводом. Потеряв ключ, мы осматриваемся по сторонам в его поисках, пока наше предсказание восприятия ключа не исполнится. В канву активного вывода укладываются и действия высокого уровня типа поиска работы или решения вступить в брак. И здесь не обходится без генерирования моделей на основе имеющейся информации. Мы ищем ключи не где попало, а там, где скорее можем их найти. С течением времени действия складываются в фундамент обучения. Мы обновляем наши генеративные модели, устанавливая причины того, что видим и слышим.

Что удивительно в концепции активного вывода – наши действия и есть восприятие. Вертя головой по сторонам в поисках ключа, мы приводим наши предсказания о положении и движениях нашего тела в соответствие с действительностью. И действие, и ощущение являются формами предсказания. Поток информации снизу от органов чувств встречает встречный поток предсказаний. Предсказание сравнивается с сигналом обратной связи, рассогласование уходит наверх, чтобы улучшить предсказание и породить новые действия. Этот процесс приводит к аппроксимации по правилу условной вероятности, в результате которой cоздаётся живой мир нашего восприятия. Это восприятие является не чем иным, как контролируемой галлюцинацией.

То, что мы называем обыкновенной галлюцинацией, появляется тогда, когда наш опыт в виде предсказания становится настолько сильным, что сенсорные данные не принимаются во внимание. Восприятие продолжает работать, но при этом выходит из-под контроля. Автор со своей группой исследовал в лаборатории виртуальной реальности то, как предсказания дают дорогу новому опыту восприятия. Они пропустили видеозапись площади перед университетским кампусом через алгоритм компьютерной парейдолии DeepDream. Нейронная сеть алгоритма была натренирована на распознавание собак. В результате получился неслабый такой фильмец из жизни кинолога, который демонстрирует здесь автор:

Сет надеется, что, пролив свет на галлюцинации, мы сможем понять и наш нормальный повседневный опыт. В своей книге он коснулся феномена объектности, через которую мы постигаем мир, а также написал о восприятии времени. Исследования не помогли найти «сенсоры времени» в нашей голове, за исключением нейронов циркадного ритма. Опыт времени – тоже контролируемая галлюцинация. Чем быстрее меняется содержимое восприятия – тем быстрее течёт время. Эксперименты с нейронной сетью, имитирующей действие визуальной системы человека, подтвердили это. Получается, что, что восприятие времени может хотя бы в принципе возникнуть не от некоего внутреннего хронометра, а от оценки скорости изменения сенсорных сигналов.

Автор рассказал о ещё одном зрелищном эксперименте, позволяющем судить о наличии «внутренних часов» у человека. Говорят, что во время сильных переживаний время бежит особенно медленно. Дэвид Иглмен одел испытуемым специальные часы с бегущими микросекундами, которые невозможно различить глазом. Если «внутренние часы» начнут тикать медленнее, то, по идее эти микросекунды можно будет разобрать. В качестве встряски было предложено прыгнуть с тарзанки. Сколько ни прыгали – микросекунд на часах было не разобрать.

Ещё одна вещь, с помощью которой мы судим о мире – это причинность. Мы не можем наблюдать причинность в мире, а только лишь «проектируем», по словам философа Юма, её в мир, насмотревшись на повторение событий, случающихся одно за другим. Почему мы думаем, что это на самом деле так? Нам так удобнее. Мы познаём мир не таким, какой он есть, а полезным для себя.

----------------------------------------------------------

Идеей контролируемой галлюцинации пронизана вся книга. Не думаю, что она является небесспорной в научном мире. А уж концепция активного вывода – тем более. Формула Байеса по расчёту условной информации чрезвычайно популярна в западной литературе, вот и наш автор не удержался привести её в своей книге. Несмотря на то, что мозг делает свои выводы хоть и сходным методом, но всё же не совсем так: ведь он не считает вероятностей, а оперирует, скорее, логикой нечётких множеств. Нейроны циркадного ритма он выносит за скобки, а ведь они – как раз не что иное, как наши внутренние биологические часы. Впрочем, они тикают действительно достаточно медленно. Что-то вроде часовой стрелки. А вот секундной стрелки у нас, по-видимому, действительно нет. Или есть? Просто события отвлекают нас и искажают её ход? Я думаю, науке ещё многое предстоит выяснить в этой области.