Стержнем этой книги является диалог между философией и наукой.
Сьюзан Шнайдер

Развитие современных технологий поражает: до каких только вещей додумалось человеческое сознание. Только «вчера» по меркам эволюции — 300–400 тыс. лет назад — Homo sapiens начал постоянно использовать огонь, а уже сегодня он создает интерфейс человек—компьютер, который помогает парализованному пациенту общаться. Тем не менее, весь багаж знаний прогресса все еще не помог ответить на самые базовые вопросы: что такое «я»? В чем выражается «личность»? Что такое «Сознание» и как распознать его у других? Казалось бы, задумываться над этим и тем более пытаться найти строго сформулированный ответ вовсе не обязательно каждому живущему на Земле. Однако Сьюзан Шнайдер в своей книге «Искусственный ты. Машинный интеллект и будущее нашего разума» показывает, что проблема сознания, как в масштабе одного человека, так и в масштабе вселенной, важна всем. Особенно учитывая, что, кажется, технологии вот-вот вмешаются туда, где представлять ответы на них необходимо.

Книга в целом нацелена на «метафизическое смирение», которое, по определению автора, является движением вперед через публичный диалог, опирающийся на метафизическое теоретизирование.

Сразу отметим: Шнайдер — не ученый, а философ. Ее книга — мостик между наукой (во многом гипотетической) и философией. И в ней вас не ждет простой ясный текст, характерный для научпопа — да и хорошей журналистики в целом, который в идеале дал бы однозначные ответы на поставленные вопросы. Готовьтесь к витиеватым обсуждениям, мысленным экспериментам, дискуссиям с разных точек зрения по вопросам, на которые, вероятно, ответа и нет. Это, если можно так сказать, особенность жанра.

Предположим, что наступил год и люди проходят процедуры постепенной нейронной регенерации во сне. Во время ночного сна наноботы медленно вводят наноматериалы, вычислительно идентичные оригинальным. Затем те же наноботы постепенно удаляют старые материалы, помещая их в небольшой контейнер рядом с постелью.
Сам по себе этот процесс не представляет проблем для модифицированного паттернизма. Но теперь представьте, что регенерационный сервис позволяет желающим сделать, на всякий случай, копию своего мозга. Если человек выбирает эту процедуру, то в ходе еженощного процесса наноботы забирают замещенные материалы из контейнера и помещают их внутрь глубоко замороженного биологического мозга. Предположим, что к концу этого процесса материалы замороженного мозга полностью замещаются оригинальными нейронами человека, причем сконфигурированными точно так же, как они были сконфигурированы в оригинальном мозге.
Теперь предположим, что вы решили пройти эту дополнительную процедуру наряду с регенерацией. Со временем этот второй мозг замещается тем самым материалом, из которого первоначально состоял ваш мозг, причем сконфигурированным совершенно так же. Который теперь вы? Первоначальный мозг, состоящий из совершенно других нейронов, или мозг, куда переместились все ваши оригинальные нейроны?

В биоэтике иногда делят статьи на «белые», практически значимые в данный момент, и «зеленые», где автор может позволить себе любые далекие от реальности обсуждения (но, стоит заметить, что и они бывают важны). Казалось бы, книга Шнайдер тяготеет именно к зеленому спектру статей. За довольно небольшое количество страниц прекрасно рисует перед вами широкую панораму дискуссий о сознании AI (искусственного интеллекта, artificial intelligence), представителей внеземной жизни и постлюдей. Однако вы удивитесь, сколько у подобных обсуждений уже нашлось практических применений.

Книга Шнайдер разделена на 8 глав с небольшим количеством иллюстраций, но обсуждения в них тесно переплетаются друг с другом, и задачи, обсуждаемые в одной части книги, получают продолжение в других. Автор постоянно цитирует других философов и их взгляды на ту или иную проблему. Если вы хотели бы покопаться в какой-нибудь из тем подробнее, в конце книги вас ждет список литературы. Отметим, что научным редактором русскоязычной публикации стал Александр Каплан, д.б.н., профессор, заведующий лабораторией нейрофизиологии и нейрокомпьютерных интерфейсов кафедры Физиологии человека и животных на биофаке МГУ имени М. В. Ломоносова.

О чем же вы узнаете из труда Шнайдер?

В основном публикация посвящена искинам (от Искусственный Интеллект), да-да, автор называет их именно так, как вы привыкли видеть в книгах по научной фантастике. Книга даст представление о биологическом натурализме, технооптимизме в отношении искусственного сознания, фьюжен-оптимизме и подходе самого автора, выражающегося фразой «поживем — увидим». Представители всех этих направлений с разных сторон видят ответ на главный вопрос книги: возможно ли у искинов наличие сознания и что нам с этим делать, если да?

Сам автор считает, что пока мы не можем знать наверняка, тем более сознание вовсе не обязательно должно будет появиться у самых разумных из искинов. Однако следует рассмотреть разные потенциальные сценарии при положительном ответе. И какова будет их внутренняя жизнь, будет ли она богаче и глубже человеческой?

Я уже отмечала, что вопрос о том, может ли у искина быть внутренняя жизнь, должен стать ключом к тому, насколько мы ценим его существование, поскольку в центре решения, является ли та или иная сущность личностью и есть ли у нее «я», находится сознание. Искин может быть сверхразумным и превосходить людей по всем когнитивным и перцептивным аспектам, но, если он не ощущает себя искином, нам трудно считать, что эти создания обладают такой же ценностью, что и самосознающие существа, которые имеют «я» и являются личностями. И наоборот, в наличии или отсутствии у искина сознания кроется ключ к тому, как он оценивает нас: самосознающий искин может распознать у нас способность к осознанным переживаниям

Если вам кажется, что подобные рассуждения слишком оторваны от реальности, то это не совсем так. Например, Сьюзан Шнайдер сейчас является частью команды проекта «Полет сознания к звездам», где стараются показать преимущества «участия» в миссиях универсального автономного искина. Или автор дает конкретные рекомендации разработчикам ИИ и создает с коллегами ACT (AI Consciousness Test). Его успешное прохождение значило бы, что конкретный искин перед нами — самосознающий.

Другая большая тема публикации Шнейдер — это усовершенствования, «киборгоризация» и постлюди, которые уже принципиально будут отличаться от нас своими способностями. Как понять, останется ли человек самим собой после всех манипуляций, или это уже будет совсем другая личность? Возможно, в реальности кардинальное усовершенствование будет значить, что сам человек умер в его процессе и остался лишь его «потомок»? Какой будет постбиологическая цивилизация и ее результат? Читатель попробует ответить на подобные вопросы вместе с автором и, вероятно, поймет, что это совсем непросто.

Чтобы понять, стоит ли себя усовершенствовать, сначала необходимо выяснить, что вы собой представляете. Что такое личность? А потом решить: продолжите ли вы после столь радикальных изменений существовать как эта личность? Или вам на смену придет кто-то другой — а то и что-то другое?
Чтобы принять подобное решение, нужно разобраться в метафизике своей идентичности, т.е. ответить на вопрос: благодаря чему или посредством чего конкретное «я», или личность, продолжает существовать?

Наконец, Сьюзан рассуждает о жизни во вселенной и наличии разума в других ее уголках. Возможно, технология продвинутого AI была разработана в других цивилизациях, а население планеты Земля как раз отстает от них, пока не создав своей. Может быть, другие миры уже даже достигли технологической сингулярности и оказались представлены сверхразумными искинами? Если, конечно, там вовремя не задумались над проблемой идентичности и не отказались из-за этого от усовершенствований...

... нет никаких причин считать человечество обладателем высшей формы интеллекта во Вселенной. Обидно об этом думать, но в галактическом масштабе нас, возможно, следует отнести к интеллектуальным легковесам, по крайней мере до тех пор, пока мы радикально не усовершенствуем свой разум. Интеллектуальный разрыв между неусовершенствованным человеком и инопланетным сверхразумом может быть сравним с разрывом между нами и золотыми рыбками.

Сьюзан Шнайдер пишет: «Философ Дэвид Чалмерс сформулировал „трудную проблему сознания“, задав вопрос: почему вся информация, которая обрабатывается в мозге, должна ощущаться внутренне определенным образом? Чалмерс подчеркивал, что эта проблема, судя по всему, не имеет чисто научного ответа».

«Искусственный ты. Машинный интеллект и будущее нашего разума» — это книга, которая тоже обсуждает проблемы, которые не имеют чисто научного ответа. Не всегда это просто, не всегда понятно, что, как и зачем это обсуждать, но это точно интересно и познавательно.