Оригинал: https://www.plough.com/articles/humans-are-magnificent

Humans Are Magnificent
Действительно ли люди являются чем-то величественным, или же мы чума? Бывают времена, когда вы пребываете в полной неуверенности – особенно когда имеете дело с реальными людьми. Несколько дней назад в доме моих родителей случился пожар. Они пожилые люди. Из окна подвала внезапно вырвалось пламя, а первый этаж наполнился густым дымом. Это могло бы легко обернуться гибелью. Но всё обернулось иначе. Пожарную охрану вызвали немедленно, и она прибыла оперативно. Соседи пришли на помощь и предложили им место для ночлега; всё прошло очень гладко. Когда кто-то в беде, другие помогают. Это относится к личным отношениям, но также отражается и во впечатляющей готовности людей жертвовать деньги, когда где-то в мире случается что-то ужасное. Мы, люди, очевидно, созданы для сотрудничества. И всё же иногда бывает совершенно наоборот. «Как люди могут совершать такие вещи?» – таков интуитивный вопрос, который мы задаём, когда новости в очередной раз сообщают о покушении, пытках или войнах в разных уголках мира.

«Человек, странное создание: ногами в грязи, головой в звёздах» – так описала эту дилемму немецко-еврейская писательница Эльза Ласкер-Шюлер (1869–1945). Являются ли люди чем-то величественным, или же они довольно жалкий вид? Или, выражаясь более современным языком, является ли Homo sapiens венцом творения или чумой планеты?

Недавно один молодой профессор пригласил меня на интервью на свой YouTube-канал. Он физик, и с самого начала он стал задавать мне новейшие, сложнейшие вопросы на границе между технологией и философией. Разовьёт ли когда-нибудь искусственный интеллект сознание? И если да, то следует ли таким интеллектам также предоставлять права человека? И почему роботам, которые во многих отношениях превосходят людей, не следует предоставлять человеческое достоинство? Это действительно отличные вопросы. Почему люди должны иметь привилегии? Разве они не утратили право на особое обращение, если «сознание», «интеллект» или даже «свободная воля» больше не являются действительными отличительными признаками? Мой любопытный интервьюер задавал мне эти вопросы, чтобы ответить на тот, который станет одним из важнейших вопросов будущего: кто мы и что делает нас особенными?

Мой ответ начался с противоречия. Вопрос не в том, когда «искусственный интеллект» разовьёт сознание, потому что никакого искусственного интеллекта не существует. То, что мы называем ИИ, – это чрезвычайно быстрая симуляция процессов принятия решений, которая выдаёт результаты из множества доступных в сети данных, способные обманчиво походить на результат интеллектуальной деятельности. Но это не интеллект. Intellegere – по-латыни и означает «понимать, осознавать». Когда алгоритм выбирает вероятно правильный ответ из миллионов текстовых блоков, кто осуществляет понимание? Не бывает понимания и осознания без того, кто понимает и осознаёт. «Искусственный интеллект» не умнее карманного калькулятора или библиотеки: из того, что с помощью того и другого можно быстро что-то узнать, вовсе не следует, что там присутствует интеллект, который что-то понимает.

Представление о том, что сознание может развиться из ИИ, основано на недоразумении. Наше сознание – это не абстрактное состояние, возникающее на любой субстанции, подобно отношению между состоянием замёрзшести и субстанцией жидкости. Сознание – это состояние человека. По сути, я даже не знаю, видит ли мой сосед зелень луга такой же зелёной, как и я.

Сознание, которое в сущности определяет нас как людей, характеризуется перспективой первого лица, интроспекцией, от которой мы не можем полностью отстраниться. Но это не вся правда.

Поскольку мы существа социальные и находимся в пространстве общего языка, общих действий и многообразных социальных взаимозависимостей, мы переживаем наше сознание как связанное с сознанием других. Фактически, младенец развивает самосознание лишь постепенно. Прежде чем дети учатся говорить «я», они говорят «мама», воспринимают взгляд другого человека и постепенно осознают самих себя. «Человек становится "Я" через "Ты"» – так описывает это философ Мартин Бубер. Поэтому приписывание сознания другим людям так же естественно для нас, как и переживание себя в качестве сознательного существа. Мы не можем иначе. Мы твёрдо придерживаемся того, что сознание изначально является моим собственным сознанием и в то же время ориентировано на других людей. Абстрактного сознания не существует, потому что абстрагирование от перспективы моего собственного опыта – это чисто мысленный эксперимент.

Всё, что воспринимается, воспринимается кем-то. Это становится очевидным, если задаться вопросом: как может быть прочитана книга, если нет никого, кто бы её читал? Копировальный аппарат может сканировать страницы, но он не понимает содержания книги. Восприятие принадлежит человеку, который может сказать «я». Конечно, это не означает, что мир существует только потому, что кто-то его воспринимает, но это означает, что сознание всегда содержит перспективу первого лица. То, как мир выглядит глазами другого человека, остаётся увлекательной, неразрешимой тайной. Тем не менее мы естественным образом предполагаем, что другие люди тоже соотносятся с миром; иначе наш язык вообще не имел бы смысла. Более того, мы постоянно обнаруживаем, что можем совместно действовать в мире посредством языка, и, очевидно, с успехом. Мышление – это тоже нечто всегда моё собственное, но оно может происходить только в социальном пространстве. В конце концов, мы ведь не изобретали язык как отдельные личности. Поскольку мы не можем полностью отделить наше «я» от других лиц, которые тоже говорят «я», мы относимся к людям иначе, чем к вещам.

В одном из важнейших разделов своей этики Иммануил Кант пишет в «Критике практического разума», что личности – это существа, которые обладают не только ценностью, но и достоинством. Под этим он подразумевает, что, хотя мы можем использовать вещи, мы никогда не должны относиться к людям просто как к средству для достижения цели. Камень не имеет перспективы первого лица; он не является личностью. Использование камня как средства для постройки дома не противоречит сущности камня. С другой стороны, человеческое достоинство предполагает, что сущность личности полностью отрицается, когда её используют просто как средство для достижения цели. Каждый интуитивно чувствует это, когда чувствует себя эксплуатируемым, манипулируемым или оскорбляемым. Именно поэтому рабство и торговля людьми являются преступлениями против человеческого достоинства. Лицо другого человека, обращённое ко мне, содержит требование: «Относись ко мне как к человеку, а не как к вещи. Ибо я ношу в себе таинственную перспективу первого лица, как и ты. В конечном счёте ты не можешь видеть меня насквозь, и мир выглядит иначе моими глазами, чем глазами любого другого».

Помимо нашей уникальной особенности – обладания сознанием, которое всегда является сознанием субъекта первого лица и всегда социально переплетено, – у нас, людей, есть ещё одна характеристика, которая радикально отличает нас от машин. Наше сознание телесно. Наше восприятие мира неотделимо от восприятия нашего собственного тела. Я вижу дерево, потому что стою перед ним своим телом. Я вижу его иначе, если забираюсь на его ветви. Я воспринимаю его ещё больше, если прикасаюсь к нему, нюхаю его, слышу шелест его листьев на ветру. Всё это происходит через мои физические чувства. Я чувствую кору дерева, но это потому, что я чувствую свою собственную ладонь на коре. Таким образом, сознание не обитает в теле подобно тому, как джинн обитает в бутылке; эти два начала неразрывно переплетены. Не существует восприятия, которое не было бы связано с нашими физическими чувствами. Мы находимся в этом мире как физические существа и обитаем в нём как материальные личности.

Помимо бытия-в-мире, мы переживаем мир эмоционально. Мы устали, капризны или счастливы; заинтересованы, влюблены или обижены. Всё это окрашивает наш опыт, формируя и определяя то, как мы воспринимаем мир. Наши настроения и эмоции также неотделимы от нашего тела. Мир по-разному воздействует на нас, когда мы голодны или находимся в стрессе, и у нашего голода и стресса есть физические причины. Каждый из нас является одушевлённым телом, единством сознания и тела. И как это единство, мы с самого начала нашей жизни являемся также обитателями этического и осмысленного мира. Это начинается с того, что, воспринимая мир, мы всегда бессознательно выбираем, на чём сосредоточить наше внимание, что для нас важно. Правильный образ жизни, что есть благо и что есть истина, куда нам направлять свои силы и от чего дистанцироваться – всё это уже вписано в то исходное место, в котором мы оказываемся в жизни.

Это таинственное переплетение является источником нашего достоинства и нашей величайшей уязвимости. Если бы мы могли просто абстрагироваться от того, как другие люди обращаются с нами, мы были бы гораздо менее уязвимы. Человеческие существа бесконечно уязвимы для зла. И поскольку только люди действительно свободны в том, как мы обращаемся друг с другом, и поскольку мы не связаны инстинктом в необходимости хорошо относиться друг к другу, мы также способны на зло. Львы едят газелей, но никому не пришло бы в голову называть это поведение злом. Львам никогда не придётся отвечать перед судом. Но мы, люди, называем определённое поведение других и самих себя злом. Именно поэтому у нас существуют юрисдикция и законы, именно потому, что мы рассматриваем себя как обладающих определёнными правами и, следовательно, определёнными обязанностями. То, что звучит как философски абстрактный вопрос, становится чрезвычайно актуальным в исследованиях ИИ: кто несёт ответственность, если беспилотный автомобиль сбивает человека? Автомобиль же не посадишь под суд. «Люди являются чумой планеты, единственным видом, способным уничтожить весь мир» – иногда мы слышим это в контексте экологических дискуссий. Но оборотная сторона часто упускается из виду. Только люди могут совершать зло, потому что только люди могут совершать добро. Белки не совершают морального добра, заботясь о своём потомстве. Они делают это по инстинкту и не должны взвешивать одно моральное благо против другого. Люди же – должны. Добро отнюдь не всегда является более лёгким путём; и всё же люди очень часто совершают добро.

Итак, почему мы, люди, обладаем достоинством? Потому что мы есть и имеем нечто, чего нет больше нигде в видимом творении: дух, сознание, способность задавать моральные и эстетические вопросы. Почему у нас, людей, есть всё это? Чисто биологический взгляд на человека не может ответить на этот вопрос. Да и почему должен? В конечном счёте биология рассматривает всех живых существ только с точки зрения их природных характеристик. Однако мы, люди, не обязаны рассматривать себя лишь как биологические существа. Напротив, часто выбор этического блага означает прямой отказ от выбора, соответствующего закону, – и этот выбор может быть очевидным с биологической точки зрения. Человеческие существа также принадлежат к иному порядку бытия – порядку духа. Там, где биология должна умолкнуть, начинается религиозное истолкование. Образ самого Творца – так библейские повествования о сотворении видят наше место в космосе.

В радикальных кругах движения за защиту климата людей называют «чумой планеты», а такие авторы, как Юваль Ной Харари, описывают нас как животных с «взламываемым» программным обеспечением в мозгу – в конечном счёте просто как компьютеры. В такие времена важно заново говорить о достоинстве Homo sapiens. Человечество должно быть защищено от его ненавистников.