Оригинал: https://www.youtube.com/watch?v=FDAU-c8H_oIСегодня я выскажу своё мнение об искусственном интеллекте. Играться с ChatGPT, Grok или другими видами искусственного интеллекта — действительно захватывапюще. Ты видишь, на что они способны. Сейчас трудно предсказать, что станет возможным через несколько месяцев или лет. Ясно одно: целые профессии полностью изменятся, многие исчезнут. Я считаю, что это технология, которая несёт как свет, так и тень. Люди уже успешно справлялись с другими технологическими шагами, но этот вторгается особенно глубоко, в том числе в наше самопонимание как людей. Поэтому я хочу поразмышлять об этом.
Речь не идёт о враждебности к прогрессу или ностальгии — о том, что раньше всё было лучше. Каждый технологический прогресс имеет свои плюсы и минусы. Открытие ядерной энергии, деления ядра было чрезвычайно важным, но оно же сделало возможной атомную бомбу. Так и у любой технологии есть своя цена и теневые стороны.
Если присмотреться к теневым сторонам, я хотел бы процитировать одного из самых ярких мыслителей в этом направлении — Илона Маска. Он представитель технолибертарианского мировоззрения, где техническое развитие считается самым важным и лучшим, что могут делать люди. Он говорит, что главная проблема человека в том, что у нас всего десять пальцев. Интерфейс между нашим мозгом, который может обрабатывать информацию гораздо быстрее, и нашими пальцами должен быть преодолён. И мы уже видим, как рассматривается идея, что человек должен преодолеть свои земные ограничения, чтобы стать таким же быстрым или таким же хорошим, как компьютер. Какое же представление о человеке стоит за этим? Я считаю, что вопрос, уничтожит ли нас искусственный интеллект, встанет только тогда, когда мы сами заранее начнём понимать себя как компьютеры.
Поэтому я думаю, нам нужно мыслить наоборот. Чем больше искусственный интеллект будет брать на себя некоторые наши задачи, тем больше мы, люди, должны выяснять, что же является по-настоящему исконно человеческим.
Теперь сначала о том, почему я утверждаю, что ChatGPT и искусственный интеллект не безвредны.
Во-первых, не всякий прогресс по определению хорош. Утверждение «это новее, быстрее, лучше» само по себе не означает, что это что-то хорошее. У любой технологии есть и мера, за которой становится слишком много. Каждый человек должен в какой-то момент для себя решить, где он проводит черту, что он делает, а что не делает. С тех пор как существует оружие, мы его ограничивали. С тех пор как существуют химия или физические эксперименты, мы тоже думали, какие эксперименты не следует проводить, и как нам разработать защитные правила для химических опытов или применения взрывчатки. Так же и здесь: только потому, что появилось что-то новое, только потому, что теперь есть такая возможность, ещё не значит, что это хорошо.
Во-вторых, ChatGPT и искусственный интеллект в целом этически и морально небезупречны, потому что они основаны на воровстве. Когда ты генерируешь изображения с помощью искусственного интеллекта, он берёт изобразительный материал других фотографов или художников, которые за это, естественно, не получают никаких отчислений, он пользуется информацией, созданной другими. Поэтому это в принципе требует постановки этического вопроса. Если ты говоришь, что это твоё собственное выступление, и ты отправляешь его ИИ чтобы сделать резюме, или пользуешься им просто для чистого исследования, тогда это одно дело. Но ты должен знать: как только речь идёт о музыке, об изображениях, о творчестве других людей, это на самом деле неправильно. Я знаю, все так делают и будут делать, но это абсолютная несправедливость по отношению к цифровой креативной индустрии и к креативной индустрии в целом. Я не знаю, сможем ли мы в будущем как-то защитить источники или авторские права, но это действительно проблема: это технология, которая без оглядки на потери, так сказать, агрессивно-капиталистически пользуется всей доступной информацией.
Третья проблема, почему ChatGPT и подобное ему небезвредно: из-за этого на самом деле разучиваешься думать. Поразительно: ты можешь задать ChatGPT вопрос, дай мне лучшие аргументы за эту позицию и затем лучшие аргументы против. Это как раз те вещи, которые обычно должны обдумывать люди. Можно, конечно, сказать, что и при предыдущих технологических скачках мы кое-что разучили. Сегодня мы хуже ориентируемся в городах или за рулём, потому что у нас есть навигационные системы. Мы также хуже колем дрова и разводим огонь, потому что нам это уже не так часто нужно. Это в принципе верно. Но мышление — это не просто навык наравне с другими. Я хочу предостеречь студентов, школьников и всех, кто пользуется этими вещами: чем больше ты их используешь, тем больше ты на самом деле теряешь определённую форму мышления, а именно — способность мыслить глубоко.
Потому что в-четвёртых, и это большая проблема, мы через ChatGPT приучаемся доверять посредственности. Искусственный интеллект на самом деле не интеллектуален, а эти большие языковые модели работают так: они могут математически измерять вероятность совместного появления различных комбинаций слов. То есть в машине никто не сидит и не думает, истинно ли это предложение или нет, а лишь статистически смотрит, как часто эти комбинации слов встречаются в сети. Это означает, что AI может извлекать только то, что доступно в сети, и даёт тебе, так сказать, среднее. Она делает что-то похожее на поисковую систему, но в идеале ещё более нейтрально и более всеобъемлюще. В таком смысле её можно использовать. Если ты хочешь узнать, что примерно говорят большинство людей по той или иной теме, это хорошо. Но вот в чём дело: настоящее творчество и настоящий научный прогресс начинаются именно тогда, когда ты не удовлетворяешься тем, что говорят все, или средним мнением. И здесь именно проблема в том, что мы уже сейчас слишком доверяем AI. Я вижу это и в дискуссиях. ChatGPT обобщил, но если ты хорошо разбираешься в теме и читаешь между строк, то замечаешь, что он лишь обобщил общие предрассудки по этому вопросу, а действительно спорные моменты — а дьявол кроется в деталях — он даже не называет таковыми.
То есть третий пункт заключался в том, что мы разучиваемся действительно глубокому логическому мышлению. И четвёртый — мы привыкаем к среднему, к тому, что примерно все говорят, примерно все думают, к усреднённому мнению.
В-пятых, скорость ChatGPT опережает мыслительный процесс. Конечно, ты быстрее получаешь результат. Если ты просто даёшь себе суммировать книгу, ты можешь быстро узнать, о чём в ней написано. Да, но когда ты читаешь книгу и сам для себя выясняешь, что в ней сказано, твоё мышление развивается, твой мозг учится. И на самом деле задача образования — университетского, но и школьного тоже — в первую очередь вовсе не передача информации. Информацию ты можешь посмотреть в энциклопедии или в Википедии. Задача — в самом процессе обработки и получения информации, потому что информация будет меняться, технологии мира будут меняться, но нам всегда будут нужны люди, которые умеют мыслить, сами находить творческие решения, критически задавать вопросы, из большого объёма доступной информации находить релевантную, применять её, переводить для себя. Это связано с чем-то большим, чем просто обработка информации. Речь идёт о мудрости — о том, как применить это в жизни. Что мне теперь делать с этой информацией? Именно этот тип мышления мы и теряем.
Шестой и последний пункт: ChatGPT и все остальные AI — только аудиовизуальные, как и интернет в целом. Всегда речь идёт о зрении и слухе. Я могу что-то послушать, что-то посмотреть, но чего не могу? Твои телесные ощущения, чувствование, межличностное, резонансное, эмпатическое восприятие, обоняние, ощущение движения в пространстве, физическое прикосновение — все эти аспекты или глубокий смысл, который открывается через чувства, — всё это остаётся за кадром. Мы всё больше становимся людьми, сведёнными к аудиовизуальному. Очень важно: только потому, что я знаю данные о чём-то, не значит, что я действительно знаю эту вещь или человека. Если я спрошу вас, знаете ли вы Африку, и вы скажете: да, это континент. Я могу дать вам точную сводку, сколько людей там живёт, сколько слонов и какие там полезные ископаемые. Это совершенно другое. Это совершенно иное, чем человек, который действительно жил в Африке. И то, что AI, но и интернет в целом, цифровизация в целом нам внушают, — это что мы знаем сами вещи, если мы только когнитивно поняли их названия и доступные факты. И это огромное заблуждение. Мы на Западе со времён Просвещения и так уже чрезвычайно левополушарны. Мы и так считаем, что вербально-когнитивное понимание, логическая обработка данных — это главный доступ к миру, но это совсем не так, это лишь один из нескольких доступов к миру. Есть ещё эмпатический, эстетический, художественный, духовный, телесный. Все эти смысловые измерения, которые вообще ещё не затронуты чисто логическими, мыслительными процессами представимыми в виде алгоритмов .
И здесь мы подходим к вопросу, разовьёт ли искусственный интеллект сознание, и почему я считаю, что ответ на этот вопрос — однозначное нет.
Итак, мы будем использовать, можем использовать ChatGPT и другие виды искусственного интеллекта, но они не безвредны. Само по себе интересно, что это технология, по поводу которой большинству людей интуитивно сразу приходит в голову несколько способов злоупотребления ею. Да, какие-то роботы с оружием, которые сражаются против нас или попадают в руки безумцев. Можно использовать их как пропагандистские машины. А когда речь заходит о том, в чём же реальная польза, что действительно продуктивно, большинству людей приходит на ум только гистология — сканирование раковых заболеваний, где они, конечно, могут быть намного быстрее, чем врач-человек. В общем, я считаю, нам нужно привыкать ко всему: всё испытывайте, хорошего держитесь. Также следует критически смотреть на технологии. Только потому, что что-то новее, только потому, что что-то быстрее, ещё не значит, что оно лучше. Мы можем использовать их все, я тоже их использую. Но мы должны совершенно чётко спрашивать себя: что я делаю, а чего я не делаю? И я считаю, что неправильно всё больше и больше отучать себя от мышления. Я считаю, что неправильно писать с их помощью курсовые работы, книги и отучать себя от собственного мышления. Это скользкий путь, который делает нас самих как людей бесчеловечнее и хуже.
Теперь ещё один, последний пункт, философский мысль. Это интеллект, или это выглядит как интеллект, но у этого нет тела, и нельзя сказать, кто ими на самом деле управляет. И интересно, что христианское богословие и иудейское богословие тоже имело названия для такого рода духовных существ. А именно — ангелы и демоны. Карл Барт называет демонов безвластными силами. Я не говорю, что AI — это то же самое, что демоны и ангелы. Но мне интересно. После того как в течение 200 лет люди с более натуралистическим складом ума говорили: ну, какие там ангелы и демоны, всё это ерунда, есть только материя, — теперь мы имеем дело с кажущимся интеллектом или сущностями, похожими на интеллект, у которых нет тела, но которые могут развивать нечто вроде собственной воли, то есть собственные намерения. Это довольно сильно напоминает то, что ранняя церковь называла демонами. Ещё раз: я не говорю, что это демоны, но интересно то, что демонология — учение о демонах в ранней церкви, а также у греческих отцов пустынников и так далее — что она содержит нечто такое. И суть всегда в том, что это, по сути, силы, которые не подчиняются благу, не подчиняются Господу, а развивают собственную динамику и хотят получить власть над нами. И они, в конечном счёте, обезличены. Мы, люди, — это личности, и в этом наше великое достоинство, но опасность для личности всегда заключается в том, чтобы передать другому власть над собой и тем самым фактически отказаться от собственной личности, то есть передать решения, а в итоге оказаться ведомым внешними силами. Это, богословски говоря, представление о том, что если я практически поддаюсь нашёптываниям зла, то зло получает власть надо мной. Мне просто интересно на философском уровне, как сильно это похоже на то, что когда я всё больше и больше становлюсь зависим от технологий, то есть передаю всё больше решений чему-то, что вообще не является личностью, я теряю внутренние способности к действию.
Я хочу упомянуть один очень древний текст из Книги Псалмов, написанный за 500 лет до Рождества Христова или даже за 1000 — точно неизвестно. Псалом 113, там говорится об идолах. «Есть у них уста, но не говорят; есть у них глаза, но не видят; есть у них уши, но не слышат; есть у них ноздри, но не обоняют; есть у них руки, но не осязают; есть у них ноги, но не ходят; и они не издают голоса гортанью своею. Подобны им да будут делающие их и все, надеющиеся на них». То же самое и в Псалме 134. Очень интересно. Здесь говорится, что человек застывает в изумлении перед творением своих рук. Это называется идолопоклонством. Творение человеческих рук — это не проблема. Технологии — это не проблема. Люди всегда создавали технологии. Но кланяться перед ними и ожидать от технологии того, что она никогда не может дать, — это унижает самого человека. Поэтому сказано: те, кто почитает идолов, уподобятся им. И теперь я хочу соединить эту мысль с AI. И я считаю, что в той мере, в какой мы сейчас почитаем искусственный интеллект и превозносим его как величайшее из всего, мы свидетельствуем о том, что мы заранее слишком низко думали о человеке.
Вопрос, разовьёт ли искусственный интеллект сознание, связан с тем, что такое сознание вообще. Вопрос о том, превзойдёт ли искусственный интеллект нас, людей, вообще возникает только тогда, когда мы, люди, думаем о себе слишком низко.
Я хочу привести аргумент, почему я считаю, что искусственный интеллект никогда не сможет развить сознание. Сначала мы должны подумать, что такое сознание вообще.
Во-первых, единственное сознание, о котором я точно что-то знаю, — это моё собственное. Я не могу абстрагироваться от своей собственной боли, от своего собственного познания. Я мыслю, следовательно, существую — Декарт, и здесь с ним нельзя не согласиться. У меня есть Я-перспектива. Если бы ты убрал из моего ощущения всё, что есть «я», то есть оставил бы только чистые чувственные данные, то сущность бы не сохранилась. Суть отсутствовала бы. Каково это для меня — жить своей собственной жизнью? То есть у нас есть Я-перспектива.
И во-вторых, сознание — это организм. Живые существа имеют сознание, но объекты — нет; живые существа имеют тело, и это тело находится в пространстве и времени. А пространство и время означают также, что оно знает пребывание, знает удовольствие, которое направлено на что-то. Голод, который затем утоляется, жажда, которая затем утоляется, знает ритмы напряжения и расслабления, дня и ночи и, наконец, смерти. Знает положение в пространстве. Мы не можем находиться одновременно в нескольких местах. Мы можем ударяться о предметы, можем пораниться. В пространстве что-то может приближаться ко мне.
В-третьих, мы приходим к мышлению только потом. Сознание существует до того, как я его рефлексирую. У AI иначе: с самого начала всё вербально и так сказать логически уже открыто. Моё собственное логическое осмысление приходит только задним числом. Я мыслю, следовательно, существую — это верно, но до этого я уже давно дышал, спал и был в утробе моей матери, и мышление приходит только после. Что-то уже происходит, уже предшествует "мне", прежде чем "я" может по этому поводу рефлексировать.
В-четвёртых, моё бытие-в-мире, моё сознание эмоционально окрашено. Хайдеггер подробно говорил о настроении, о расположенности бытия. Буду ли я меланхоличным или полным предвкушения чего-то — это определяет моё положение в мире. И это настроение в свою очередь неотделимо от моего тела. Эмоции воплощены. Я вообще не могу отделить моё тело от моих чувств. Это единство.
В-пятых, моё сознание неотделимо от моего языка. Очень трудно представить себе мышление без языка. А мой язык в свою очередь не взят из пустоты, а усвоен от других людей. Это означает, что язык также социальный. Это не только мой частный язык, а я говорю на немецком, потому что родился в Германии, с говором, потому что я из Южной Германии, с определённым словарным запасом, который открыли мне мои родители, и он также может быть эмоционально окрашен. Какие-то слова могут иметь для меня негативный оттенок, какие-то позитивный. Я с самого начала включён в семью, говорящую на этом языке. Это значит, что нет и индивидуального сознания, а сознание всегда уже открыто в социальной сети.
Поэтому сознание всегда также этически и морально окрашено. Это значит, что я с самого начала учусь тому, что есть другие люди, у которых есть притязания, которые испытывают голод и жажду, чувствуют боль, хотят что-то от меня, и к которым я должен как-то относиться. И эта этическая расположенность не только во мне, но я её чувствую вокруг себя. Я чувствую, что ситуация сложная, я ощущаю напряжение в воздухе. И это, опять же, неотделимо от моих телесных чувств.
И кроме того, эта расположенность также духовная. Не все люди верят во что-то высшее, но человечество в целом обладает духовной чуткостью. У него есть чувство или предчувствие, что есть больше того, что мы просто видим.
И наконец, наше сознание ограничено. Это означает, что есть очень многое обо мне, чего я не знаю. Есть бессознательное. Мы часто загадка сами для себя. Мы не всегда себя понимаем. То, что я рассказываю о себе, не всегда отражает все аспекты моей личности.
Что это значит? Всё это — человеческое сознание. Всё это не может быть воспроизведено искусственным интеллектом, потому что искусственный интеллект не является живым существом, организмом, не имеет тела, поэтому не находится в пространстве и времени, поэтому не может иметь воплощённых чувств, поэтому не может иметь социально усвоенного, эмоционально окрашенного языка, поэтому не знает этически и морально заряженных ситуаций, не имеет духовной антенны и всегда полностью себя постигает. В AI нет тайны. В компьютерном коде нет тайны. Он есть то, что он есть. Человек же всегда немного загадка.
Что это означает для ИИ? Это означает, что акты сознания могут быть симулированы обманчиво реалистично. Конечно, ChatGPT может разговаривать со мной так, как будто он человек. Но фактически то, что чем обладаем мы в качестве сознания — воплощённой Я-перспективой, — никогда не будет достигнуто машиной или алгоритмом. Они, возможно, смогут воспроизвести это обманчиво реалистично, но это не значит, что это то же самое. Только потому, что я алгоритмически вычисляю водопад и могу представить его как физическую последовательность, не значит, что я намокну, если встану под алгоритм. Это просто не одно и то же.
Многое из того, что я сейчас сказал, не является новой проблемой, возникающей с появлением искусственного интеллекта. И первые вещи, которые я указал — что мы разучиваемся мыслить, становимся поверхностнее — всё это уже существует благодаря цифровизации как таковой. Это значит, что то, что нам на самом деле нужно в обращении с этими технологиями, имеет не так много общего с самой технологией, а скорее с человеческими установками. Да, вместо слишком поспешных суждений и удовлетворения поверхностным, нам нужны более глубокая любознательность, радость мышления, радость истинности. Нам нужно было бы культивировать смирение вместо преувеличений, потому что алгоритмы и социальные сети подчёркивают и поощряют всё громкое и крикливое. Нам нужно бы было обуздать нашу склонность к злословию, нашу склонность к высокомерию или нашу склонность предпочитать быстрое удовлетворение влечений истинному усердию в чём-либо. Это те последние добродетели, которые нам нужны в обращении с цифровизацией и с искусственным интеллектом.
Я сказал, почему AI не разовьёт сознание, но вопрос в том, уничтожит ли он нас всё равно? Преодолеет ли он нас? И я считаю, что очень-очень-очень многие виды деятельности действительно будут выполняться AI гораздо быстрее и гораздо лучше, чем это делают люди, и это будет очень разрушительным для многих экономических сфер.
Лично я хочу закончить оптимистичным взглядом на то, почему я не верю, что это конец человечества. Конца работы тоже не будет. Когда около 150 лет назад была изобретена камера, в Париже произошла большая волна самоубийств среди портретистов. Ведь, конечно, камера может запечатлеть портрет гораздо точнее, чем любая картина. Зачем тогда нужны портретисты? Можно было тогда сказать: это конец искусства, художники больше не нужны, теперь у нас есть фотографии. Что произошло? Спустя 150 лет всё ещё существуют фотографии, и картин пишется больше, чем когда-либо. Человеческое искусство развилось дальше, и на место натуралистических изображений людей, в том числе благодаря камере, пришли импрессионизм, экспрессионизм. Это означает, что искусство эмансипировалось от своей задачи — отображать мир буквально. Оно стало, если хотите, более эмоциональным, возможно, даже более духовным, возможно, более человечным.
И я так же считаю, что AI и цифровизация — это призыв к нам, людям, узнать больше о том, кто мы есть в самой своей глубине. В глубине мы вовсе не вычислительные машины, вовсе не обрабатывающие данные устройства на двух ногах, а воплощённый дух. Мы — моральные существа. У нас есть Я-субъект, мы — духовные существа, и мы — существа связанности, общности. И чем больше мы будем этим, чем больше мы будем культивировать истинно человеческое. Нам нужна экология человеческого сердца. Да, чем больше мы будем культивировать это, тем больше мы будем использовать эти технологии так, чтобы они действительно способствовали более человеческому будущему. Это и должно быть нашей перспективой.
Это моё сегодняшнее мнение. Немного философское и немного оптимистичное.
Спасибо!
