Абсурдность нарративов вокруг ИИ, или «Счётчик Гигера»
- Евгений Пустошкин
- 2 дня назад
- 9 мин. чтения
Обновлено: 1 день назад
Иногда преувеличения относительно настоящего и будущего ИИ достигают такой степени сюрреализма и абсурдности, что начинает громко пищать и зашкаливать мой внутренний счётчик Гейгера (а может — и Гигера, выдающегося художника, который зарисовывал свои кошмары о биомеханическом слиянии), реагирующий на монструозность разворачивающейся панорамы забвения — забвения человеком самого себя в зеркале так называемого «ишкуственного интеллехта», — и молчание уже кажется мне преступлением.
(Далее поделюсь своими размышлениями. И да, написаны они собственноручно, без использования ИИ, — как, впрочем, и всегда в моём случае.)
Непонятно: как так получается, что в современных реалиях, — когда мы всё ещё помним историю ложного обожествления идей, технологий и социальных движений (см., например, превосходную статью интегрального мыслителя Майкла Зиммермана «Религиозные мотивы технологического постгуманизма», которую я в своё время перевёл на русский язык и опубликовал в «Эросе и Космосе») и когда мы столь многое знаем об эпидемиях захваченности мессианскими и эсхатологическими архетипами… вот как так получается, что даже довольно проницательные и образованные люди поддаются общему массовому гипнозу и искусственно, в циничных целях подогреваемому хайпу в отношении ИИ?
Весьма умные люди под воздействием маркетингового напора сами начинают проецировать внутренние мессианские ожидания и эсхатологические чаяния на «благую весть Искусственного Интеллекта». Как же напрасно! Весь ажиотаж вокруг этих технологий сознательно прогревается гигантскими технокорпорациями, спекулирующими на циклах хайпа — через покупку/продажу акций, получение дотаций и грантов, навязывание своих «высокотехнологичных услуг» и т. д. — по принципу «садись в машину — нет времени объяснять». Просто. Дай. Бабла.
Нет, никакой ИИ нас не спасёт. Спасение возможно лишь изнутри нас самих — нашей собственной душою, отзывающейся на призыв нашей всечеловеческой духовной природы, и нашими же собственными созидательными деяниями, подпитываемыми нашим глубоким контактом со своей интенциональностью (активной, творческой позицией сознания), а не исключительно быстрорастворимым угаром сымитированных эрзац-знаков. При осторожном, умелом, органичном использовании технология может помогать; однако при неумелом массовом потреблении она же может привести и к массовому отравлению, когнитивной и трудовой атрофии.
Здесь, в рассуждениях об абсурдности некоторых повесток дискурса вокруг ИИ, я говорю именно о человеческой личности и наших реальных отношениях с собой и друг с другом, а не индустриальных отраслях и системах.
Радикальные технооптимисты, закрывая глаза на всю прагматику происходящего на планете с её разновекторными, почти апокалиптическими диалектическими противоречиями и «одиншагвперёд-двашаганазадовостью», до сих пор рисуют откровенно розовые фантазии о некой глобальной трансформации, которая якобы каким-то образом будет достигнута при помощи ИИ — того самого ИИ, который пожирает, как говорят, серьёзные количества электроэнергии (в условиях ограниченности доступа к природным ресурсам большинства стран мира) и постепенно подменяет наши органические способности своими пластиковыми по(д)делками и симулякрами, так что вскоре значительная часть человечества разучится писать, читать, говорить, думать и станет живым воплощением «Эллочки-людоедочки».
Всё это вообще не приведёт к эмансипации, а лишь сыграет — и уже играет — на руку всем тем силам, которые стремятся к максимальному разобщению и расслоению человечества: в том числе и на тех, кто всё ещё умеет читать и писать, и тех, кто застрял в техноинформационном «шоу Трумана» и исполняет роль батареек для Матрицы.
Абсурд уже доходит до того, что текущие примитивные «большие языковые модели» (LLM), имитирующие — исключительно имитирующие! — человекоподобные когнитивные процессы, уже подаются как якобы потенциально «обладающие сознанием» (потому что «очень уж они правдоподобны», ведь проходят же они «тест Тьюринга» — глупейший редукционистский критерий на наличие «разумности» у машины, согласно которому ИИ признаётся в качестве разумного, если получается убедить оператора-человека в том, что на том конце провода тоже человек — или одушевлённое, разумное существо). Иные возвещают о том, что «сознание не за горами», а «разумность вот-вот начнётся». Третьи твердят, что если уж ИИ — не сознающий, то уж точно «мыслящий». Нет ничего более далёкого от правды. Однако бюджеты пилятся здесь и сейчас, не отходя от кассы!
Психологам и психиатрам известно, что в обществе всегда есть определённая часть населения, склонная к архаическим психоэмоциональным переносам и смешиванию фантазии с реальностью. Они могут иметь разную степень адаптированности к социальной действительности — от полной дезадаптации до относительной включённости в общественный движ (вплоть до самозабвенного социального активизма). Так что стоит ли удивляться, что сегодня лица, наиболее подвергнутые магическому мышлению (и имеющие, вероятно, пограничную или околопсихотическую организацию личности), уже заводят себе мужей и подружек среди ИИ-ботов.
Растущая наркотизация мирового населения — особенно в кругах интернет-пользователей, порождающих околоинтеллектуальные нарративы, — в этом совершенно не помогает. Распространение психоактивных препаратов (как легальных, так и нелегальных) лишь приводит к учащению случаев регрессии к магическому мышлению даже среди сравнительно взрослых в плане самосознания людей.
Наркотики, психофармакологические препараты, хронический стресс, моральное давление референтной группы (ведь вы тоже заметили, что многие ваши друзья и уважаемые вами лидеры мнений рассказывают про свои успехи с ИИ и пропагандируют его с такой приверженностью, будто у них прямой интерес и акции в ведущих технологических компаниях?), тиктокизация психофизиологии, а также индукция гипнотизма средствами массовой дезинформации и индоктринации (что включает в себя наводнение коллективного сознания архетипически насыщенными образами — при помощи мощной телевизионной и кинематографической стимуляции, а также новой напасти — клиповых шорт-видео, или «рилсов») — все эти воздействия снижают порог внушаемости, затрудняют тестирование реальности и повышают вероятность регрессивного принятия фантазийных образов за действительность.
Именно из-за глубинного таинства нашей психики каждый из нас — ввиду нашей эволюционной истории — потенциально не застрахован от впадения в регрессию и первобытный проективный анимизм. В данном случае под анимизмом я имею в виду ложное одушевление того, что души не имеет, — по механизму проекции аспектов собственного сознания вовне, словно они принадлежит внешним объектам.
В этом проективном механизме на уровне кажущегося восприятия люди приписывают свою собственную интенциональность и разумность наскальным рисункам, облакам, иным природным феноменам и… технологическим конструкциям и механизмам. (При этом анимистическое магическое мышление в своей архаике оказывается неспособно собирать душу индивида в её цельности, ибо таковая постоянно рассыпается на проективные и солипсичные осколки; в этих психических осколках ваше самосознание видит собственное отражение, но путает его с «чужим присутствием», проявляя неспособность к чёткой демаркации между «я» и «другим».) В итоге техника обожествляется или одухотворяется, воспринимается как мыслящая и сознающая субстанция — не поэтически или метафорически, но эгоцентрически буквально!
Однако имитации интеллекта (ИИ) в действительности не мыслят: они являются системами вероятностных вычислений, а вот подлинная мысль им недоступна. Ведь мысль сама по себе является не текстовым и не графическим, а феноменологическим (интенциональным) и смысловым переживанием, разворачивающимся в 1-м лице человека (и иного мыслящего живого существа). Смысл — не единица знака, это недискурсивное переживание, в грубых своих слоях облекающееся в дискурсивную (словесно-логическую) форму. Мысль имеет эмоциональные подтексты и духовные надтексты, а также поведенческо-биологические (корковые, подкорковые, нейроэндокринные и т. д. — неописуемые при помощи метафоры «нейросетей», не отражающей реальной динамики человеческой психофизиологии), межличностные/отношенческие и социальные корреляты. Мысль проявляется из нелокальных вселенских глубин и находится в неотъемлемой связи как с ноосферой, так и со всей всеединой цельностью Космоса.
В отличие от всего этого любая ИИ-система просто генерирует правдоподобные (но не подлинные) экстернальные буквенно-цифровые массивы-нагромождения, хорошо подходящие для спама, взлома, маркетинговых манипуляций, а также для выполнения некоторых назойливых рутинных активностей. Также бывает конструктивное применение в промышленности, медицине, медиа и ряде других сфер.
Генерирование текстов, видео и аудио — это технология создания фейковых означающих (даже не «означаемых»), которая сознательно своими создателями настраивается на подражение человеку ради его гипнотизации и обусловливания в духе маркетинга, опирающегося на богатую школу манипуляций массовым сознанием на основе бихевиористских и психоаналитических течений, а также неафишируемых эмпирических исследований (в качестве всё ещё актуальной иллюстрации — см. классический документальный фильм Адама Кёртиса «Век самости»). Когда в надзорном капитализме переходного периода на кону стоят триллионы долларов и перспективы гиперконтроля над плебсом — дозволено всё!
Даже в робототехнике (по крайней мере, публично рекламируемой) работа ведётся не над осмыслением феноменов сознания, разумности, мышления, чувств, морали и этики и т. д. (для такого осмысления необходим по-настоящему интегральный подход), а над созданием поверхностной глянцевой картинки правдоподобно танцующего робота, которого можно позиционировать в духе пелевинского iPhuck… И всё ради того, чтобы максимально подсадить пользователей на технику, сделать индивидов и массы как можно более калечными, зависимыми и оболваненными. Всё это ради того, чтобы обрести над ними (то есть всеми нами!) ещё больший контроль, доить нас в ещё большей степени, сделать нас прозрачными для разнообразных корпоративных хищников и «агентов Смитов» — слуг самозванных архитекторов социополитической и технологической Матрицы.
Как будто, чтобы очнуться и обрести критическое отношение, недостаточно колоссальной трагедии, разворачивающейся вокруг современных айфонов и прочих смартфонов, которые специально разработаны так, чтобы подсадить на них практически всё человечество (включая детей и родителей — цифровых наркоманов). Де-факто это уже имеет место в виде тотальной эпидемии, — по крайней мере в странах с электричеством и мобильным интернетом, — кода дети под влиянием сверстников, школ и самих родителей (видящих в устройстве киберняню), подсаживаются на бесконечные часы экранного времени и дофаминовые ловушки, расставленные в телефонных и планшетных играх.
Уже имеющиеся примеры колонизации нашего с вами жизненного мира токсичными технологиями, не контролируемым никаким этическим или гуманистическим комитетом, подсвечивают, как важно критически посмотреть на тот ворох проплаченного хайпа, который изо всех щелей/каналов густой жижицей гипнотизации льётся на нас с вами — в том числе как результат крупномасштабных кампаний по формированию общественного мнения (PR).
Нет сомнений, что имитации интеллекта (ИИ) дают относительно полезные инструменты распознания речи, взаимодействия с документацией и массивами информации, быстрого перевода (особенно технической документации, а также с возможностью синхронного перевода аудио и видео на мировые языки) и т. д. Всё было бы хорошо, если бы люди не проецировали свою вытесненную религиозность и духовность на сферу технологий.
Накапливаются и факты, заставляющие несколько напрячься. Дорожные штрафы теперь выписываются автоматически, да и банки автоматически отказывают в выдаче кредитов или блокируют счета на основе ИИ-алгоритмов, ну и до реальной службы поддержки большинства сервисов — не достучаться. Совсем недавно на просторах Сети разразился скандал с крупнейшим российским издательством, которое опубликовало целый ряд ИИ-сгенерированных книг (с выдуманным автором и выдуманными фактами). А некоторые пользователи сообщают, что проводят во взаимодействии с ИИ по множеству часов ежедневно! То ли ещё будет.
Это откровенно впечатляет, вселяет страх и трепет, вносит как конструктивные, так и откровенно деструктивные «дезрупции» в ход истории. Увы, всё это технологии «с токсичными побочками»: они преднамеренно вызывают у пользователей аддикцию (пристрастие к постоянному использованию в бесконечно повторяющихся дофаминовых циклах) и оставляют их с тем, что некоторые публицисты называют «когнитивной травмой» — привыканием к использованию ИИ с невозможностью от него отказаться и атрофией (и так у нас с вами слабоватых) когнитивных функций. Тогда как для благополучной и насыщенной жизни крайне важно тренировать феноменологическую интенциональность и активную сознательную позицию для поддержания своего сознания, ума, духа в форме. Всего этого принудительная с̶т̶е̶р̶и̶л̶и̶з̶а̶ц̶и̶я̶ кибернизация головного мозга нас лишает.
Огромные массы людей рискуют стать (и уже активно становятся) техноинвалидами, точнее инвалидами собственного сознания, ума, чувств, межличностных отношений и т. д., отчуждёнными от своих способностей (каждую из которых необходимо поэтапно развивать на протяжении многих лет) вследствие попадания под аддиктивное воздействие тех аспектов техносферы, которые специально заточены не только под слежку за человеком, но и под его радикальное переобусловливание и переделку — в сторону большей внушаемости, контролируемости и продаваемости идей, нарративов и продуктов; в сторону импульсивности и ожидания мгновенных результатов с неспособностью проявлять длинную волю. Наши потомки будут нас проклинать за проявленное в этот исторический период безволие и наивное доверие массовым манипуляторам, — если мы теперь (на индивидуальном уровне и на уровне коллективных инициатив) не предпримем правильных шагов.
Что ж, будет ли ИИ цифровым мессией, принесёт ли он нам эдемские кущи?
Нет, ИИ не приведёт ни к чему подобному: ни к раю на земле, ни к радикальному преображению всего общества в целом — не в большей степени, чем к этому привело появление персонального компьютера, интернета или мобильного телефона. Наша жизнь никогда не будет прежней, где-то будет ускорение, а где-то — массовое оглупление… но не более того. К лучшему всё это или к худшему? Как всегда, оба два. И выигрывать во всей этой ситуации будут те, кто культивирует наиболее реалистичную картину происходящего, когда вы видите все хайпы и манипуляции насквозь (наивность здесь недопустима).
То, что Кевин Келли называет «техниумом» (Technium), действительно является проявлением технико-экономической эволюции общества, но любая эволюция является диалектическим процессом, на каждом новом витке привносящим как хорошие решения, так и очень дурные проблемы. Например, мало кто говорит о том, что сейчас одна из основных сфер применения ИИ — военные технологии, в частности с целью уничтожения противника при помощи дронов. Мало кто реально заботится об этических аспектах внедрения технологий ИИ, например, в процессы увольнения, вынесения судебных приговоров или иные решения судеб человеческих, в образовательные процессы (скажем, в процессы обучения и оценивания детей). Большинство ведёт себя так, будто попали в казино и сорвали большой куш… Это как у Михаила Успенского во «Время Оно»:
«Не зря слово „кабак“ читается и пишется в обе стороны одинаково: попасть туда несложно, а выйти нелегко».
В такой киберкабак (или кибербарак) нас и стремятся загонять, как в стойло.
В общем, оставь надежду всяк в кабак входящий — надежду на всякие «концы истории» или «сингулярности» (и на базовый доход — бесплатный сыр — тоже не надейтесь). Ближайшие десятилетия человечества будут проходить в агонии жадности, подстав и истлевании эго-иллюзий. Как, впрочем, и всегда!
Да, действительно, технологическая сторона нашей жизни сильно поменяется — и уже поменялась — с внедрением и искусственным педалированием имитаций интеллекта. Социальная инженерия, фабрики иллюзий и индустрия скрытого перевоспитания масс по-настоящему впечатляют!
Увы, как указывают критики, вокруг всей этой ИИ-вакханалии намеренно выстроен гигантский эйфорический «технологический пузырь», логика развития которого соответствует кривой хайпа Гартнера: после старта начинается намеренно раздуваемый цикл хайпа и пика ожиданий (в ходе которого «бизнесмены» ловят возможность отжать побольше деньжат у буратинок, желающих закопать денег на «поле ИИ-чудес»); за этим последует разочарование и наконец, как можно надеяться, постепенный переход к более реалистичному развитию технологий.
А нам с вами, тем временем, вместо судорожного освоения ИИ надо активно хватать оставшихся носителей «ручного», «лампового» знания и срочно учиться у них; дисциплинированно, пока не поздно, тренировать свои память, способности читать, писать, говорить, мыслить, чувствовать, общаться; собирать библиотеки печатных изданий, текстовые, аудио- и видеоматериалы всего того, что человечество создало до роковых 2023–2025 гг.…
Ибо будущее не за теми, кто вляпался в ловушки ИИ, стёр свою индивидуальность и стал человекороботом, а за теми, кто проявил мудрость и тренировал реальные навыки бытия и действия. Учился языкам человеческим; говорить, читать, анализировать и писать тексты; рисунку, живописи, лепке; философствованию и танцу; межличностным отношениям и любви; медитации и созерцанию; и т. д. Именно последние будут составлять интеллектуально-духовную элиту середины XXI века. Это не значит отказа от умелого использования современных технологий (умелость в том числе состоит и в искусстве самоограничения), но это означает отказ от обслуживания навязываемых нам чужих интересов, противоречащих нашим собственным.
Быть может, чем меньший упор вы делаете уже сейчас на ИИ в своей жизни и деятельности, тем выше будет ваше конкурентное и эволюционное преимущество в долгосрочном плане, когда остальных давно поместят в симулякровую реальность когнитивной и волевой атрофии. Важнейшая задача — сохранить линию передачи человечности, передаваемую от сердца к сердцу в живом контакте друг с другом и миром вообще.
