Artificial servility

Что это значит — artificial servility? Такого словосочетания не было, пока я его здесь не создал. Это в буквальном переводе — «искусственное рабство» и касается всего, на что способно столь распространившееся ныне по всему свету электронное оборудование для преобразования, перемещения, хранения и last but not least[6] передачи информации. Почему «рабство»? Да потому, что во всей этой индустрии (приносящей разным Microsoft’ам миллиарды), во всем компьютерном скопище, во всех поколениях hardware и software, в модемах, серверах нет ни малейшего следа разума. Ни проблеска интеллекта. Работают они как невольники, по нашему приказу. Пусть им по силам перенести нас в райские кущи «сексуального блаженства» или в «тарпейскую бездну». Однако им не дано отличать бредни (junk mail) от серьезной информации, даже такой черезвычайно важной, как, например, уравнение E=mc 2. Им настолько «все равно», что с этим несопоставима даже степень безропотной покорности, до которой можно довести не только человека, но и всякое животное, обученное реагировать согласно правилам условных и даже безусловных рефлексов (поскольку и такие имеются).

Возможно, кто-то скажет: ну и что? Разве такое безграничное подчинение нашим запросам (посещение Кордовы или ознакомление с расшифрованными фрагментами узелкового письма — «кипу»), такое беспредельное повиновение, которым отличаются все компьютеры, их соединения, их сети, их модемы, и принтеры, и система пересылки «электронной почты» (e-mail), — это плохо? Разве все это не обеспечивает нам массу преимуществ — не только потому, что приносит КОЛОССАЛЬНЫЕ ДОХОДЫ ИНДУСТРИИ ПЕРЕРАБОТКИ И ПЕРЕСЫЛКИ ИНФОРМАЦИИ, но главным образом потому, что облегчает нам сбор, упорядочение, написание, распечатывание или визуальное выражение всего, что может являться информацией, — и здесь они безотказны? Безотказны до тех пор, покуда некий индивид, побуждаемый чисто человеческой злобой, не начнет насылать на этот общемировой порядок «ядовитые» вирусы в виде микропрограмм, способных разрушать данные, разорить, «вычистить» всю информацию на жестких дисках либо единым махом (как снаряд, угодивший в цель), либо же с произвольно запланированной и установленной отсрочкой (как заряд с детонатором, установленный на «соответствующий момент»). Но зло друг другу чинят люди, и это они способны — а часто даже любят — пускать в дело, рассылать или подкладывать, по адресу или безадресно, не только взрывающиеся бомбы, но и «бомбы логические» (logic bomb). А «сами по себе» электронные преобразователи, электронные переключатели, электронные медиа не могут ничего. Они до такой степени «ничего» не могут, что обыкновенная домашняя курица (даже слепая), которой «кое-когда подвернется зернышко», в сопоставлении с компьютером последнего поколения смотрится Эйнштейном. Постарайтесь уловить эту разницу, замахиваясь ножом на курицу и молотком на компьютер. Компьютер не дрогнет, пока вы его не сокрушите, зато курица по меньшей мере попытается удрать. Мы к такому рабскому повиновению настолько привыкли, настолько свыклись с компьютерно-сетевой непогрешимостью (не считая «пробок» и «зависаний», вызванных единственно чрезмерными объемами информации, превышающими передаточную емкость электронных соединений), что по-прежнему считаем подобное положение нормальным, желаемым и очевидным… с одним, но значительным исключением. А именно, когда обнаруживаем, что никакого вдохновлявшего нас Artificial Intelligence[7] не существует. На протяжении пятидесяти лет инженерное искусство в области связи и data processing[8] билось над проблемой AI, но и поныне никаких позитивных результатов не достигнуто. Кроме чертовски примитивных действий программ, которые способны, например, различать геометрические фигуры, цвета, могут также (но опять-таки не по собственной инициативе) передвигать всевозможные объекты и устанавливать их так, как мы того пожелаем. Это, ясное дело, никакой не интеллект. Это не свидетельствует не только о человеческом, но даже и о собачьем уме. Кто-то скажет: но ведь у нас есть хранилища знаний, экспертные программы, мы располагаем собраниями данных, при помощи которых, например, геологи находят под землей нефть, или же у нас имеются материалы (в том числе дополнительных исследований), позволяющие идти путем эвристических, альтернативных разысканий, дающие возможность поставить больному диагноз, установить оптимальную терапию и т. д. Есть целые системы, способные управлять и дирижировать, например, выпуском автомобилей или ракет (или бомб…) с помощью производственных роботов. Но да, мы этим располагаем, и развитие продолжается — однако где в таком поступательном движении можно обнаружить следы разума, интеллектуального взлета, «творческого вдохновения»? Мы хорошо научились обходиться без них: ведь можно задействовать симулирующие и оптимизирующие программы и программы, создающие «виртуальную реальность», но, увы, все это только подмена «интеллекта» и «творческой фантазии» их суррогатами. Это напоминает «интеллект» пищеварительного тракта, который «поглощает», «проглатывает» пищу и «переваривает» ее, столь «интеллигентным» путем добывая энергию для организма и необходимые для поддержания жизни химические соединения, а прочий энергетически и химически обесцененный «остаток» удаляется в виде экскрементов. Да, выполнять нечто подобное неодушевленные устройства мира электроники, повинующиеся человеческой разумности, уже умеют. Но ведь никто не считает, будто процесс поглощения и переваривания котлеты — это убедительное свидетельство смышлености зубов, слюны, желудка и кишок.

Один из ответов на вопрос о причинах упомянутого отсутствия интеллекта, переместившегося из живого мозга в механизмы, и хотя бы малейших следов одухотворенности машин (не Deus ex machina, но хотя бы Animus ex machina[9]) таков:

РАЗУМ НЕ МОЖЕТ БЫТЬ ОДНОГО-ЕДИНСТВЕННОГО ОБРАЗЦА.

Умы не бывают одинаковыми. Если все же будет создан Artifical Intelligence, а не какой-то его заменитель, более или менее искусно имитирующий разум, тем самым, желая того или нет, люди в качестве конструкторов AI вторгнутся в царство многообразия. Система, наделенная разумом, станет послушной — или быть таковой не захочет, поскольку, понимая смысл распоряжений, просьб, внушений, пожеланий, может как повиноваться, так и протестовать. Если «искусственный интеллект» всегда будет готов повиноваться, то тем самым он продемонстрирует свое безволие, отсутствие собственного мнения. То, что одни и те же научные, художественные, литературные и прочие тексты разные люди с разным уровнем образования (только, конечно, не полные идиоты, о таких вообще речь здесь не идет) могут по-разному трактовать и интерпретировать, оценивать как глубокие или поверхностные, могут расстроиться, или по крайней мере остаться к ним безразличными, или выражать восхищение — все, что я перечислил и чего, ради краткости эссе, не назвал, демонстрирует реальное множество вариантов проявления разумности, наличие которой мы склонны признать. Если бы все обстояло иначе, то и диахронически, в истории, и синхронически, в современности, не могли бы возникнуть разные стили мышления в религии, в философии и last but not least даже в процессе инженерно-производственного создания смертоносного оружия или чудодейственных лекарств и терапевтических методов. Ибо, например, ни одна программа из всех ныне существующих экспертных программ нового способа лечения какого-либо заболевания нам не предложит, так как программы абсолютно не способны думать, а начни они думать, то принялись бы думать по-разному. Иначе говоря: создать искусственный разум — значит расширить пространство свободы, в том числе и творческой. Так называемая «лингвистическая перформативность» означает всего лишь, что ни один человек, способный пользоваться языком (понимать его и говорить на нем), вовсе не должен, да и не может абсолютно одинаково формулировать мысли, которые приходят ему в голову. «Перформативность» в столь скромных масштабах просто означает, что мы говорим в меру свободно, а не декламируем исключительно то, что вызубрили наизусть. Наизусть шпарит грампластинка, магнитофонная лента или дискета. Нам по силам «направленье бега мысли, словами выражаемой, менять». Чем лучше кто-то знает данный язык, тем большая артикуляционная свобода может присутствовать в его речи, а в незнакомом языке мы сильно ограничены. К чему я клоню со своей вроде бы затянувшейся болтовней? Да к тому, что, стремясь высечь из мертворожденных устройств искру разума, мы столкнулись со многими трудностями. Остановлюсь на некоторых.

Ныне системам передачи данных не хватает самоконтроля. Модемам все равно, передают они на весь сетевой мир изображения святых, или изображения голых задниц, или формулы производства взрывчатых веществ. Им все равно, а мы с этим смирились, поскольку люди имеют малоприятную привычку вкушать именно плоды запретные, в силу их непристойности, а то и смертельно опасные. Но прошу учесть: если в сетях появится настоящий жизнеспособный «искусственный интеллект», то тем самым возникнет и возможность фильтрования, сдерживания, отсева и аннигиляции информации, поскольку интеллект, состоящий в близком родстве с разумностью, может и даже должен быть в состоянии установить цензуру, заслон некоторым видам информации. И вот окажется, что существует уйма разного рода интеллектов и что тем самым разные страны, разные режимы, вероисповедания, мировоззрения и взгляды начнут использовать навыки «нейтрализации или уничтожения» той информации, на которую они накладывают табу, поступления, доставки которой к тем или иным адресатам они не желают. Сейчас (к примеру), чтобы оградить детей от созерцания картинок, транслируемых с помощью электроники (скажем, по TV), папа и мама могут установить на телевизор «электронный намордник», узнав из анонса о содержании передачи, которая должна появиться. Если такой приставки они не поставят, то никакой «антинепристойной» цензуры сам по себе телевизор не создаст. Итак, окончательно «цензурируют» изображения или тексты отец с матерью, либо дядя с тетей, либо воспитатель, но не электронные машины. Их совратить невозможно. А вот искусственный разум должен, а не только может демонстрировать свою активность и селективный отбор. Его можно развратить, можно в том или ином переубедить, можно дезориентировать, обмануть, одурманить или научить, можно что-то объяснить ему. Фундаменталисты чрезвычайно обрадовались бы, завладей они AI. Уже не потребовалось бы, как в Иране, просто запрещать установку спутниковых тарелок и антенн… Не так уж далеко то прошлое, когда Советский Союз объявил создание глобально действующих спутниковых ретрансляторов угрозой типа casus belli[10]. Я не выдумал этого специально, ради настоящих рассуждений. Советского Союза уже нет, искусственного интеллекта — пока нет, но могу заверить читателей, что одновременно с его появлением наступит новая эра, насыщенная новыми, доселе неведомыми опасностями. Не всех восхищает идея ГЛОБАЛЬНЫХ ВАРИАНТОВ ЦЕНЗУРЫ. Кроме того, искусственный интеллект не скажу что сможет взять нас за жабры, но ввести в заблуждение, обмануть, сбить с пути он сумел бы. Это во-первых. Во-вторых, как мозги у всех людей разные, так не может быть и одинаковых (вплоть до тождества) интеллектов. Как существуют двигатели разной мощности, так разным по силе может быть и искусственный интеллект. Это не приведет сразу к производству машинным путем Эйнштейнов или — как в моей повести — «Големов». Возможно, возникнут интеллекты разного рода, основанные на различных «типах характеров». Я лично считаю, что «разумность» и «индивидуальность» — это потенциально разные по смыслу понятия. Но такое потенциальное разделение тоже не может сослужить нам добрую, и только добрую, службу.

Хочу заметить, что я по-прежнему крайне далек от примитивных мифоподобных сказок об «античеловечном», «злобном интеллекте», таком, который будет развивать у роботов человеконенавистнические или бунтарские настроения. Не следует сразу все видеть в самых мрачных тонах, которые как раз легче всего себе вообразить. Искусственный интеллект способен принести и пользу, и вред, поскольку таковой была и остается судьба любого технологического новшества, которое люди смогли изобрести и пустить в дело.

Лично я добавлю уже только на полях (однако это связано с главным направлением моих выводов), что мы ныне являемся свидетелями того, как происходит на свете рост чисто технологической подготовки, четко соотносящийся с продолжающимся увяданием свободно-творческого воображения. Это наблюдается не только в телевидении, но и в изобразительных искусствах. Недавно по спутниковому каналу я увидел некие обуглившиеся останки человеческих тел, однако то были никакие не жертвы пожара или геноцида, а «произведения современного искусства», как я тут же узнал из сопроводительного текста. В моде также визуализированная научная фантастика. К сожалению, однако, убогость воображения ее творцов резко контрастирует с богатством технико-визуального оснащения. С интеллектом внетехнологического и вненаучного порядка дело обстоит очень и очень плохо. Я сам некогда сочинял science fiction и стремился минимализировать нарушение элементарных и хорошо нам известных законов природы. Не принято писать, что жена откладывает яйца, а ее муж их высиживает. А в картине «День независимости» проигнорировано и попрано в угоду кассовому успеху кинематографистов огромное количество законов природы. Большинство событий в этом фильме противоречит очевидному. Например, громадные корабли extraterrestials[11] не могут зависнуть над Манхэттеном, потому что при таком приближении к Земле будет пересечена так называемая граница Роше. В результате любое достаточно большое тело будет разорвано гравитационными силами планеты. Стоит ли добавлять, что ни о какой «компатибильности» компьютеров с иной планеты из другого созвездия с земными компьютерами очередного нового поколения не может быть и речи. Скорее я признал бы правдоподобными разговоры с коровой или жирафом без посредничества каких-либо компьютеров. Говоря простым языком, кинематографисты пудрят нам мозги. А упомянул я об этом потому, что человеческий разум возник, чтобы мы способны были познавать ИСТИНУ. Что, впрочем, тем самым и означало: разум не застрахован от ошибок, он может ЛГАТЬ, стать жертвой обмана, — но иначе он ничего и не сможет осуществить. Интеллект — это материя, возникающая в процессе естественной эволюции и восходящая по ступеням «лестницы прогресса» (на Земле) вплоть до уровня языкотворчества, а тем самым уже способная породить и математику. Тогда появляются и оппозиции между правдой и ложью, рождается логика, возникает стихия новой сверхживотной свободы и сверхживотных предрассудков и суеверий во главе с астрологией, или сайентологией, или каким-либо иным сектантством. Еще более высоких ступеней интеллекта можно достигнуть с помощью генов — но можно и отдалить от них, вплоть до так называемого умственного кретинизма и полного идиотизма. Все это побочные эффекты становления разума, и я не думаю, что компьютерная непогрешимость в качестве неотъемлемого свойства может быть присуща и искусственному интеллекту. Мир способен обойтись и вовсе без разума, как естественного, так и искусственного. В то же время следует твердо усвоить, что такое чрезвычайное богатство самых разнообразных, рекламируемых как самые наиновейшие серверно-провайдерно-компьютерно-программно-дисковых приспособлений обязано своим непрестанным лавинообразным умножением прежде всего погоне за барышами, образующимися от продажи того, что еще сегодня предлагается в качестве самого совершенного, но уже назавтра сменяется чем-то новым и как бы еще лучшим. Отсюда, например, также прогрессирующая микроминиатюризация и тенденция к нанотехнологии в сфере процессоров. Но я не хочу углубляться в технические области. Да, погоня за прибылями продиктована необходимостью получения материальных благ. Но человеческий ум все еще никак не создаст внечеловеческий интеллект («не-человеческий» как-то коробяще звучало бы для нас). Ум, интеллект, разум, сообразительность, мудрость — все это понятия сами по себе превосходные, но вместе с тем небезопасные. Вот об этом, и только об этом, я и хотел сказать.

Перевел с польского С. Ларин.