«Полные багов города могут укрепить демократию». Отрывок из книги урбаниста Энтони Таунсенда «Умные города»

На 10-м книжном фестивале «Смены», который пройдет 8-го и 9 декабря, издательство Института Гайдара представит книгу урбаниста Энтони Таунсенда «Умные города: большие данные, гражданские хакеры и поиски новой утопии». Таунсенд рассказывает, как технологии — от телеграфа и механического табулятора до GPS-датчиков — меняют общество. «Инде» публикует фрагмент главы «Баги, нестабильность и жучки», из которого можно узнать, как появились баги, почему аварии в «умных городах» неизбежны и как неполадки ведут к усилению демократии.

Баги, нестабильность и жучки

Кафе Calafia в городе Пало-Альто— одно из самых высокотехнологичных кафе в мире. Здесь у плиты бывший шеф-повар компании Google Чарли Эйерс, и пища тут — не просто средство поддержания биологического существования. Это Калифорния, и еда здесь — это путь к самосовершенствованию. Каждое блюдо старательно составляется из ингредиентов, которые не только сохранят вашу фигуру, но еще и сделают умнее, подзарядят. Полдюжины венчурных капиталистов тычут вилками в салат из одуванчиков. Пало Альто, по вечерам сонное предместье, с наступлением дня превращается в пульсирующее сердце Кремниевой долины, изобилующий деньгами эпицентр крупнейшего средоточия научно-инженерной мысли за всю историю человеческой цивилизации. Через дорогу к западу находится Стэнфордский университет. В нескольких милях к востоку распростерся Googleplex. В окрестностях живет и работает порядка полумиллиона инженеров. Пара-тройка магнатов из бизнеса высоких технологий вполне вписалась бы в этот пейзаж. Стив Джобс был здесь завсегдатаем.

Однако, отлучившись в уборную, я обнаружил, что у кафе Calafia есть большая техническая проблема. Невзирая на породистую клиентуру, ее умный туалет не работает. Я с надеждой смотрю на трон из нержавеющей стали, но из маленькой черной пластмассовой коробочки, где помещается «мозг» унитаза, мне бессмысленно подмигивает красный глазок. Прямо над коробочкой висит инструкция, указывающая запасной путь. «Если сенсор не работает, — гласит надпись, — воспользуйтесь кнопкой смыва». И я нажимаю на кнопку, в один миг отступая от пяти десятилетий прогресса в компьютерной технике и организации промышленного производства.

Вернувшись за свой столик, я пробую воссоздать заложенную в туалетный процессор модель работы с отходами человеческой жизнедеятельности. Мне представляется лаборатория где-нибудь в Японии. Облаченные в белые халаты и вооруженные секундомерами лаборанты методично засекают время, наблюдая за армией нескромных добровольцев, рядами сидящих на умных унитазах. Становится очевидной сложность проблемы. Когда должен включаться смыв? Сразу, как только вы встанете? Или когда вы повернетесь? Или с задержкой на определенное время? Но на какое именно? Может ли система определить, что нужен еще один смыв? Эта инженерная задача не столь сложна, как высадка человека на Луну или расчет автомобильного маршрута до аэропорта. Тем не менее эти вещи каким-то образом каждый раз работают.

Мое недоумение быстро переходит в нарастающий ужас. Как же так — в самом центре Кремниевой долины вполне приемлемо, что умные технологии полны ошибок, нестабильны или просто не работают? Кто-то, может быть, только что победил рак в биотехнологической лаборатории через дорогу и пришел сюда отметить свое достижение за обедом. И вот этот гений будет нажимать кнопку смыва точно так же, как только что сделал я, и никогда не задумается о том, что этот мир умных технологий нас раз за разом подводит. Мы вплетаем эти технологии в наши дома, наши сообщества, даже в наши тела — но и эксперты с настораживающим благодушием смотрят на недостатки этих технологий. А остальные и вовсе редко в них сомневаются.

Я знаю, что мне нужно перестать беспокоиться, проникнувшись симпатией к умному унитазу. Но что, если он — провозвестник более серьезных проблем? Что, если семена саморазрушения умных городов уже заложены в их ДНК? До этого я утверждал, что умные города несут в себе решение проблем, связанных с урбанизацией XXI века. Я говорил вам, что, несмотря на возможные сбои, преимущества перевешивают риски, особенно если мы готовы активно бороться с незапланированными последствиями наших решений. Однако до сих пор мы имели дело лишь с проблемами поверхностного характера.

Что, если умные города будущего полны багов, нестабильности и жучков? Во что мы ввязываемся?

Баги

Несколько недель спустя я бродил по кампусу MIT в Кембридже, штат Массачусетс, без какой бы то ни было мысли о непокорных унитазах. Я не спеша направился на запад от Кенмор-сквер и через пару минут вышел к новому зданию Института Броуда, монолиту из стекла и стали, где размещается научно-исследовательский центр геномной медицины стоимостью в миллиард долларов. На стене, выходящей на улицу, красовался колоссальный ряд экранов, на которых в реальном времени отображались бесконечные последовательности пар оснований ДНК, считываемые на оборудовании, установленном на верхних этажах.

И тут краешком глаза я увидел его. «Синий экран смерти», как в просторечии называют уведомление, отображаемое Microsoft Windows после сбоя в работе операционной системы. В безнадежном отчаянии смотрел я сквозь стекло на одинокую панель. Вместо потока генетических открытий на меня уставился бессмысленный набор шестнадцатеричных чисел, точно указывая туда, где глубоко в недрах какого-то процессора произошла единственная вычислительная ошибка. Именно там, где я надеялся найти историческое слияние человеческого и машинного разума, я нашел лишь еще один баг.

Термин «баг», который происходит от староваллийского bwg (произносится «boog»), долгое время использовался как сленговое слово применительно к насекомым. Технические неполадки этим словом стали обозначать на заре эпохи телекоммуникаций. В первых телеграфах, изобретенных в 1840-х, использовались два провода: один для передачи, а другой для приема. В 1870-е был разработан дуплексный телеграф, позволяющий одновременно отправлять сообщения в обоих направлениях по одному проводу. Но иногда по линии проходили случайные сигналы, которые назывались bugs или buggy. Сам Томас Эдисон употребил это выражение в письме венгерскому изобретателю Тивадару Пушкашу, который первым подал идею телефонной станции, объединяющей отдельные линии в сеть. Из ранней истории квадруплекса собственного изобретения Эдисона, представлявшего собой усовершенствованный телеграф, способный посылать два сигнала в каждом направлении, известно, что к 1890 году слово прочно вошло в отраслевой обиход.

Однако первый задокументированный компьютерный баг действительно представлял собой насекомое. В сентябре 1947 года ученые, состоявшие на службе военно-морских сил, вместе с профессорами Гарвардского университета проводили испытания релейной вычислительной машины Айкена МАРК-2. Внезапно машина начала выдавать ошибки. Вскрыв чрево этого примитивного электромеханического компьютера, ученые нашли мотылька, застрявшего в контактах одного из реле. На веб-сайте, посвященном истории военно-морского флота, можно увидеть фотографию страницы из лабораторного журнала, куда кто-то аккуратно прикрепил мотылька, методично вставив пояснение: «Первый реальный случай обнаружения бага». Согласно легенде, этим человеком была Грейс Хоппер — программист, впоследствии ставшая выдающейся фигурой в кибернетике. (Однако биограф Хоппер считает, что едва ли это был первый случай употребления слова «баг» для обозначения неполадки в начальный период развития компьютерной техники, так как «очевидно, что этот термин уже использовался».)

С того дня баги стали эпидемией в нашем цифровом мире, результатом огромной сложности и безжалостного темпа развития современной техники. Но как они будут ощущаться в умном городе? Они могут быть отдельными, как тот неработающий унитаз или экран засбоившего компьютера. В 2007 году в вашингтонском метро загорелся вагон поезда, поскольку программное обеспечение с багами не зафиксировало скачок напряжения, хотя и было специально разработано для того, чтобы отслеживать такие случаи. Временный переход на старую, более надежную программу занял всего двадцать минут на каждый вагон, пока инженеры начали методично проводить тестирование и отладку.

Однако рябь от некоторых багов, которая побежит по будущим сетям городского масштаба, будет иметь потенциально катастрофические последствия. За год до пожара в вашингтонском метро баг в контрольном программном обеспечении скоростной транспортной системы района Сан-Франциско-Бэй (BART) вывел из строя целиком всю систему не один, а три раза в течение 72 часов. Больше всего здесь смущает тот факт, что первые попытки привести в порядок содержавший ошибку программный код только ухудшили положение. Как позже показали результаты официального расследования, «сотрудники BART незамедлительно приступили к конфигурации резервной системы, которая должна была позволить быстрее восстанавливать работу программного обеспечения после любого будущего сбоя». Но через два дня после первого отказа «работа над этой резервной системой привела к непреднамеренной остановке одного из аппаратных устройств, что, в свою очередь, вызвало самую продолжительную задержку». К счастью, в результате этих отказов никто не пострадал, но их экономический эффект был огромен: два с половиной дня простоя нью-йоркского метро во время забастовки 2005 года обошлись, по оценкам, в 1 млрд долларов.

Неприятности, связанные с автоматизацией систем скоростного транспорта, — это провозвестники того рода проблем, с которыми нам, вероятно, придется столкнуться, когда мы серьезно увлечемся идеей умных городов. При всей своей досадности эти сегодняшние неполадки на самом деле являют собой эталон надежности. Сегодняшние умные системы тщательно разрабатываются и проходят многочисленные испытания. Они снабжены множеством уровней защиты. При все более насущных городских проблемах и неопределенности с ресурсами, а также с волей для борьбы с этими проблемами многие умные технологии в будущем будут набрасываться широкими штрихами в условиях жестких сроков и еще более жестких бюджетов. Их создатели будут безуспешно стремиться к этому золотому стандарту надежности, когда за год происходит всего несколько кратковременных спорадических сбоев.

Уже сам по себе размер умных систем городского масштаба таит в себе целый комплекс проблем. Города с их инфраструктурой уже представляют собой самые сложные сооружения из всех когда-либо созданных человечеством. Переплетение их со столь же сложными процессами обработки информации способно лишь умножить шансы для багов и непредвиденных взаимодействий. Как сказал в интервью газете New York Times Кеннет Дуда, эксперт по высокопроизводительным сетям, «великий враг — это сложность, измеряемая в строчках кода, или взаимодействиях». Эллен Улльман, писательница и бывший программист, утверждает, что «невозможно полностью протестировать какую-либо компьютерную систему. Думать иначе означает не понимать, из чего составлена такая система. Это не единое тело компьютерного кода, целиком написанного одной компанией. Это набор „модулей“, подключенных друг к другу… Возникающая в результате система представляет собой спутанный клубок черных ящиков, соединенных друг с другом проводами, которые взаимодействуют друг с другом через туманно определенные „интерфейсы“. Программист на одной стороне интерфейса может лишь надеяться, что программист на другой стороне все понял правильно».

В своем эпохальном исследовании 1984 года «Нормальные аварии», посвященном технологическим катастрофам, социолог Чарльз Перроу утверждал, что в системах высокой сложности с множеством тесно связанных друг с другом элементов аварии неизбежны. Проблема усугубляется тем, что традиционные подходы к снижению риска, такие как предупреждения и оповещения (или установка резервной восстановительной системы, как в случае с BART), могут на самом деле приводить к усложнению системы, тем самым повышая риски. Например, авария на Чернобыльской АЭС произошла в результате необратимой цепи событий, запущенной во время испытаний системы безопасности нового реактора. Вывод Перроу: «Большинство систем с высокими рисками, помимо их опасности токсического, взрывоопасного или генетического характера, обладают некоторыми особыми свойствами, которые делают аварии в этих системах неизбежными, даже „нормальными“».

Нормальные аварии будут постоянным явлением в умных городах. Точно так же, как быстрая урбанизация обнажила практику недобросовестного строительства, самый яркий пример которой представляли собой печально известные «здания из тофу», собранные на скорую руку умные города будут иметь в своих технологиях недостатки, обусловленные тем, что разработчики и производители станут выбирать кратчайшие пути. Эти поспешные решения грозят такими проблемами, рядом с которыми баг Y2K покажется незначительным. Баг Y2K, возникший в результате общеизвестной хитрости, на заре возникновения компьютерной техники позволявшей сэкономить память путем записи дат с использованием только двух последних цифр года, стал крупнейшим багом в истории, в борьбе с которым в конце 1990-х по всему миру были переписаны заново миллионы строк компьютерного кода. В предшествующие десятилетия существовала масса возможностей нейтрализовать Y2K, но тысячи организаций предпочли отложить вмешательство, а когда у них наконец дошли руки до этого, на решение проблемы пришлось потратить более 300 млрд долларов. Баги умных городов, живущие во множестве критически важных взаимосвязанных систем, будут более вероломны. Вероятно, иногда невозможно будет заранее представить все взаимозависимости. Кто мог предвидеть гигантский затор на магистрали I-80 в США, когда баг в системе, отвечавшей за отбор присяжных заседателей в округе Плейсер, штат Калифорния, по ошибке вызвал для участия в судебном заседании 1200 граждан в один и тот же день 2012 года?

Легкость, с которой баги проникают всюду, вызывает тревожное чувство. У нас пока нет ясного представления о том, где именно кроются самые серьезные риски, когда и как они приведут системы к сбоям и каковы будут последствия цепной реакции. Кто будет отвечать, когда какой-нибудь умный город выйдет из строя? И каким образом граждане будут помогать в устранении ошибки? Сегодня для нас в порядке вещей отправить анонимный отчет об ошибке компании разработчику программного обеспечения, когда дает сбой наш настольный компьютер. Возможен ли перенос этой модели в мир, где компьютеры будут встроены повсюду и распространены повсеместно?

Это может показаться неочевидным, но полные багов умные города могут укрепить демократию и усилить стремление к ней. Уэйд Роуш, изучавший реакцию граждан на широкомасштабные технологические катастрофы, такие как перебои в подаче электроэнергии или аварии на атомных станциях, сделал вывод, что «сбои в управлении крупными техническими системами привели к тому, что многие рядовые граждане извлекли уроки, радикализировались и начали ставить под сомнение как существующие планы в технологической сфере, так и компетенцию и полномочия реализующих эти планы людей». Эта общественная реакция на рукотворные катастрофы, утверждает он, дала импульс развитию «нового скрытого культурного течения „технологической гражданственности“, характеризуемого более глубоким знанием сложных систем, пронизывающих современное общество, и недоверием к ним». Если действительно окажется, что первое поколение умных городов страдает неизлечимыми недугами, то на их пепелище могут прорасти семена более устойчивых и демократичных структур.

«Умные города: большие данные, гражданские хакеры и поиски новой утопии», Энтони М. Таунсенд, издательство Института Гайдара, 2019