Рациональность,  Фандомное

«Звезда Смерти» и ретроспективная необъективность

Сегодня я несу вам рассказ про Звезду Смерти, расследование катастроф и знание задним числом.

На летней Фандомной Битве он был выложен под заголовком «Теплоотвод от главного реактора Звезды Смерти как зеркало когнитивных искажений». С тех пор он немного потолстел, оброс отсылками и был прочитан как лекция на научпоп-секции Юкона. Хочется когда-нибудь сделать на его основе видео, чтобы там красиво Звезда Смерти летала и иногда шли врезки из Оби-Вана Кеноби: это отлично доносило бы и мысль, и стенд-ап составляющую (читать лекцию про Звезду Смерти на серьёзных щщах невозможно, будь она хоть в Гарварде). Но мечтать не вредно. Пока что текст.

Давным-давно, в далёкой-далёкой галактике — по нашему счёту в 1977 году — в системе газового гиганта Явина в cекторе Гордианский предел произошла масштабная техногенная катастрофа. Огромная дальнекосмическая станция диаметром 160 километров, вооружённая инновационным боевым суперлазером, единственная в своём роде, была уничтожена небольшим отрядом мятежников. Галактическая империя потеряла более миллиона душ экипажа, четыреста тысяч дроидов и около триллиона имперских кредитов, вложенных в строительство, и была вынуждена заново начать строительство огромного, сложного, дорогого объекта — и, по-видимому, всё это из-за того, что произошла утечка чертежей этой станции, и мятежники нашли в чертежах незащищённый выхлопной порт вентиляционной системы, связанный с главным реактором, диаметром всего в два метра, и попали в него протонной торпедой.

Как такое, на минуточку, вообще могло произойти? Для ответа на этот вопрос мы обратимся к Ричарду Куку, доктору медицины, который на данный момент, судя по его профайлу на ResearchGate. net, работает в Королевском институте технологии в Стокгольме.

В статье «Как ломаются сложные системы» доктор Кук пишет, что способность к катастрофе — это неотъемлемое свойство сложных систем. Сложная система — это система, которая сама состоит из множества подсистем. От простой системы её отличает то, что её трудно описать математически и ещё труднее ею управлять — с точки зрения управления в ней слишком много второстепенных процессов. Любая сложная система — транспорт, энергетика, здравоохранение, обеспечение безопасности, авиация, боевая станция, — состоит из опасности и средств защиты от этой опасности. Собственно, это и заставляет нас создавать систему изначально: чем опаснее последствия возможного сбоя, тем больше линий обороны требуется, чтобы система работала без аварий.

Это хорошо объясняет метафора, предложенная Джеймсом Ризоном из Университета Манчестера в 1990 году: модель швейцарского сыра. В швейцарском сыре есть дырки. Дырки — это неизбежные накладки в работе какой-то системы: опасные действия, ошибки менеджмента, проблемы с контролем, уязвимые места в самой организации системы. Таких дырок много в любой системе на каждом из уровней, они в разной степени разрушительны в потенциале. Но всё в порядке, пока они находятся на разных местах. Следующий уровень-ломтик, в котором нет проблемы на том же месте, защищает всю систему от катастрофы. Если смотреть на сыр снаружи, всех дырок в нём не видно, а значит, система стабильна и работает без ошибок. Если нарезать этот кусок сыра на пластины и оставить их в том положении, в котором они были в куске, то дырок всё равно не видно. Система остаётся стабильной. Но система — это подвижный механизм, в ней всегда что-то меняется. А значит, может наступить момент, когда потенциальные ошибки совпадут по какой-то линии, и получится сквозное отверстие. Ризон называл это «траекторией возможного происшествия».

Чтобы защититься от глобального сбоя в системе, мы создаём линии обороны. Придумываем технические решения, обучаем персонал, вводим политики и процедуры, нормы и правила — всё это линии обороны. И как правило, это помогает. Одиночного сбоя в системе недостаточно, чтобы произошла крупная авария. Чтобы произошла катастрофа, нужно, чтобы произошло несколько мелких сбоев, каждый из которых по отдельности почти безобиден, и они наложились друг на друга. Cложные системы всегда работают на неполной производительности и всегда содержат постоянно меняющуюся комбинацию скрытых сбоев. Поскольку ни один из них не может привести к аварии, на операционном уровне они рассматриваются как несущественные, а устранять их все экономически нерационально. Специалисты, работающие с системой, всегда принимают решения в условиях неопределённости: им надо избежать аварии и получить при этом тот продукт, ради которого система вообще существует. Это постоянный поиск баланса, но для этого эти люди там и находятся. И большую часть времени всё идёт нормально.

Но что происходит, если, несмотря на все эти меры, катастрофа всё-таки произошла?

Тогда кто-то создаёт комиссию по расследованию и начинает разбираться. Люди, занятые расследованием причин аварии, подвержены мощному когнитивному искажению — ретроспективной необъективности, или знанию «задним числом». Это искажение, при котором люди, которые заранее знают ответ на задачу, значительно переоценивают его очевидность в сравнении с теми, кто ответ заранее не знает.

Когда катастрофа уже произошла и траекторию происшествия уже можно увидеть, кажется, что люди должны были знать, что те или иные события неминуемо привели бы к катастрофе. Это мешает при оценке работы персонала — например, на процессе по обвинению в преступной халатности бывает трудно определить, виновен ли обвиняемый в том, что не предвидел опасность. После аварии всё произошедшее выглядит единственно возможным следствием прошлых событий. Вся предыдущая сложность системы пропадает. Теперь мы знаем, что в ней пошло не так на самом деле. И действия специалистов, работающих с этой системой, воспринимаются как ошибки или как намеренное грубое пренебрежение. Но на самом деле все их действия — всегда авантюра, попытка угадать будущие неопределённые события. То, что это именно угадывание, становится ясным вскоре после аварии — когда они не угадали, и нужно устраивать разбор полётов. Но то, что успешная работа систем — тоже результат угадывания, не настолько очевидно.

Комиссия, которая собирается постфактум для расследования причины катастрофы, как правило, ищет две вещи — главную причину аварии и виновника. Это взаимосвязанные вещи. Выяснив одну-единственную, самую главную причину аварии, мы находим, на кого возложить социальную ответственность. Людям важно создать иллюзию контроля: неприятно сознавать, что существует вероятность ошибки, которая сама по себе невысока, но ты ничего не можешь с ней поделать. Значит, нужно кого-то наказать и что-то исправить — даже если принятые меры будут слабо связаны с причинами катастрофы. После 11 сентября Федеральное авиационное агенство США запретило пользоваться на самолетах ножами для бумаг — как будто вся проблема была в том, что была пропущена эта «очевидная» мера предосторожности.

Нечто подобное произошло и в далёкой-далёкой Галактике. Бевел Лемелиск, главный архитектор «Звезды Смерти», после того, как станция была уничтожена, был казнён императором Палпатином шесть раз. Параллельно с этим Палпатин заставил его переделать систему теплоотвода для «Звезды Смерти-2», чтобы устранить уязвимость — и казнил его и возрождал по ходу строительства каждый раз, когда ему казалось, что архитектор работает плохо и не проявляет энтузиазма.

Благодаря или вопреки этой системе мотивации, Лемелиск переделал систему теплоотвода. Вместо одного двухметрового выходного отверстия были устроены миллионы выхлопных каналов шириной в миллиметр, разбросанных по поверхности станции: каждый из них отводил небольшое количество избыточной температуры и газа в вакуум. В них едва ли смог бы попасть даже самый аккуратный и точный выстрел из бластера, а если бы и попал, то рассеялся бы по дороге к реактору цепочкой хитроумных механизмов. Кроме того, была предусмотрена специальная система, которая закрывала отверстия в случае неожиданного нападения. Кроме того, вторая боевая станция была дополнена тысячами турболазерных батарей, которые должны были полностью защитить её от внешнего нападения.

Вся эта усовершенствованная система должна была, по мнению военных, сделать новую «Звезду Смерти» неуязвимой. Тем не менее, и она была уничтожена повстанцами через несколько лет после первой — её даже не успели достроить. Может быть, такое постоянство неудач и заставило бы императора пересмотреть свои убеждения о работе сложных систем, но он не успел, потому что погиб там же.

Но самое интересное даже не в этом. Самое интересное — это реакция фанатов и авторов вселенной на историю о том, как один одарённый мальчик удачно попал торпедой в шахту, взорвал миллион человек и триллион кредитов и полностью изменил историю Галактики.

Разумеется, фанаты «Звёздных войн» в смысле устройства мозга такие же люди, как император Палпатин, и так же подвержены ретроспективной необъективности. И вопрос «а куда же, интересно, смотрели строители Звезды Смерти, что пропустили на своём объекте выхлопную шахту, ведущую прямо в реактор» волновал всех на форумах и в анекдотах. Хотя, если углубляться, эта шахта даже не была единственным уязвимым местом. У станции на борту был огромный боевой суперлазер на кайбер-кристаллах, о котором известно из канона, что если персонал, ответственный за выстрел, немного неправильно сфокусирует вспомогательные лучи, станция взорвётся без посторонней помощи. Кроме того, чтобы станция была уничтожена, нужно было ещё, чтобы турболазерные батареи, защищавшие коридор, в который выходила шахта, не отработали как положено; что и случилось — батареи были отключены, чтобы не создавать помех эскадрилье истребителей, которые вылетели на перехват повстанческих кораблей; чтобы командующий станцией гранд-мофф Таркин недооценил угрозу и отказался эвакуироваться со станции — станцию он бы не спас, но спас бы часть персонала; чтобы «Звезда Смерти» отключила свои собственные внешние щиты из-за того, что сама в этот момент готовилась выстрелить по базе мятежников на Явине-4; чтобы произошла утечка чертежей; чтобы, в конце концов, лица, которые несли ответственность за отлов джедаев и одарённых по всей Галактике, двадцать лет не могли поймать Оби-Вана Кеноби и двадцать лет не могли найти Люка Скайуокера.


Помните старую сказку про то, что луна сделана из сыра?

Это не луна, это космическая станция, но дырок во всей системе эксплуатации «Звезды Смерти» хватило бы на хорошую голову швейцарского сыра. Та, которая прошила станцию насквозь до самого сердца — не единственная.

Но. Это ведь никого не волнует. Все знают главную причину: станция была уничтожена попаданием в реактор через выхлопную шахту. Все знают, кто стрелочник — разумеется, те, кто ухитрился эту шахту построить и пренебречь опасностью, которая для нас так очевидна. Проходит сорок лет. Авторы канона ищут сюжет для следующего фильма, и первым делом им попадается на глаза этот вопрос: а как же так вышло, а куда смотрели инженеры, а что, а кто, а почему — и, чтобы заткнуть эту дырку, они выпускают «Изгой-один».

В новом каноне история создания «Звезды Смерти» переписывается начисто. Выясняется, что один из создателей суперлазера работал над проектом недобровольно. Гален Эрсо был убеждённым пацифистом, его жена сочувствовала джедаям и верила в Силу, соединяющую всё сущее — а ещё он, на свое несчастье, был уникальным специалистом по энергии кайбер-кристаллов и школьным другом Орсона Кренника, директора имперского отдела по разработке перспективных вооружений, который стал в новом каноне новым главным архитектором «Звезды Смерти». Эрсо взяли в заложники, и пятнадцать лет он, находясь фактически в заключении, из-под палки разрабатывал тот самый суперлазер.
Именно он и добавил в проект вентиляционную шахту — причём протащил её, ловко манипулируя коллегами, когда сроки уже поджимали, бюджеты уже заканчивались, и ни у кого уже почти не было шанса обратить внимание на тот неминуемый риск, который она в себе несёт. Именно он подсказал повстанцам, где искать её в чертежах и где искать сами чертежи.

И круг замкнулся. Человеческое непонимание, как могла произойти подобная катастрофа, вызвало к жизни доктора Эрсо и его коварный план. Теперь у катастрофы «Звезды Смерти» была одна главная причина — саботаж. Люди, подверженные ретроспективной необъективности, могут вздохнуть спокойно. Мир стал меньше похож на настоящий, но он стал понятнее.
Но в сущности своей катастрофа, похожая на уничтожение «Звезды Смерти», вовсе не требует подобных сверхсложных объяснений. Вполне достаточно было халатности там, невнимательности тут, грамотные люди, способные прочитать чертежи, и один одарённый, чувствительный к Силе пилот.

Ну и надежда. Восстание живёт надеждами.


Если вам понравилось, подписывайтесь, ставьте лайк, вот это всё, что блогеры обычно говорят. А ещё пишите комментарии.
Когда-нибудь со временем я настрою, чтобы это сообщение выводилось автоматически, а пока так: ребята, там ниже в поле для коммента нужно указать имя и имейл. Имейл я вижу, но никуда не продаю и никакой спам туда не шлю (чтобы слать спам, у меня есть рассылка, на которую можно подписаться в правой колонке). Как только я один раз отмечу ваш коммент как не спам, вы сможете комментировать неограниченно. А ещё пиарьте свои блоги в необязательном поле “Сайт”!

Loading Likes...

Добавить комментарий

Ваш e-mail не будет опубликован. Обязательные поля помечены *