Компания, которая поставляет Windows решения по информационной безопасности, выпустила обновление, которое и привело к сбою в ноутбуках, на которых стоит операционная система. Небольшая ошибка привела практически к цифровой катастрофе: аэропортам и авиакомпаниям пришлось приостанавливать вылеты, пользователи из некоторых стран не могли воспользоваться своими банковскими карточками, а в Аляске люди и вовсе не могли позвонить в спасательные службы.
Однако эта ситуация наталкивает на размышления. Неужели одна человеческая ошибка может так масштабно повлиять на нашу жизнь? Какие опасности, о которых мы не подозреваем, таят в себе технологии? Об этом «МК» поговорил с интернет-омбудсменом Дмитрием Мариничевым.
- Ошибка, которая привела к сбою, обусловлена технологическим сбоем или это может быть человеческий фактор?
- Сбой, конечно, технологический. Но вот в результате чего он произошел — человеческого фактора или стечения обстоятельств — трудно предположить однозначно, это будет внутреннее расследование. Но объективно, как говорится, у каждого недочета и недостатка есть имя и фамилия. Здесь ситуация, наверное, точно такая же.
Но этот человеческий фактор более многогранен, чем нам кажется. Это не проблема в конкретном сервисе, а проблема взаимосвязанности сервисов и, соответственно, их падения от ошибок в каком-то локальном сегменте. Это уже не первый случай подобного рода.
- Это сбой на весь мир, который остановил многие процессы. Получается, что такое может произойти из-за конкретного какого-то человека?
- Да, может. При условии, что этот человек обнаружит такого рода уязвимость и в нее кольнет. Это из разряда: шпагой можно попасть в сердце, и это будет точечный укол, а можно в человека попасть из гранатомета. Разница в том, что люди привыкли защищаться от того, что выглядит как угроза, но не видят этого точечного удара, который может сломать весь механизм.
Сбой в интернете может произойти даже из-за простого, очень маленького сервиса, который синхронизирует часы на компьютерах. Это тоже сервис, к которому обращаются другие сервисы, и неправильное его функционирование может привести к коллапсу большой системы. Просто представьте: сервис точного времени вдруг начинает выдавать разное время разным сервисам. Железнодорожным — одно время, авиасообщению — другое, простым людям — третье. Понятно, что люди будут смотреть и удивляться, почему у них в компьютере 15 часов, когда сейчас 11. А системы удивляться не будут, они начнут функционирование по тому времени, которое им предоставлено. Это, казалось бы, абсолютно гражданская вещь — получение точного времени, но коллапс может произойти точно такой же, как и сейчас с антивирусом.
А ведь антивирус тоже — абсолютно гражданская вещь. Причем та, которая должна помогать защищать от угроз, а не становится угрозой. Таким образом, то, что хорошее, правильное, позитивное, может стать деструктивным и вредоносным. На это люди не обращают внимание, потому что они делают эти сервисы для того, чтобы защититься от угроз, и они никак не ожидают, что эти сервисы сами станут угрозой. Такого класса программ, роботов очень много сейчас в мире, и они все взаимосвязаны. А ошибка это оператора, ошибка программиста или сисадмина — в данном случае вторично. Это ошибка бесконтрольного построения контролируемой инфраструктуры. Должна появиться уже потребность в высокоуровневом анализе потенциальных угроз от того, от чего мы не ожидаем угрозы.
- Если мы не разработаем какое-то решение для всех этих локальных сбоев, то может ли это привести к условному сценарию «восстания машин» или «цифрового апокалипсиса»?
- Это маловероятная история, потому что я пока не вижу такой прямой взаимосвязи тотального цифрового управления и доступа к инженерным или технологическим сетям, которые способны одномоментно что-то уничтожить. Вот деструктивное состояние — возможно. Можно на какое-то время остановить железнодорожное движение или самолетное, как сейчас, даже парализовав работу систем продажи билетов. Это можно сделать. Но люди все-таки существа умные, и понимают риски. Скажем, вы не можете взять и начать управлять атомным реактором через интернет по той причине, что у вас нет никакой прямой связи с атомным реактором. Это совершенно разомкнутые системы. Для сложных систем люди создают защиту «от дурака» и возможности проникнуть. То, как показывают в кино, когда хакер проникает в какую-нибудь инфраструктуру на корабле, и начинает им удаленно управлять — это все-таки в жизни невозможно. Это очень банальная уязвимость, и от нее защищают путем невозможности удаленного мониторинга.
Но то, о чем вы говорите, также возможно, поскольку все больше и больше позитивных, удобных, хороших, добрых функций проникает в наш дом. Нам нравится удаленно управлять кондиционерами, включением и выключением газа, воды и прочего, иметь какие-то датчики. Очень много сейчас так называемых функций «умного дома». Вот это все позитивное точно также становится крайне опасным. Управление в больших масштабах и целенаправленное включение/отключение не со стороны вас, как собственников, а со стороны злоумышленника, который получает доступ к огромному количеству домов, может наносить урон всей энергосистеме страны, устраивая перегрузку или локальные аварии.
Есть у вас многоквартирный дом. И злоумышленник решит включить удаленно все кондиционеры в этом доме. Это будет авария электроснабжения конкретного дома. А что произойдет на подстанции, которая получит такую перегрузку? Сгорит или не сгорит? Никто не знает. А это в рамках одного дома. А сколько у нас домов многоквартирных в Москве? Кроме того, локальные аварии будут формировать веерные отключения. Это техногенная катастрофа, ведь жизнь в городе буквально остановится. Но это люди все равно смогут устранить, это не тотальное разрушение. Системы, которые смогут привести к тотальному разрушению, к счастью, все-таки не управляются удаленно и функционируют по другим принципам.
А если начнут включать не кондиционеры, а что-то другое, о чем мы не задумываемся? Телевизоры управляются тоже дистанционно. Если в рамках города Москвы всем включить телевизоры и запустить на них не привычный канал, а дипфейк, мимикрироваший под телевизионный канал? В этот дипфейк поверит, например, 5 миллионов человек. Возникнет сарафанное радио, которое в рамках распространения этой дезинформации по интернету буквально за час будет иметь охват чуть ли не больше половины от жителей страны. Как вы будете бороться с этим дипфейком? Это еще более сложные конструкции, чем неработоспособность интернета. Неработоспособность интернета — это, по сути, небольшое зло. А реальные катаклизмы, реальные проблемы, которые ждут общество, спрятаны под ширмой позитивного и доброго. Мы возвращаемся к тому, что неприятностей можно ждать уже оттуда, откуда мы их не ждем. Вот в этом вот опасность.
- Какие уроки может вынести российская сторона из произошедшего сбоя? Как нам обезопасить себя от них?
- Первое — не доверяй никаким системам, которые ты считаешь правильными и которые защищают тебя, потому что добро может обратиться в зло.
Второе — это, конечно, то, что должна быть глобальная экспертиза, которая может быть тиражируемой в отношении и компаний, и людей относительно того, что может быть и как действовать. Создать Институт уязвимостей, который бы формировал постоянную базу знаний о том, что может быть проблемой, как с этим бороться, постоянно бы проверял гипотезы и двигался в этом направлении.