В Китае с 2014 года принята программа так называемого социального рейтинга, или социального кредита, когда каждого гражданина страны оценивают по его поступкам. А помогает правительству в этом «Большой брат».
Все просто: каждый человек имеется в национальной базе данных, которая складывается из отчетов налоговых ведомств, доносов и данных с камер видеонаблюдения.
Если китаец попал в область зрения камеры - например, неправильно перешел дорогу, его социальный рейтинг понижается. Люди с низким рейтингом не могут работать на госслужбе, иметь соцподдержку, отдавать детей в дорогие частные школы, останавливаться в дорогих гостиницах и есть в дорогих ресторанах, покупать авиабилеты и ездить в скоростных поездах.
В апреле этого года было 15 миллионов случаев, когда граждан с низким рейтингом не пустили в самолет и на поезд. Такая система цифровой слежки работает пока только в Китае, однако ее основной инструмент - камера с системой распознавания лиц - есть и в Москве.
В 2019 году в столице заработает система распознавания преступников, которые находятся в розыске, с помощью камер видеонаблюдения. Подобная система уже работала в метро в пилотном режиме. В итоге, по словам мэра города, удалось поймать десятки преступников.
В режиме распознавания лиц работали больше 40% городских камер. Теперь же в Москве появится целая сеть для поиска нарушителей. Кроме того, около 10 школ в городе тестируют систему распознавания лиц для прохода в здание. Если система будет работать корректно, школьникам не нужны будут пропуска, а в здание не смогут попасть чужие люди. Подобные камеры появились в 1,8 тыс. автобусов, курсирующих в Подмосковье.
Большой пилотный проект идет и в московском метро. Однако... «Мы предоставили заказчику полностью готовые к работе системы. Вопрос о сроках их ввода в эксплуатацию находится не в нашей компетенции», - прокомментировал ситуацию генеральный директор компании "Вокорд" Константин Кравченко. Участвуют и другие компании, но сами они не знают, на каких станциях и в какое время тестируют их наработки.
Компаний, занимающихся разработкой алгоритмов для распознавания, не так много. Московских фирм меньше десяти, они работают на мировом уровне. «МК» поговорил со специалистами трех крупных компаний и узнал, что такое система распознавания лиц, как она работает и как ее обмануть.
«Сами не знаем, на что смотрит система»
Генеральный директор компании NtechLab Михаил Иванов, приходя на работу, не пользуется пропуском. Камера на входе в офис узнает его и открывает дверь. А уходя, Михаилу достаточно обернуться и посмотреть на такую же камеру. Она зафиксирует, что ему нужно выйти, и дверь разблокируется.
- Задача системы с функцией распознавания лиц может быть, например, такой: у вас есть эталонное фото человека, вам нужно пустить или не пустить этого человека в здание, - объясняет Иванов. - Когда мы смотрим на какой-то объект, то воспринимаем его в целом. Так же работают алгоритмы на базе нейронных сетей.
Нельзя сказать, на что именно смотрит алгоритм: на нос, на брови, на уши. Скорее, на лицо в целом.
Как мы сами узнаем человека? Мы запоминаем его с нескольких ракурсов и обращаем внимание на все в целом: как выбиваются волосы из-под шапки, какого цвета глаза, какая фигура. Целый комплекс признаков, в том числе силуэт. Системе распознавания лиц проще — ей нужно только лицо в нормальном ракурсе.
Иначе говоря, система распознавания лиц позволяет сказать по двум фотографиям, один и тот же это человек или нет. Сами специалисты называют эту систему «черным ящиком»: она получает информацию, обрабатывает ее и выдает данные на выход.
- Программа берет на вход фото, то есть набор пикселей, - разъясняет Олег Гринчук, ведущий исследователь компании VisionLabs. - Она прогоняет это через свои алгоритмы и выдает числовой вектор.
Для каждого лица мы на выходе получаем 256 абстрактных чисел, некий код, который лицо описывает. Если два вектора близки с какой-то погрешностью, лица можно считать одинаковыми. Мы не знаем, на что именно «смотрит» система. На стадии обучения мы показываем ей фотографии, а она сама выбирает для себя параметры.
Системе «скармливают» десятки тысяч фото. Чем больше база, тем больше вероятность узнавания.
Как ее обмануть
Многих, даже тех, кто не имеет проблем с законом, интересует: как обмануть систему? На самом деле обмануть ее нельзя, а вот стать невидимым — можно.
- Если вы наденете мешок на голову, система просто не поймет, что это лицо, - разъясняет Михаил Иванов. - Ей все равно, есть ли на вас очки: она узнает вас, даже если вы закроете половину лица.
Есть отличительные черты объекта, например, уши, которые скажут, что перед ней человеческая голова. Однако она не увидит существенных признаков — ваше это лицо или другое. А если вы закроете пол-лица, ваши характеристики останутся.
Есть определенные параметры на лице, которые система считает более важными, чем остальные,— например, нос или глаза. Впрочем, для одного алгоритма нос будет решающим: если его закрыть, система не понимает, что перед ней лицо. А для другого перекрытие даже 30% лица (любой его части) не будет существенным.
«Человек может наклеить усы, бороду, надеть очки — это немного ухудшит распознавание. Но не настолько, чтобы не распознать, что это вы», - говорит Михаил Иванов. Например, очки и кепка уменьшают точность распознавания не более, чем на пару процентов.
В офисе VisionLabs мы вместе с Олегом решили провести эксперимент. Я зарегистрировалась в специальной программе, сделала фото. Система меня запомнила, и потом камера смогла точно распознать.
Дальше я просто закрыла половину лица вместе с носом толстым шарфом — и тут же стала невидимой. Как только я спустила шарф чуть ниже, открывая нос, на экране тут же появилась надпись «Lyubov».
Чтобы скрыться от камер, шарфом и большими темными очками придется пользоваться постоянно. В жизни это будет подозрительно.
Энтузиасты пытались применить другие отвлекающие маневры. Например, блогер Григорий Бакунов рассказывал о макияже, с помощью которого можно выдать себя за другого человека. Однако создавать такой макияж он не стал, чтобы не помогать преступникам.
Исследователи из университета Карнеги-Меллон придумали покрытие для оправы очков, благодаря которому человек становился невидимым в 80% тестов. Система могла принять одну личность за другую: например, женщину из Южной Азии за мужчину с Ближнего Востока.
Семь эмоций
Следующий шаг в развитии технологий — распознавание эмоций.
- Есть некоторые существенные признаки, которые появляются на вашем лице, когда вы расстраиваетесь, радуетесь. Мы научили систему видеть такие черты и соотнесли их с эмоциями. У нас сейчас семь базовых эмоций, - говорит Михаил Иванов.
Олег Гринчук тоже рассказывает, что есть стандартизованный набор семи эмоций, но сейчас каждая компания делает свои комбинации: «Мы участвовали в конкурсе, где системе предлагалось 16 эмоций. Среди них были «злость и отвращение» и «злостное отвращение» - система как-то их различает...»
Мечта всех полицейских и обманутых жен — научить камеру распознавать ложь. Оказывается, и такое возможно, но сделать это очень сложно.
- Точность системы напрямую зависит от обучающей выборки, - разъясняет Гринчук. - То, что может распознать человек, может распознать и компьютер, если дать ему много данных.
Если вы знаете эксперта, который может сказать, врет человек или нет, и дать ему 100 тысяч роликов, чтобы он все их проанализировал, то систему можно обучить.
Но мне кажется, что это нереально, потому что такого объема данных нет.
Чем сложнее задачу мы ставим, тем больше данных надо дать системе. При этом эксперты сами будут ошибаться. И не факт, что в конце что-то получится. Пока до этого очень далеко. И я не думаю, что в течение ближайших пяти лет это появится.
В понедельник веселее, чем в пятницу
Многие из нас не подозревают, что становятся частью большого социального эксперимента.
К примеру, одна из компаний решила (без заказа, для себя) узнать: действительно ли понедельник — день тяжелый? И так ли всем весело в пятницу?
- Мы измеряли настроение людей с пятницы по понедельник, - рассказывает Михаил Иванов. - В пятницу все были грустные, на позитиве — в субботу, в воскресенье накал страстей был ниже.
В понедельник все тоже были депрессивные, но лучше, чем в пятницу. Все это измерялось на улице, в Москве. Мы смотрели соотношение позитивных и негативных эмоций. Суммарно в этом измерении «участвовали» около 100 тысяч человек.
Нечто похожее делали и в ходе измерений эмоций в течение одного дня — Дня города в Москве. Эксперты получили синусоиду: утром люди едут на работу грустные, днем — во время праздника — заметно веселеют, вечером отправляются домой уставшие и невеселые, а ночью — тоже домой, но уже с тусовок с совершенно другим настроением. Исследование, кстати, проводилось в московском метро.
Система распознавания эмоций уже сейчас активно применяется в области идентификации удовлетворенности клиента. Например, как объяснил Гринчук, в том же отделении банка есть кнопочка, на которую можно нажать и оценить работу оператора. Банки хотят, чтобы это было автоматически.
Однако система смотрит не по одному снимку: записывается видео и на основании тренда изменения эмоций можно делать выводы. Хотя, уточняет эксперт, повсеместно это еще не внедрено.
А вот с практическим применением в ритейле, например, могут возникнуть трудности. «Если вам нравится йогурт, это не значит, что он должен вас развеселить. Может, человек доволен, просто у него дома кот не кормлен. Здесь есть некоторое лукавство», - считает Иванов.
И если система распознавания эмоций — это пока скорее новинка, то с лицами все проще.
- Интеллектуальные системы распознавания лиц востребованы на вокзалах, аэропортах, метро, пересадочных узлах, на стадионах, в крупных торговых центрах, - рассказывает Константин Кравченко.
«Наши основные клиенты — банки, они используют систему распознавания лиц для противодействия мошенничеству. Например, у них есть своя база лояльных клиентов и мошенников. Кто-то захочет прийти и взять кредит по чужому паспорту, и если его лицо есть в базе, система его распознает - и мошеннику не удастся ничего совершить, - рассказывает Олег Гринчук. - При этом в базе могут быть и VIP-клиенты. Если в банк заходит лояльный клиент, к человеку сразу подходит менеджер».
Система распознавания лиц используется и для поимки преступников. Иванов уточняет: «У нас нет баз данных преступников, мы только настраиваем алгоритм для нужд МВД...
На каждом массовом мероприятии, где есть система распознавания лиц, задерживают минимум десять человек». Просто далеко не все случаи предаются огласке».
- В будущем камеры научатся распознавать какие-то конкретные ситуации — драки, аварии, - продолжает Михаил Иванов. - Мы сможем понять, упал человек потому, что поскользнулся, или же его толкнули. Мы должны приближать видеоаналитику к способностям, которыми обладает человеческий мозг.
А судьи что?
Британцы и американцы яро протестуют против введения системы тотальной слежки: по их мнению, лицо — такая же частная собственность, как и паспорт. Парадоксально, но с юридической точки зрения не понятно, являются ли лица нашими персональным данными.
Как объяснил «МК» член Адвокатской палаты Московской области Антон Коврижных, в судебной практике подобных споров не встречалось.
- Право работодателя подглядывать за сотрудниками трудовым кодексом не урегулировано, - говорит Коврижных. - Если же работодатель захочет поставить такую камеру, он должен будет уведомить сотрудника «под подпись». Но при этом суд может исходить из того, что раз в трудовом договоре положения о видеонаблюдении нет, и это несущественное условие труда, то работодатель может проделать все втихую.
Так что улыбайтесь - может быть, вас как раз сейчас снимают!