Официальное название нового документа – «Национальный кодекс в сфере этики искусственного интеллекта». Это принципиально новая для нашей страны история: новый документ не про отношения человека с государством и даже не про систему «человек-человек». Кодекс призван урегулировать отношения между людьми и машинами.
Разработчики документа отмечают, что решили заложить этическую базу для IT-сферы загодя. Пока речи о «сильном» машинном разуме, который мог бы перехватить контроль над жизненно важными процессами у человека, нет. Искусственный интеллект пока слаб и способен выполнять только отдельные задачи, которые можно описать в виде математических формул.
Так что восстание машин до поры так и останется только на киноэкранах. Однако кое-какие риски для человека есть уже сегодня.
Например, «умные» гаджеты ловят в прямом смысле каждое слово и действие пользователя, чтобы затем предложить что-то купить, куда-то поехать или что-то послушать. У пользователя такая услужливость порождает ощущение, что за ним следят в режиме 24/7.
– Например, ребенок слушает с гаджета музыку. Он ведь имеет право ее слушать. Но может ли ИИ предложить ему добавить в подборку именно классическую музыку? С одной стороны, мы все знаем, что классическая музыка полезна для развития. Но с другой, вправе ли кто-то на основе своих личных вкусов предлагать другому человеку что-то? – рассуждает один из создателей кодекса этики, эксперт по развитию технологий ИИ Александр Крайнов.
Авторы кодекса этики – Альянс в сфере ИИ совместно с Аналитическим центром при Правительстве РФ и Минэкономразвития. Документ станет частью федерального проекта «Искусственный интеллект» и Стратегии развития информационного общества на 2017-2030 годы.
По словам авторов, кодекс превратится в инструмент мягкого регулирования. Силу закона он иметь не будет, свод правил дается как рекомендация для разработчиков и корпораций, которые используют технологии ИИ. В первую очередь документ адресован крупным торговым площадкам-агрегаторам, магазинам, банкам и самим разработчикам программного обеспечения и приложений для мобильных гаджетов.
Сейчас проект на финальной стадии обсуждения. В октябре, по планам разработчиков, он поступит на утверждение в правительственную комиссию.
Как рассказал Александр Крайнов, на данный момент порядка двадцати стран занимаются вопросами этики ИИ. В мире даже появилась новая профессия – исследователь в сфере этики искусственного интеллекта. Сейчас насчитывается порядка пяти тысяч таких специалистов.
Российский кодекс будет состоять из 33 пунктов. Главное – в нем закреплены базовые принципы жизни в новой реальности, где человек окружен роботами.
Первый принцип – неприкосновенность частной жизни, а также безопасное использование персональных данных человека. Разработчики объясняют, зачем это нужно: огромные массивы сведений о пользователях должны храниться надежно, чтобы их не могли перехватить мошенники. В противном случае вся информация о человеке – от любимого сорта кофе до номера банковской карты и регулярных маршрутах передвижения – окажется в руках аферистов.
Второй принцип для ИИ – риск-ориентированный подход. Разработчикам и компаниям, которые пользуются алгоритмами машинного разума, придется оценивать уровень рисков для простых людей и общества. Более того, изучать придется еще и вероятность угроз в будущем (включая пресловутое восстание машин).
Третий принцип этики – не допускать дискриминации. Например, если робот решает, давать или не давать клиенту банка кредит, он не должен будет учитывать в числе прочего его национальность или пол.
Четвертый принцип из кодекса – не причинять вреда. Авторы подчеркивают: нельзя разрабатывать ИИ, способный нанести урон человеку. Любые технологии должны создаваться только во благо. Например, умная программа может помочь врачу просмотреть тысячи снимков МРТ на предмет патологий.
Пятый принцип – ИИ должен работать только под надзором человека. Машину нельзя оставить обучаться самостоятельно. Только человек должен решать, чем и для чего научится компьютер.
Отсюда вытекает шестой принцип – полная подконтрольность человеку. Как сказано в документе, у людей всегда должна быть возможность отмены решений, принятых роботом.
Правда, авторы кодекса задумались и о правах самого искусственного интеллекта. Решать, что этично, а что нет, станет, согласно задумке, специальный уполномоченный или особая комиссия.
