Алгоритм в цифре и на производстве— надсмотрщик и начальник.

В категориях: Аналитика и комментарии,Интересное рядом,Социология, культурология, история

цифр

АЛЕКСАНДР ЗОТИН, старший научный сотрудник ВАВТ.

Средний класс, достигший пика своего могущества в 1970-х, медленно, но верно опускается до сегодняшнего состояния прекариата. Под прекариатом (от английского precarious — «нестабильный», «неустойчивый», объединенного со словом «пролетариат») автор термина, британский экономист Гай Стэндинг, понимает новый класс, для которого характерны отсутствие постоянной занятости, усечение социальных гарантий и гражданских прав.

Пока людей из прекрасного нового мира цифровой экономики еще полностью не вытеснили, приходится оптимизировать их деятельность, в частности выстраивая за ними тотальный контроль. Возможности, которые предоставляют новые технологии, впечатляют.

Дорогие и ненадежные системы надзора за наемными работниками (из-за того, что их основу составляли люди, за которыми, в свою очередь, надо было следить) довольно успешно заменяются дешевыми и надежными алгоритмами. При этом возможности рутинного сопротивления у наемных (пока еще) рабочих во многих сферах падают практически до нуля.

В современной gig-экономике алгоритм блестяще выполняет работу, с которой не справился бы даже самый лучший надсмотрщик. В сервисах Uber, Lyft или курьерской службе Deliveroo задачу контроля и оценки работников выполняет алгоритм — приложение на смартфоне. В той же Deliveroo алгоритм мониторит курьеров. Пока этих других «рикш XXI века» не заменили дронами, Deliveroo даже в большей степени, чем Uber, вынуждена совмещать суперсовременные и средневековые технологии, что само по себе довольно забавно.

Алгоритм регулярно высылает работникам персональные оценки за месяц. Курьеры, которые, кстати, как и шоферы Uber, не включаются в штат компании, а юридически являются самозанятыми и не имеют никакой социальной защиты (тот же классический прекариат), оцениваются сразу по нескольким параметрам. Например, «время принятия заказа», «время в пути до ресторана», «время в пути до клиента», «время у клиента», «опоздания» и «непринятые заказы». Алгоритм сравнивает результаты курьера с собственной оценкой того, какими они должны быть. Может похвалить: «Ваше среднее время в пути до клиента оказалось меньше нашей оценки, что означает, что вы соответствуете нашему уровню качества услуг. Ваша средняя разница составила –3,1 минуты». А может и поругать, в итоге наказав рублем (или любой другой валютой, хоть биткоином).

Алгоритм Uber также выдает своим шоферам рейтинги на основании ответов на запросы клиентов и оценок самих клиентов (это своего рода аутсорсинг мониторинга, как, впрочем, и почти всех других процессов, кроме сделки с клиентом и шофером).

Клиент выигрывает от более дешевого и качественного сервиса. А вот у работников полностью пропадает возможность рутинного сопротивления, баланс сил смещается в сторону владельцев капитала.

Различные стартапы — скажем, калифорнийский Percolata — внедряют системы алгоритмизированной оценки и контроля труда и в другие сферы сектора услуг (в промышленности они уже давно стали нормой), например, в розничную торговлю.

Сенсоры в магазинах оценивают поток посетителей и потом смотрят, сколько посетителей стали покупателями и с какими чеками, какой продавец им помог (пока алгоритмическая экономика все же вынуждена терпеть живых продавцов). Потом устанавливают каждому продавцу оценку, разделяя тот чек, который он принес, на поток посетителей, и выдают ему персональный рейтинг. Алгоритм отслеживает и то, в каких парах, тройках и т. д. продавцы работают лучше, и на этом основании формирует команды, смотрит на успехи продавцов в разных обстоятельствах: кто-то лучше работает при большом потоке посетителей, кто-то — при малом, кто-то — утром, кто-то — вечером. Как отмечает основатель Percolata Грег Танака, «ирония в том, что мы не автоматизировали работу продавцов, а автоматизировали работу управляющего; при этом алгоритм справляется с ней лучше».

Еще один возможный шаг в духе цифровой экономики — вывести продавцов на аутсорс и сделать их самозанятыми, как шоферов Uber или курьеров Deliveroo. Ну а потом вообще убрать профессию как таковую — магазины без продавцов тестируются многими техногигантами, к примеру, Amazon.

Нейрототалитаризм

Автоматизировать работу надсмотрщика — давняя мечта не только работодателей, но и политических властей. И здесь технологии дарят политическим элитам такие же захватывающие перспективы, как и экономическим. Оруэлл и Замятин отдыхают.

Как отмечают многие исследователи авторитаризма и тоталитаризма (например, экономист Марк Харрисон), одно из существенных ограничений подобных режимов — высокие издержки, связанные со стоимостью поддержания огромного аппарата тайной полиции и всеобъемлющей секретности.

Технологические изобретения, прежде всего радио и телефон, рационализировали контроль и помогли в установлении тоталитарных режимов. Телефон позволил проверять подчиненных в режиме реального времени — возможность саботажа (оружие не только «слабых») резко снизилась.

Смартфон, как видим на примере с Deliveroo, многократно умножает контрольную функцию простого телефона. Что можно применить как во благо, так и во вред: технологии сами по себе нейтральны, важно, как известно, то, кто и с какой целью ими пользуется.

Нейросети тоже можно применить для решения очень разных задач. Так, можно обучить нейросеть выявлять закономерности в огромном объеме историй болезни миллионов пациентов и на базе этого знания искать новые лекарства. Но те же нейросети, справляющиеся с доселе исключительно человеческой задачей распознавания визуальной и аудиоинформации, вполне можно использовать для слежки за населением — «священного Грааля» любого тоталитарного режима.

Подобные эксперименты уже вовсю идут. Впереди всей планеты, что неудивительно, в последние годы — Китай. Прообраз будущего нейро-тоталитаризма можно наблюдать в китайском Синьцзян-Уйгурском автономном районе (СУАР), где традиционно сильны сепаратистские настроения. По подсчетам аналитической компании IHS Markit, в 2015 году в КНР уже было установлено 176 млн камер видеонаблюдения (для сравнения: в США — всего 62 млн), а к 2020 году их будет установлено почти 450 млн. Значительная часть камер приходится на чувствительные регионы — столицу, где почти любой уголок просматривается камерами, и тот же СУАР. В регионе сейчас на каждые 10 тыс. жителей приходится столько же камер наблюдения, сколько в других частях страны смотрит за несколькими миллионами человек.

Однако само по себе видеонаблюдение при традиционной технологии упиралось бы в необходимость найма целой армии надсмотрщиков, просматривающих триллионы часов записей. На помощь приходит технологический прогресс в виде способной распознавать лица нейросети.

Как отмечает китаист Леонид Ковачич, в полицейских базах данных хранятся фотографии всех зарегистрированных жителей СУАР. Эта база связана с нейросетью, на основе которой и работает система распознавания лиц. Уличные камеры в автоматическом режиме могут отслеживать перемещение по городу любого человека. Во многих торговых центрах перед входом установлены сканеры, распознающие лица и идентифицирующие личность посетителя.

Если человек значится в полицейской картотеке как подозрительный, система автоматически посылает предупреждение в полицейский участок. По данным Bloomberg, нейросеть предупреждает полицию, если «подозрительные личности» отклоняются от своего привычного маршрута более чем на 300 метров. Разумеется, подозрительными для власти могут быть не только обычные преступники, но и те, кто с ней в чем-то не согласен. Само собой разумеется, на каждый автомобиль, зарегистрированный в Синьцзяне, устанавливаются специальные датчики геолокации — покататься без надзора нельзя и въехать незамеченным на машине из другого региона тоже. Плюс власти правдами и неправдами пытаются собрать образцы ДНК у всего населения региона.

Нейрослежка выводит возможности контроля власти над подчиненными классами на новый, ранее недосягаемый уровень. С одной стороны, убирается армия надсмотрщиков и минимизируется типичная для экономики проблема принципала-агента, то есть, проще говоря, необходимость слежки за тем, кто исполняет чьи-либо поручения. Нейросеть, конечно, требует собственных надсмотрщиков, но убирается наиболее ресурсоемкий элемент надзора — просмотр и прослушка огромной массы сырых данных.

Пока прообраз нейропаноптикона создан только в СУАР, но ничто не мешает перенести этот опыт и на другие регионы, страны и сферы деятельности.

Ситуация, когда частная жизнь может исчезнуть в принципе, не столь уж фантастична.

Тоталитарные режимы прошлого, может, и хотели бы достичь такой степени контроля над подданными, но это отчасти упиралось в технологические ограничения. Нейросеть, как уверяют в том же Китае ее апологеты, позволяет снизить преступность. Видимо, это так, только возможные преступные намерения тех, кто контролирует нейрослежку и ограничения свободы граждан, рискуют стать побочным эффектом этих благих намерений.

"Коммерсантъ" от 08.07.2018.

Добавьте свой комментарий

Подтвердите, что Вы не бот — выберите человечка с поднятой рукой: