Библиотека
24 Сентября 2021, 08:00

Люди против машин: к чему ведет автоматизация рабочего процесса

TatCenter и издательство «МИФ» публикуют отрывок из книги Кевина Руза «Устойчивы к будущему. 9 правил для людей в эпоху машин» — о том, как искусственный интеллект получил повышение до уровня руководителя среднего звена в офисах современных компаний.

Алгоритм-менеджер

Каждый будний день Конор Спраулс, представитель службы клиентской поддержки, приходит на работу в кол-центр компании MetLife в городе Уорик. Сев за свой стол, он включает компьютер, и на экране в правом нижнем углу появляется маленькое голубое окошко — Cogito.

Cogito — интеллектуальное приложение-инструктор, с чьей помощью MetLife контролирует своих представителей службы клиентской поддержки.

Каждый раз, когда Спраулсу звонят, Cogito слушает разговор и в режиме реального времени высказывает свои замечания и пожелания.

Если приложение считает, что Спраулс говорит слишком быстро, в окошке появляется изображение спидометра, намекающее, что нужно снизить темп.

Если у оператора сонный голос, загорается картинка с чашкой кофе, чтобы тот взбодрился.

А если Cogito почему-то кажется, что Спраулс не может установить с собеседником контакт, приложение показывает ему картинку с сердечком — «значок эмпатии», побуждая его подстроиться под эмоциональное состояние клиента.

А ведь все эти обязанности прежде выполнялись людьми…

Когда мы представляем себе автоматизацию на рабочих местах, мы видим машины, выполняющие тяжелую, не требующую высокой квалификации работу под надзором людей. Однако во многих современных офисах искусственный интеллект (ИИ) получил повышение до уровня руководителей среднего звена. В самых разных сферах, от служб поддержки до банковских услуг и общепита, программные средства теперь выполняют контрольные функции:

натаскивают работников;

следят за качеством;

оценивают производительность.

Идея алгоритмов-начальников не нова. Инструменты «оптимизации процессов» использовались в XX веке для того, чтобы выжимать больше из производственных рабочих, а работники сферы услуг уже десятки лет знакомы с системами «динамического планирования» вроде Kronos, позволяющими составлять график смен с учетом прогнозируемой потребности в персонале. Но ИИ и технологии машинного обучения позволили передавать машинам даже обязанности высшего руководства.

Так, Amazon при помощи сложных алгоритмов отслеживает производительность складских работников. Говорят, что алгоритмы могут даже автоматически оформлять документы на увольнение отстающих. В IBM аттестацией сотрудников занимается ее собственная ИИ-платформа под названием Watson, и это означает, что надбавка к жалованью может зависеть не только от того, как ты работал весь этот год, но и от того, какие результаты, по прогнозам алгоритма, ты будешь показывать в следующем. Платформы услуг по запросу, такие как Uber и Lyft, вообще отказались от контроля с участием человека и передали функции оплаты, диспетчерского обслуживания и разрешения споров в ведение алгоритмов.

Средства алгоритмического менеджмента превратились в доходный бизнес

Помимо Cogito, существуют ИИ-компании, ориентированные на розничную торговлю, например Percolata, стартап из Кремниевой долины, к чьим клиентам относятся Uniqlo и 7-Eleven. Он разработал сенсоры для магазинов, оценивающие «реальную производительность» каждого работника.

Еще один стартап, Beqom, занимается автоматизацией расчета зарплат и годовых премий.

А Nexus AI, система «управления персоналом», позволяет менеджерам распределять сотрудников на команды на основе таких расчетных характеристик, как «эффективные работники» и «полное взаимопонимание».

«Побывав в кол-центре MetLife, я был поражен, какой властью наделена программа Cogito, хотя она довольно новая».

Приложение отслеживает, сколько уведомлений получает каждый работник, и этот показатель учитывается при оценке менеджерами производительности сотрудника за единицу времени. Работникам не разрешается сворачивать окно Cogito на экране компьютера; если они это сделают, программа оповестит об этом контролера.

У каждого человека по-прежнему есть живой начальник, и, хотя в компании меня заверили, что очки, начисляемые Cogito, никогда не имеют определяющего значения при расчете зарплат и аттестации, Крис Смит, директор по международным операциям MetLife, сказал мне, что Cogito дало компании возможность подтянуть отстающих.

«Была у нас одна сотрудница: мы видели, что ее разговоры всегда длятся на несколько минут дольше обычного, — рассказал Смит. Когда ее прослушали через Cogito, стало понятно, что она повторяет информацию, которую не надо повторять».

MetLife, в которой под надзором Cogito работает более 1500 сотрудников кол-центров, утверждает, что благодаря этому приложению показатель удовлетворенности ее клиентов вырос на 13%. И работников MetLife, с которыми я общался при посещении кол-центра, кажется, не угнетает такое положение вещей. (Меня, разумеется, сопровождал ответственный сотрудник отдела связей с общественностью, так что люди, наверное, старались вести себя как можно лучше.) Бóльшую часть сотрудников интеллектуальное приложение, по-видимому, немного раздражает, но в пределах терпимого.

«Когда оно появилось, у нас были опасения вроде „Ах, да эта штука будет вопить на меня при каждом звонке“. Но этого не случилось, — сказал мне Спраулс. — Я думаю, что в целом это всё-таки классная технология».

Другой сотрудник MetLife, Томас, в меньшем восторге от Cogito.

«В начале, — рассказывал он, — программа присылала мне массу уведомлений из-за того, что никак не могла привыкнуть к моему голосу». Например, часто сигнализировала о том, что он говорит не умолкая, и побуждала дать клиенту вставить слово. Он делал, как его просили, но приложение продолжало порицать его за погрешности, которых он, по его ощущению, не допускал: то он говорит слишком быстро, то не вникает в чувства клиента. «Иногда выскакивает уведомление, а я просто не обращаю на него внимания, зная, что всё делаю правильно», — добавил Томас.

Автоматизация может вытеснить худших руководителей, а хороших сделать лучше

Защитники идеи алгоритмического менеджмента часто упирают на то, что у многих живых руководителей есть свои недостатки.

Они принимают решения сгоряча.

Переходят границы и продвигают любимчиков.

Бывают самовлюбленными и жестокими.

По идее, с помощью автоматизации можно вытеснить худших руководителей, а хороших сделать лучше, вооружив их более совершенными инструментами и информацией.

Как раз над этим работают некоторые стартапы. Компания Humu, основанная одним из бывших руководителей Google Ласло Боком, старается улучшить работу руководителей при помощи ИИ. Humu, к чьим клиентам относятся Sweetgreen и Off erUp, в течение дня рассылает руководителям электронные письма и сообщения с ненавязчивыми подсказками, чтобы они не забывали, например, четче разъяснять сотрудникам свои решения и поддерживать с ними обратную связь. Есть и другие похожие автоматические системы «воспитания» руководителей, например приложения Coach Amanda, Butterfl y и QStream.

О долгосрочной эффективности таких программ судить пока рано. Но можно уверенно сказать: когда этим загадочным управленческим алгоритмам позволяют работать без должного надзора со стороны человека, нередко возникают проблемы. Работники Instacart и других сервисов доставки по запросу уже устраивали согласованные «забастовки», протестуя против спорных решений этих компаний: например, настройки приложения Instacart таким образом, чтобы чаевые от клиентов включались в обязательную минимальную оплату, а не приплюсовывались к ней. Постоянные авторы YouTube — категория людей, подвергающаяся, вероятно, наиболее непосредственному контролю со стороны машин во всем мире, — развлекаются тем, что разбирают по косточкам его вездесущий рекомендательный алгоритм и постоянно жалуются на то, как он влияет на посещаемость их каналов.

Опрос водителей Uber, проведенный в 2019 году, показал, что система алгоритмического управления, при которой все, от расчета зарплат до оценки работы, находится в ведении непробиваемых и недоступных пониманию машин, у многих из них вызывает ощущения подавленности и обезличивания.

Как выяснили исследователи, множество водителей уже проявляло неповиновение в той или иной форме: например, сговаривались с коллегами, чтобы обхитрить систему и искусственно спровоцировать резкий скачок тарифов в определенной зоне. Подобные маневры, вероятно, будут становиться куда более обычным делом по мере того, как машины начнут приобретать всё больше власти в разных организациях.

Пройдет время, и, может быть, нам всем станут куда больше знакомы нынешние чувства авторов YouTube и водителей Uber — людей, подчиненных капризным машинам, в чьей власти возвысить их или погубить их карьеру. ИИ будет не только нанимать нас и увольнять, но и повседневно руководить нами, поправлять нас, когда мы будем ошибаться, и хвалить, когда мы всё будем делать хорошо. Под «офисными интригами» будет пониматься «обратное проектирование программы управления персоналом». «Нездоровую рабочую обстановку» будет создавать не начальник-самодур, а скверная модель машинного обучения.

И вопрос о том, что для работников лучше — признать власть таких машин или бросить ей вызов, — будет оставаться открытым.

Книга «Устойчивы к будущему. 9 правил для людей в эпоху машин»
Издательство «МИФ»

Отрывок из книги предоставлен издательством «МИФ».
Книга в продаже на mann-ivanov-ferber.ru.
Больше книг — в Библиотеке TatCenter.

Материалы по теме

Партнёры TatCenter:
1 из 1
Новости
20 Октября 2021, 10:37
Коронавирус - реакция Татарстана

В Казани в фитнес-клубе «Максимус» откроется мобильный пункт вакцинации от COVID-19

Заработает он уже с сегодняшнего дня.

В Казани в фитнес-клубе «Максимус», расположенном на улице Г. Баруди, сегодня откроется мобильный пункт вакцинации от коронавируса и гриппа.

В будни прививки в нем можно будет поставить с 9.00 до 19.00, в субботу — с 10.00 до 17.00, в воскресенье — с 10.00 до 15.00, сообщили в мэрии Казани.

Lorem ipsum dolor sit amet.

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: