Модераторы шокирующего контента хостинга Майкрософта судятся с компанией

Они подали в суд за то, что Майкрософт не смог подготовить и защитить их от «профессиональной вредности».

Генри Сото 8 лет проработал в онлайн-безопасности Майкрософта. Его миссией были просмотр неприемлемого материала и решения, что с ним делать (сообщать в полицию, удалять, считать приемлемым и т. п.). Ежедневно ему приходилось просматривать тысячи шокирующих роликов и фото, включая сцены насилия и убийств. У Сото развился посттравматическое стрессовое расстройство, начались бессонницы, кошмары, беспокойства и слуховые галлюцинации. Генри Сото и его коллега Грег Блоэрт подали на Майкрософт в суд, обвиняя компанию в том, что их не подготовили к стрессу в процессе работы, не обеспечили адекватную психологическую поддержку и другие меры смягчения психологического вреда.

Иск позволил заглянуть в малоизвестную профессию модератора контента. Алгоритмы, боты, ИИ помогают упростить модерирование, но в большей части компаний, имеющих хостинги пользовательского контента, в том числе соцсетях, трудятся и живые модераторы. Часто на эту должность нанимают жителей развивающихся стран вроде Индии и Филиппин и низкооплачиваемых контрактников в США. Сами технологические компании обычно не обсуждают частности этой профессии и ее обеспечения. Они любят позиционировать себя в роли нейтральных платформ, эффективно управляемых логикой и кодом, а пользователи жаждут человеческих отношений с сервисом, играющим важную роль в их жизни. Но подобное никогда не воплотится в жизнь, если сервисы будут обесчеловечивать работников, которые защищают их.