Американские технологии помогли запустить и поддерживать систему слежки и массовых задержаний в Китае: как это стало возможным и что делать дальше
Факт, который больше нельзя игнорировать: на протяжении нескольких лет оборудование и программные решения компаний из США использовались для построения цифровой инфраструктуры контроля в Китае. Эта инфраструктура позволила отслеживать перемещения людей, анализировать биометрические данные и, в конечном итоге, способствовала задержаниям, число которых, по оценкам правозащитников, исчисляется сотнями тысяч. Речь не только о прямых поставках. Равную роль сыграли софт, облака, исследования, партнёрства и цепочки поставок, где конечный пользователь и реальное назначение продукции часто маскировались.
Как именно американские технологии оказались в системе слежки
— Аппаратные компоненты. Высокопроизводительные графические процессоры, серверные платформы, системы хранения данных и сетевое оборудование стали базой для алгоритмов распознавания лиц, анализа поведения в толпе, обработки видеопотоков городских камер и интегрированных «безопасных городов». Даже при наличии экспортных ограничений часть компонентов попадала в целевые проекты через дилеров, дочерние структуры и «серые» каналы.
— Программное обеспечение и SDK. Библиотеки компьютерного зрения, готовые модели и инструменты для обработки больших данных, включая открытые фреймворки, становились конструктором для локальных разработчиков. Стек из американских технологий часто дополнялся китайскими системами распознавания и интегрировался в полицейские платформы.
— Облачные и аналитические сервисы. Облака и инструменты для машинного обучения помогали быстро разворачивать пилоты и масштабировать их до уровня провинций, а также обеспечивали хранение и классификацию массивов данных — от видеозаписей до метаданных мобильных устройств.
— Биометрия и генетика. Оборудование для секвенирования ДНК и наборы для лабораторной диагностики, поставлявшиеся международными компаниями, по сообщениям правозащитных организаций, применялись для массового сбора генетических профилей. Под давлением критики отдельные поставщики позже ограничивали продажи для определённых регионов, но база уже была создана.
От поставки к применению: разрыв ответственности
Корпорации традиционно опираются на контракты и экспортное право: конечный пользователь декларируется, прописываются запрещённые сценарии, внедряются процедуры комплаенса. Но в реальности между штаб-квартирой и фактическим использованием продукта в поле — длинная цепочка интеграторов, реселлеров и «пилотов», где контроль быстро теряется. Проверки часто формальны, а «сканирование рисков» ограничивается сверкой по санкционным спискам и географии, без анализа конкретных проектов. В итоге технику и софт можно легально продать нейтральной структуре, а затем они окажутся в полицейском центре обработки данных.
Почему речь именно о сотнях тысяч задержаний
Цифровые платформы слежки в китайских регионах, особенно там, где власти объявляли о «профилактике экстремизма», строились вокруг автоматической идентификации «рисков». Система собирала данные о перемещениях, контактах, транзакциях, содержимом телефонов и социальных графах. Любые «аномалии» — от частых поездок до использования определённых приложений — становились триггером. Такие массивные фильтры порождали лавинообразный рост «подозрительных» кейсов, которые завершались задержаниями и отправкой людей в центры содержания и «перевоспитания». Масштаб операций подтверждается многочисленными оценками исследователей и правозащитников за последние годы.
Как экспортный контроль не сработал
— Лаг во времени. Ограничения вводились поэтапно, когда ключевые элементы уже поставлены и стоят на вооружении крупных проектов.
— Обходные маршруты. Поставки шли через третьи страны, а также через небольшие интеграторские компании, не находившиеся под прицелом регуляторов.
— Недооценка открытого ПО. Даже без прямых поставок закрытых решений, открытые библиотеки и модели, разработанные исследователями из США и интегрированные в коммерческие продукты, помогали строить систему наблюдения.
— Слабая процедура KYE/KYCC. Компании смотрели на прямого покупателя (Know Your Customer), но редко анализировали его клиентов и партнёров (Know Your Customer’s Customer), где и возникал истинный риск.
В центре — уязвимые группы
Основной удар пришёлся на этнические и религиозные меньшинства. Когда автоматизация «подозрительности» сочетается с дискриминационными практиками, небольшое число технических ошибок и предвзятостей на входе масштабируется в тысячи человеческих судеб. Алгоритмы, обученные на некачественных или предвзятых данных, чаще ошибаются по отношению к людям с иными, чем у «базовой» выборки, чертами лица и речи. А в условиях отсутствия независимых судов и прозрачных процедур обжалования эти ошибки превращаются в реальные задержания.
Кто несёт ответственность
Юридически доказать прямую вину производителя сложно: формально он не принимал решений о задержаниях. Но этическая и управленческая ответственность — очевидна. Компания, которая поставляет критические компоненты для систем, несущих высокий риск нарушений прав человека, не может ограничиться отпиской «не по назначению использовали». Точно так же инвесторы и совет директоров не вправе игнорировать репутационные и регуляторные риски, связанные с подобными рынками.
Что уже предпринято
— Ужесточение экспортных правил, расширение санкционных списков для компаний и институтов, вовлечённых в проекты слежки.
— Добровольные ограничения со стороны некоторых поставщиков, сворачивание продаж в проблемные регионы и отзыв сервисной поддержки.
— Растущие требования к отчётности по правам человека: аудит поставок, оценка рисков по странам и отраслям, специальные комитеты по этике ИИ.
— Переоценка научных коллабораций: фильтры для совместных исследований, когда присутствует военное или силовое применение.
Что необходимо изменить, чтобы не повторить прошлое
— Жёсткий due diligence по конечному применению. Не только KYC, но и проверка цепочек интеграции, проектных спецификаций и реального сценария использования. В спорных случаях — отказ от поставки.
— Технические «предохранители». Ограничения на функции и производительность в регионах повышенного риска; телеметрия для критических модулей с возможностью отключения при нарушениях условий лицензии.
— Договорные механизмы с зубами. Не просто пункты «не использовать для слежки», а право на аудит, штрафы, отзыв лицензий и сервисов, если продукт обнаружен в запрещённом проекте.
— Пороговые метрики риска. Внутренние красные линии по странам, ведомствам и категориям проектов. Если комбинация метрик срабатывает, продажа блокируется автоматически.
— Ответственность руководства и бонусы, привязанные к ESG. Цели по правам человека должны быть KPI топ-менеджмента, а не разделом в отчёте для галочки.
Инвесторам и заказчикам
Профессиональные заказчики и фонды обязаны учитывать, что доходы от поставок в режимы цифрового подавления несут долгосрочные угрозы: санкции, судебные иски, потерю лицензий, отток талантов и клиентов. На этапе due diligence стоит требовать карты рисков по событиям в странах присутствия, сценарного анализа и планов выхода из «красных» рынков.
Пользователи и разработчики
Разработчикам открытых библиотек полезно внедрять этические лицензии и ограничения на военное и репрессивное применение, а также поддерживать прозрачность датасетов. Пользователям — осознавать, что удобные сервисы «бесплатны» лишь до тех пор, пока не становятся источником слежки. Право на приватность в цифровой среде начинается с осведомлённости о том, куда уходят данные и кто их обрабатывает.
Урок для глобальной индустрии ИИ
Системы ИИ опираются на данные, мощности и модели, кочующие между странами. Когда один узел цепочки поддаётся соблазну «серого» рынка, целая экосистема становится соучастником. Урок прост: управление рисками прав человека должно быть встроено в архитектуру продуктов с первого дня — от выбора метрик качества до дизайна API и процедур доступа к мощности.
Что будет дальше
Ожидается расширение экспортного контроля на вычислительные мощности, сервисы обучения моделей и «временный экспорт» через облака. Компании будут вынуждены внедрять геофенсинг функций и создавать региональные версии продуктов с ограничениями. Параллельно усилятся проверки поставок биометрического и генетического оборудования, а отчёты по правам человека станут столь же обязательными для инвесторов, как финансовая отчётность.
Главный вывод
Массовая слежка и задержания — это не только о политике отдельной страны. Это и о технологической отрасли, которая, стремясь к росту и новым рынкам, закрыла глаза на очевидные риски. Американские компании не нажимали кнопку «задержать», но без их железа, софта и экспертизы многие элементы репрессивной инфраструктуры не заработали бы в таком масштабе. Исправить ситуацию ещё можно: нужно соединить правовые меры, инженерные предохранители и жёсткий корпоративный комплаенс там, где на кону — базовые права людей.
