Власти Китая намерены превратить работу любых алгоритмов в стране в полностью прозрачную систему — разработчики больше не смогут бесконтрольно собирать любые данные, влиять на выбор своих клиентов и использовать ПО для борьбы с конкурентами. Законопроект в котором содержится 30 четких требований к разработке алгоритмов пройдет общественное обсуждение в течение одного месяца — до 26 сентября — после чего будет принято решение о внедрении новых стандартов.
Администрация киберпространства Китая (CAC) представила проект из 30 пунктов с «правилами управления рекомендациями по алгоритмам». Эти правила могут напрямую затронуть ByteDance, Tencent Holdings, Kuaishou Technology и другие ведущие ИТ-компании Китая, а также зарубежные компании, работающие в Китае, в частности, Apple. Проект запрещает действия, «поощряющие зависимость или высокое потребление», а также любые системы, которые ставят под угрозу национальную безопасность или нарушают социальный и экономический порядок страны, сообщает Bloomberg.
Согласно законопроекту, компании должны будут раскрывать основные принципы любой службы рекомендаций, которая работает на базе алгоритмов машинного обучения. Разработчик будет обязан развернуто объяснить, как и зачем система обрабатывает информацию и выдает пользователям те или иные рекомендации «в явной манере». При этом разработчики любых алгоритмов должны будут предоставить своим пользователям «удобные варианты отключения рекомендаций по алгоритмам» и немедленно выполнять требования об отказе от их использования.
Алгоритмы также больше не смогут быть использованы для ценовой дискриминации на основе предпочтений и привычек пользователей.
Администрация киберпространства предлагает поставщикам регулярно оценивать и тестировать свои алгоритмы и данные, чтобы избегать моделей, которые будут даже косвенно влиять на поведение пользователей. Даже если работа платформ ИТ-компаний непредумышленно скажется на частных пользователях, регулятор засчитает это за нарушение новых правил.
Алгоритмы также нельзя будет использовать для создания фальшивых учетных записей или ложного влияния на ранжирование и результаты поиска, чтобы принести пользу поставщику, повлиять на онлайн-дискурс или избежать надзора со стороны регулирующих органов.
Источники:
Хайтек+, 29-08-2021, Власти Китая возьмут под контроль работу любых алгоритмов в стране
Bloomberg, 27 августа 2021 г., China Plans Control of Tech Algorithms U.S. Can Only Dream Of