При этом вся логика работы рекомендательного алгоритма неизвестна никому, кроме его создателя. Механизм работы рекомендательных алгоритмов непрозрачен, что может позволить ИТ-компаниям манипулировать мнением пользователей.
Впрочем, «может позволить» на сегодняшний день уже неактуальная формулировка. Манипулирование пользователями уже осуществляется. И с коммерческими целями — прямые продажи, увеличение время смотрения ( а значит продажа траффика и рекламы). И с общественно политическими – от запуска в общество новых идей до организации протестов.
Эксперты убеждены, что используя массив информации о пользовательском поведении рекомендательные системы могут целенаправленно формировать потребности человека, влиять на его мнение и выбор. Это может давать экономические преимущества заинтересованной стороне.
При распространении информации рекомендательные системы ограничивают информационное поле пользователя, погружают его в информационный пузырь, максимально комплиментарный убеждениям пользователя. Это ведет к поляризации общественного мнения, сокращению информированности общества, повышается риск социальных конфликтов.
Пользователи должны иметь возможность самостоятельно отключать рекомендательные алгоритмы, сохраняя доступность самого сервиса.
Появление в России соответствующего правового инструментария позволит бороться с использованием рекомендательных алгоритмов для продвижения противоправного контента и в целом сделает российский сегмент интернета более прозрачной и понятной для граждан.