Человек под присмотром: кто получил право управлять нашим вниманием и перепиской

С разницей в один день европейские институты приняли два решения, относящиеся к разным областям цифровой жизни, но основанные на одной логике.

9 июля Европарламент поддержал временное исключение из правил электронной конфиденциальности, позволяющее поставщикам коммуникационных сервисов добровольно проверять личные сообщения для обнаружения материалов о сексуальном насилии над детьми. Парламент потребовал исключить переписку со сквозным шифрованием. Теперь решение должен рассмотреть Совет ЕС.

10 июля Еврокомиссия предварительно признала, что бесконечная лента, автоматическое воспроизведение, push-уведомления и персонализированные рекомендации Facebook* и Instagram* создают риск компульсивного использования, а компания Meta* недостаточно ограничила этот риск. Комиссия предлагает отключать часть механизмов по умолчанию, создавать реальные точки остановки и делать рекомендации менее ориентированными на удержание внимания.

Пока это только предварительный вывод. Meta* сможет представить возражения, а окончательное решение ещё не принято. Но важен уже сам подход: европейский регулятор хочет определять не только правила работы цифрового продукта, но и правильное поведение человека внутри него.

В одном случае государство защищает пользователя от его собственного внимания. В другом — общество от возможного содержания его переписки. Человек в обеих конструкциях постепенно перестаёт быть субъектом и становится объектом управления.

Компаниям разрешают проверять не любую переписку, но граница уже сдвигается

Европарламент не обязал Telegram, Google, Microsoft и другие сервисы немедленно читать сообщения пользователей. Речь идёт о юридической возможности добровольно использовать технологии обнаружения запрещённых материалов, сообщать о них правоохранительным органам и удалять их.

Проверка может включать сравнение изображений с базами цифровых отпечатков и применение алгоритмов, анализирующих изображения, видео и текст. Это не то же самое, что сотрудник компании, читающий письмо глазами. Но для пользователя принципиальная граница проходит между сообщением, доступным только участникам разговора, и сообщением, которое систематически анализирует третья сторона.

Парламент предлагает исключить из правил чаты со сквозным шифрованием, включая Signal и обычную переписку в WhatsApp*. В Telegram сквозное шифрование действует только в специальных секретных чатах, а обычные сообщения хранятся в облачной системе сервиса.

Павел Дуров заявил, что Telegram не будет сканировать личные сообщения пользователей. Юридически инициатива ЕС пока и не обязывает его это делать. Однако заявление указывает на важный вопрос: тайна переписки либо является исходным свойством личного разговора, либо существует только до тех пор, пока государство и оператор сервиса считают её допустимой.

Особенно двусмысленно здесь слово «добровольно». Решение принимает не человек, чья переписка анализируется, а компания, предоставляющая ему сервис.

Благородная цель не делает любой инструмент допустимым

Сексуальное насилие над детьми — реальное преступление. Государство обязано находить преступников, удалять материалы насилия и помогать пострадавшим.

Именно поэтому эта тема становится почти непробиваемым основанием для расширения контроля. Человек, возражающий против массового анализа переписки, сразу оказывается в положении, где ему приходится доказывать, что он не защищает преступников.

Но необходимо различать проверку конкретного подозреваемого по решению суда, поиск уже известных запрещённых изображений и постоянный автоматизированный анализ сообщений миллионов людей. Все эти действия могут объясняться одной целью, но создают совершенно разные уровни вмешательства в частную жизнь.

Временные исключения при этом имеют свойство продлеваться до тех пор, пока не становятся постоянной нормой.

Пользователь как несовершеннолетний и потенциальный подозреваемый

В истории с бесконечной лентой человек представлен существом, которое не способно вовремя остановиться.

Meta* действительно исследует поведение аудитории и строит рекомендательные системы так, чтобы пользователь оставался на платформе дольше. Его внимание превращается в рекламу и прибыль.

Но вместо того чтобы обеспечить человеку прозрачность и простые инструменты управления, регулятор начинает определять, какие функции должны быть включены по умолчанию и насколько эффективной имеет право быть система рекомендаций.

В истории со сканированием сообщений тот же человек уже представлен существом, которому нельзя безусловно предоставить пространство частного разговора, поскольку внутри него может происходить что-то незаконное.

Так взрослый гражданин получает два базовых статуса: несовершеннолетний и потенциально подозрительный.

Корпорация хочет управлять человеком ради прибыли. Государство — ради нормативно правильного поведения и безопасности. Самому человеку управление не возвращается: меняется только администратор.

Бюрократия производит собственную необходимость

Бизнес подтверждает своё существование понятным способом: создаёт продукт, которым пользуются люди, получает доход и платит налоги. Продукт может быть полезным или вредным, но связь между деятельностью и результатом остаётся видимой.

Регулятор непосредственно не создаёт ни социальную сеть, ни мессенджер, ни образовательную платформу. Его измеримым результатом становятся выявленный риск, расследование, новое требование, предписание, штраф и отчёт.

Пока пользователь считается самостоятельным, многие отношения между ним и бизнесом не требуют постоянного чиновничьего посредничества. Поэтому бюрократическая система естественным образом расширяет понятия риска и уязвимости: чем больше человек нуждается в защите, тем нужнее тот, кто его защищает.

Это не обязательно связано с личной корыстью конкретного чиновника. Он может быть прекрасным отцом или матерью. Но внутри учреждения его ценность определяется не домашними достоинствами, а количеством регулируемых процессов и доказанной необходимостью собственного ведомства.

Для бюрократа остановить новое почти всегда безопаснее, чем разрешить. За полезный продукт, который не появился, его обычно не накажут. За разрешённый риск могут.

Систему содержит экономика, которую она ограничивает

Государственный аппарат существует на деньги, созданные продуктивной экономикой. Налоги компаний, работников и потребителей возникают только после того, как кто-то произвёл товар, услугу, знание или технологию.

Врач, учитель, исследователь или спасатель, получающий зарплату из бюджета, создаёт общественную ценность. Но и их труд, и содержание аппарата, который контролирует врача, учителя, исследователя и предпринимателя, оплачиваются из стоимости, произведённой экономической деятельностью.

Возникает асимметричная система: бизнес создаёт продукт, рабочие места и налоговую базу, после чего содержащийся на эти деньги регулятор получает право решить, может ли продукт попасть к человеку.

Бизнес рискует капиталом. Пользователь — временем, возможностями и развитием. Бюрократ, запретивший или задержавший полезный продукт, почти ничем не рискует.

Ущерб от неслучившегося будущего не попадает в отчёты. Там не указывают, сколько компаний не вышло на рынок, сколько технологий уехало в другие страны и сколько людей не получили новый инструмент. В отчёте будет написано, что риски снижены, а граждане защищены.

Для ШЕЛ это не отвлечённый спор

Создавая образовательное пространство ШЕЛ, мы могли бы сосредоточиться на том, как объединить преподавателя, виртуальную аудиторию, тренажёры, курсы и диагностику развития в одном сильном продукте.

Вместо этого значительную часть работы приходится посвящать юридическому разделению: отдельно программная платформа, отдельно цифровой контент, корпоративное обучение, образовательная деятельность, ассессмент и документы об образовании.

Это делается не потому, что такое дробление улучшает обучение. Цельный современный продукт просто не помещается в административную модель, созданную для другого технологического мира.

Бюрократическая препона отнимает у бизнеса не только прибыль. Она отнимает у человека возможность получить более сильное образование. При этом проверяющий отвечает за процедуру, но не отвечает за ребёнка, который продолжит учиться в более слабой системе.

Бюрократия учитывает возможный ущерб от нового продукта, но не умеет считать ущерб от его отсутствия.

Дать человеку рычаг — не значит дёрнуть его вместо него

Из этого не следует, что цифровым корпорациям надо разрешить всё.

Государство вправе требовать прозрачности рекомендательных систем, простого отключения персонализации, настоящей защиты детей, безопасности данных и ответственности за обман.

Но существует принципиальная разница между тем, чтобы дать человеку работающий инструмент управления, и тем, чтобы использовать этот инструмент вместо него.

Взрослый пользователь должен иметь возможность выбрать хронологическую ленту, отключить автозапуск, установить собственный лимит времени, использовать сквозное шифрование и понимать, кто и на каком основании получает доступ к его сообщениям.

Еврокомиссия хочет забрать у Meta* право безгранично управлять вниманием пользователя. Европарламент допускает проверку частных сообщений ради общественно значимой цели. Но ни внимание, ни переписка не возвращаются под полный контроль самого человека.

Бизнесу доверять нельзя, человеку доверять недостаточно — поэтому окончательное решение оставляет за собой чиновник.

Проблема бюрократии начинается там, где система, существующая на деньги продуктивной экономики, присваивает право решать, какие возможности эта экономика может дать человеку, а какие человек не должен получить ради его же собственной защиты.

Изображение сгенерировано нейросетями

Продолжаем разговор во ВКонтакте — обсуждение, споры и позиции.
Подписывайтесь и включайтесь