Законодатели нацелены на "усиление" больших технологий

Законодатели потратили годы на изучение того, как разжигание ненависти, дезинформация и запугивание в социальных сетях могут привести к реальному ущербу. Все чаще они указывают пальцем на алгоритмы таких сайтов, как Facebook и Twitter, программное обеспечение, которое решает, какой контент увидят пользователи и когда они его увидят.

Некоторые законодатели из обеих партий утверждают, что когда сайты социальных сетей повышают эффективность постов, содержащих ненависть или насилие, они становятся соучастниками. И они предложили законопроекты о лишении компаний юридического щита, который позволяет им отбиваться от судебных исков в отношении большинства материалов, размещенных их пользователями, в случаях, когда платформа усиливает охват вредоносного сообщения.

Комитет по энергетике и торговле Палаты представителей обсудил некоторые из этих предложений на слушаниях в среду. На слушаниях также выступила Фрэнсис Хауген, бывшая сотрудница Facebook, которая недавно слила в сеть целый ворох разоблачительных внутренних документов компании.

Отмена юридической защиты, известной как Раздел 230, означала бы серьезные изменения для Интернета, поскольку она уже давно позволила создать огромные масштабы сайтов социальных сетей. Г-жа Хауген заявила, что она поддерживает изменение Раздела 230, который является частью Закона о приличии в сфере коммуникаций, с тем чтобы он больше не распространялся на определенные решения, принимаемые алгоритмами технологических платформ.

Но что именно считается алгоритмическим усилением? И каково определение вредности? Предложения дают совершенно разные ответы на эти важнейшие вопросы. И от того, как они на них ответят, может зависеть, признают ли суды законопроекты конституционными.

Вот как законопроекты рассматривают эти острые вопросы:

Что такое алгоритмическое усиление?

Алгоритмы встречаются повсюду. В самом простом смысле алгоритм - это набор инструкций, указывающих компьютеру, как что-то сделать. Если на платформу можно будет подать в суд в любой момент, когда алгоритм сделает что-либо с сообщением, в ловушку могут попасть продукты, которые законодатели не пытаются регулировать.

Некоторые из предложенных законов определяют поведение, которое они хотят регулировать, в общих чертах. Законопроект, автором которого является сенатор Эми Клобучар, демократ от штата Миннесота, предусматривает судебные иски против платформ, если они "способствуют" распространению дезинформации о здоровье населения.

Законопроект г-жи Клобучар о дезинформации о здоровье даст платформам пропуск, если их алгоритм продвигает контент "нейтральным" образом. Это может означать, например, что платформа, которая ранжирует посты в хронологическом порядке, не будет беспокоиться о законе.

Другие законы более конкретны. Законопроект от представителей Анны Г. Эшу из Калифорнии и Тома Малиновски из Нью-Джерси, оба демократы, определяет опасное усиление как действия, направленные на "ранжирование, упорядочивание, продвижение, рекомендации, усиление или аналогичное изменение доставки или отображения информации".

Другой законопроект, написанный демократами Палаты представителей, уточняет, что на платформы можно подавать в суд только в том случае, если данное усиление было вызвано личными данными пользователя.

"Эти платформы не являются пассивными сторонними наблюдателями - они сознательно выбирают прибыль вместо людей, и наша страна платит за это цену", - сказал в своем заявлении представитель Фрэнк Паллоне-младший, председатель Комитета по энергетике и торговле, когда объявил о принятии закона.

Новый законопроект г-на Паллоне включает в себя исключение для любого бизнеса с пятью или менее миллионами ежемесячных пользователей. Он также исключает сообщения, которые появляются, когда пользователь ищет что-то, даже если алгоритм ранжирует их, а также веб-хостинг и другие компании, которые составляют основу Интернета.

Хотя г-жа Хауген ранее говорила законодателям, что в разделе 230 должны быть ограничения, в среду она предупредила комитет, чтобы избежать непреднамеренных негативных последствий.

По-видимому, она имела в виду поправку 2018 года, которая отменила защиту юридического щита, когда платформы сознательно способствуют секс-торговле. Работники секс-бизнеса заявили, что это изменение подвергает их риску, затрудняя использование Интернета для проверки клиентов. В июне Управление правительственной отчетности сообщило, что федеральные прокуроры воспользовались новой свободой действий только один раз с тех пор, как Конгресс утвердил ее.

"Когда вы будете рассматривать реформу раздела 230, я призываю вас двигаться вперед с открытыми глазами на последствия реформы", - сказала г-жа Хауген. "Я призываю вас поговорить с правозащитниками, которые могут помочь представить контекст того, как последняя реформа 230 имела драматические последствия для безопасности некоторых из наиболее уязвимых людей в нашем обществе, но редко использовалась по своему первоначальному назначению".

Какой контент является вредным?

Законодатели и другие лица указывают на широкий спектр контента, который, по их мнению, связан с реальным вредом. Существуют теории заговора, которые могут привести некоторых приверженцев к насилию. Сообщения террористических групп могут подтолкнуть человека к совершению теракта, как утверждали родственники одного человека, подавшие в суд на Facebook после того, как член ХАМАС смертельно ранил его ножом. Другие политики выражают обеспокоенность по поводу целевой рекламы, которая приводит к дискриминации в сфере жилья.

Большинство законопроектов, находящихся на рассмотрении Конгресса, касаются конкретных видов контента. Законопроект г-жи Клобучар касается "дезинформации о здоровье". Но предложение оставляет на усмотрение Министерства здравоохранения и социальных служб определение того, что именно это означает.

"Пандемия коронавируса показала нам, насколько смертоносной может быть дезинформация, и мы обязаны принять меры", - сказала г-жа Клобучар, объявляя о предложении, соавтором которого выступил сенатор Бен Рэй Луян, демократ от штата Нью-Мексико.

Законодательство, предложенное г-жой Эшу и г-ном Малиновски, имеет другой подход. Он распространяется только на усиление постов, нарушающих три закона - два, запрещающих нарушение гражданских прав, и третий, преследующий международный терроризм.

Законопроект г-на Паллоне является самым новым из всех и применяется к любому сообщению, которое "существенно способствовало физической или тяжелой эмоциональной травме любого человека". Это высокий правовой стандарт: Эмоциональное расстройство должно сопровождаться физическими симптомами. Но это может распространяться, например, на подростка, который просматривает посты в Instagram, которые настолько снижают ее самооценку, что она пытается причинить себе вред.

В среду некоторые республиканцы выразили обеспокоенность по поводу этого предложения, утверждая, что оно побудит платформы удалять контент, который должен оставаться в открытом доступе. Представитель Кэти Макморрис Роджерс из Вашингтона, главный республиканец в комитете, заявила, что это "тонко завуалированная попытка оказать давление на компании, чтобы заставить их цензурировать больше речи".

Что думают суды?

Судьи скептически относятся к идее о том, что платформы должны терять свой правовой иммунитет, когда они усиливают охват контента.

В деле о нападении, ответственность за которое взял на себя ХАМАС, большинство судей, рассматривавших дело, согласились с Facebook в том, что его алгоритмы не стоили ему защиты юридического щита для пользовательского контента.

Если Конгресс создаст исключение из правового щита - и оно выдержит юридическую проверку - судам, возможно, придется последовать его примеру.

Но если законопроекты станут законом, они, скорее всего, вызовут много вопросов о том, не нарушают ли они защиту свободы слова, предусмотренную Первой поправкой.

Суды постановили, что правительство не может ставить льготы отдельным лицам или компаниям в зависимость от ограничения слова, которое в противном случае защищалось бы Конституцией. Таким образом, технологическая индустрия или ее союзники могут оспорить закон, утверждая, что Конгресс нашел черный ход для ограничения свободы слова.

"Возникает вопрос: Может ли правительство напрямую запретить алгоритмическое усиление?" - говорит Джефф Коссефф, доцент кафедры права кибербезопасности в Военно-морской академии США. "Это будет непросто, особенно если вы пытаетесь сказать, что нельзя усиливать определенные виды речи".