Новая программа Apple по сканированию изображений, отправленных в iMessage, отступает от предыдущей линии компании по поддержке приватности и безопасности зашифрованных сообщений. Программа, первоначально предусмотренная лишь для Соединенных Штатов, сужает понимание сквозного шифрования, чтобы обеспечить сканирование на стороне клиента. Хотя Apple стремиться бороться с эксплуатацией детей и жестоким обращением с ними, компания создала инфраструктуру, которую слишком легко перенаправить на масштабную слежку и цензуру. Программа подрывает любые потенциальные заявления Apple о том, что компания не может идти на встречу требованиям о более широкой слежке.
В течение многих лет страны по всему миру пытались получить доступ к зашифрованным сообщениями и контроль над ними. Правительства просили технологические компании «работать усерднее», когда сталкивались с сопротивлением и заявлениями о том, что доступ к сообщениям в чистом виде несовместим с сильным шифрованием. Программа сканирования сообщений для обеспечения безопасности детей Apple в настоящее время развертывается только в Соединенных Штатах.
TELL APPLE: DON'T SCAN OUR PHONES
Соединенные Штаты не стесняются поисков доступа к зашифрованным сообщениям, оказывая давление на компании с целью облегчить получение данных при наличии ордера и обеспечить добровольную передачу данных. Однако США сталкиваются с серьезными конституционными препятствиями в случае попытки принять закон, который потребует скрининга и отчетности о контенте без решения суда и соответствующего ордера. Даже в случае проведения частной компанией, санкционированный обыск подлежит защите Четвертой поправкой конституции. Любой «ордер», выданный на необоснованную массовую слежку, был бы неконституционным. Как пояснил Девятый окружной апелляционный суд, «ордера на обыск... в корне оскорбляют основополагающие принципы Четвертой поправки, когда они настолько всеобъемлющи и экспансивны в формулировках, что представляют собой всеобъемлющий виртуальный невод». С этой новой программой Apple не смогла провести сильную политическую линию против законов США, подрывающих шифрование, но для предотвращения наихудших её последствий остается конституционная поддержка. Однако конституционная защита США не может быть реализована во всех странах.
Apple является глобальной компанией: ее телефоны и компьютеры используются по всему миру. В результате многие правительства оказывают на неё давление. Apple обещала отказывать правительствам в удовлетворении их «требований по созданию и развертыванию санкционированных правительством изменений, негативно влияющих на приватность пользователей». Apple заявляет, что не пойдет на уступки. Это хорошо, но гораздо более эффективной защитой было бы техническое исключение такой возможности. Хотя это, пожалуй, невозможно утверждать ни об одной системе подобного типа. Более того, если Apple реализует это изменение, корпорации нужно будет не просто бороться за приватность, но и побеждать в законодательных органах и судах по всему миру. Apple придется противостоять давлению правительств, чтобы сдержать свое обещание и не расширять программу сканирования iMessage на новые страны, не сканировать новые типы контента и не допускать получения третьими лицами информации, которая должна остаться между родителями и детьми.
Неудивительно, что авторитарные страны требуют от компаний предоставления доступа к зашифрованным сообщениям, которые зачастую являются последней надеждой диссидентов на организацию и общение. Например, исследование Citizen Lab показывает, что незашифрованный китайский сервис WeChat уже ведет слежку за изображениями и файлами, которыми делятся пользователи, и использует их для обучения предназначенных для цензуры алгоритмов. «Когда сообщение отправляется от одного пользователя WeChat другому, оно проходит через сервер, управляемый Tencent (материнской компанией WeChat). Перед отправкой сообщения получателю сервер определяет, содержатся ли в сообщении ключевые слова из черного списка». Как объясняет Риана Пфефферкорн из интернет-обсерватории Стэнфордского университета, этот тип технологии является дорожной картой, показывающей, «как система сканирования на стороне клиента, первоначально созданная только для отслеживания материалов о сексуальном насилии над детьми, может быть использована для цензуры и политических преследований». Apple уже поняла, что отказать Китаю – крупнейшему в мире рынку – может быть трудно. Другие страны не стесняются оказывать экстремальное давление на компании, в том числе арестовывать местных сотрудников технологических компаний.
Но во многих случаях мощное давление на доступ к зашифрованным данным также исходит от демократических стран, которые стремятся поддерживать верховенство закона, по крайней мере на первых порах. Если компании не смогут удержать линию в таких странах, изменения, внесенные для подрыва шифрования, могут быть легко воспроизведены странами с более слабыми демократическими институтами и плохой историей соблюдения прав человека. Часто они используют аналогичный юридический язык, но имеют отличные представления об общественном порядке и государственной безопасности, а также о том, что представляет собой недопустимый контент: от непристойности до политических высказываний. Это очень опасно. Страны с плохой историей соблюдения прав человека, тем не менее, будут утверждать, что они ничем не отличаются. Они являются суверенными государствами и будут рассматривать свои потребности в области общественного порядка как столь же неотложные. Они будут утверждать, что если Apple предоставляет доступ какому-либо национальному государству в соответствии с его местными законами, то компания должна предоставить доступ и другим странам, как минимум, на тех же условиях.
Страны «Пяти глаз» будут стремиться сканировать сообщения
«Пять глаз» — альянс разведывательных служб Канады, Новой Зеландии, Австралии, Великобритании и США — предупредил в 2018 году, что будет «применять технологические, правоприменительные, законодательные или другие меры для поиска законных решений доступа», если компании добровольно не предоставят доступ к зашифрованным сообщениям. Совсем недавно «Пять глаз» перешли от борьбы с терроризмом к предотвращению эксплуатации детей и жестокого обращения с ними в качестве оправдания, но требование незашифрованного доступа остается прежним. «Пять глаз» вряд ли будут удовлетворены, если не будет изменений, призванных помочь борьбе с терроризмом и уголовным расследованиям.
Великобритания приводит в действие угрозу «Пяти глаз». Акт о полномочиях следствия Соединенного Королевства позволяет государственному секретарю выдавать «уведомления о технических возможностях», которые обязуют операторов телекоммуникационных сетей предоставлять технические возможности для «помощи в исполнении решений о прослушивании, взломе оборудования и получении коммуникационных данных». Когда Акт находился на рассмотрении парламента Великобритании, мы предупреждали, что «компании могут быть вынуждены распространять обновления, облегчающие выполнение решений о взломе оборудования, не уведомляя при этом своих клиентов».
В соответствии с данным законом, государственный секретарь должен рассмотреть «техническую возможность соблюдения уведомлений». А инфраструктура, необходимая для развертывания предлагаемых Apple изменений, не позволяет говорить о том, что дополнительное наблюдение технически невозможно. Мы обеспокоены тем, что с новой программой Apple Великобритания может попытаться внедрить обновление, которое расширит текущую функциональность программы сканирования iMessage посредством различных алгоритмических целей и более широкого информирования спецслужб. Поскольку функция «безопасность связи» iMessage является собственным изобретением Apple, компания может легко изменить критерии того, что будет приводить к информированию спецслужб. Корпорация Apple может быть принуждена к тому, чтобы внедрить программу сопоставления хэшей для iPhoto в предварительную проверку сообщений. Аналогичным образом под контролем Apple полностью находятся и критерии, определяющие учетные записи, к которым будет применять это сканирование, а также получатель уведомлений о найденных соответствиях.
Австралия последовала этому примеру в своем Законе о содействии и доступе, содержащем помимо прочего требования по предоставлению технической помощи и возможностей, которые могут подорвать шифрование. Хотя закон содержит некоторые гарантии, коалиция организаций гражданского общества, технологических компаний и торговых ассоциаций, в которую вошли EFF и та же Apple, объяснила, что этих гарантий недостаточно.
Действительно, в своем докладе австралийскому правительству Apple предупредила, что «правительство может попытаться заставить поставщиков связи устанавливать или тестировать программное обеспечение или оборудование, облегчить доступ к оборудованию клиентов, передавать исходный код, удалять формы электронной защиты, изменять характеристики сервиса или заменить сервис». Если бы только Apple помнила, что эти самые методы также могут быть использованы в попытке санкционировать или изменить возможности её же программы сканирования.
Хотя Канада еще не приняла законодательство с очевидными требованиями о доступе к обычному тексту, канадское правительство активно ищет возможности, чтобы обязать различные онлайн-платформы фильтровать контент. Это в свою очередь увеличивает возможность для принятия более агрессивных обязательств, нацеленных на приложения по обмену сообщениями.
Режимы цензуры созданы и готовы к работе
Если запросы стран «Пяти глаз» в основном касаются возможностей наблюдения, то Индия и Индонезия уже находятся на скользком пути к цензуре контента. Новые руководящие принципы и этический кодекс онлайн медиа («Правила 2021 года»), вступившие в действие в Индии в начале этого года, напрямую обязуют платформы проводить предварительный скрининг контента. Правило 4(4) предусматривает фильтрацию контента, требуя от провайдеров «развертывать технологические меры», включая автоматизированные инструменты и другие механизмы для «активного выявления информации», запрещенной Правилами.
В ответ на критику Правил 2021 года со стороны трех специальных докладчиков ООН Индия подчеркивает реальные угрозы для детей, но упускает из виду гораздо более широкие возможности для сканирования и цензуры. Правила 2021 года налагают упреждающее и автоматическое применение положений об удалении контента, требуя активной блокировки материалов, которые ранее были признаны запрещенными в соответствии с индийским законодательством. В целом эти Правила призваны защищать «суверенитет и целостность Индии, безопасность государства, дружественные отношения с иностранными государствами, общественный порядок, порядочность или нравственность». Это не гипотетически скользкий путь — нетрудно понять, насколько это все опасно для свободы выражения мнений и политики несогласия уже сейчас. Это видно на примере действия Закона о предотвращении незаконной деятельности, который, как сообщается, использовался для ареста ученых, писателей и поэтов за организацию митингов и размещение политических сообщений в социальных сетях.
Было бы неудивительно, если бы Индия заявила, что программа сканирования Apple является отличным началом для соответствия требованиям Правил, и еще лишь несколько поправок необходимо для более широкого применения Правил 2021 года. Apple пообещала выступать против любого расширения и может утверждать в суде, как это сделали WhatsApp и многие другие, что Правила 2021 года должны быть отменены, а также что Apple не соответствует определению посредника социальных сетей, регулируемого в соответствии с этими Правилами. Но индийские правила демонстрируют как желание правительства, так и юридические основания для предварительного скрининга зашифрованного контента, а изменения Apple облегчают проскальзывание в эту антиутопию.
Это, к сожалению, постоянно растущая тенденция. Индонезия также приняла министерское постановление MR5, требующее от поставщиков услуг (включая поставщиков услуг «обмена мгновенными сообщениями») «убеждаться», что их система «не содержит никакой запрещенной информации и [...] не способствует распространению запрещенной информации». MR5 определяет запрещенную информацию как все, что нарушает какие-либо предписания законов и правил Индонезии, рождает «беспокойство в обществе» или способствует «нарушению общественного порядка». На поставщиков услуг, которые не могут обеспечить отсутствие запрещенного контента и информации в своих системах MR5 налагаются большие штрафы. Правительство Индонезии также может рассматривать функцию сканирования iMessage как инструмент соответствия Регламенту MR5 и оказывать давление на Apple с целью внедрения более широкой и инвазивной версии в своей стране.
Давление будет расти
Стремление применять программу Apple в большем количестве стран и для большей разновидности контента будет только расти. Согласно просочившимся осенью 2020 года документам из Европейской комиссии, к рассмотрению в Европарламенте готовится Закон о борьбе с шифрованием (возможно, он будет внесен на рассмотрение уже в этом году). К счастью, в ЕС есть бэкстоп. В соответствии со статьей 15 Директивы об электронной торговле (2000/31/EC) государствам - членам ЕС не разрешается налагать общее обязательство по контролю за информацией, передаваемой или хранимой пользователями. Действительно, Европейский суд заявил, что на посредников не может быть наложено обязательство по общему контролю своих услуг с целью выявления и предотвращения незаконной деятельности пользователей. Такое обязательство будет несовместимо со справедливостью и соразмерностью. Несмотря на это в просочившемся внутреннем документе, опубликованном в издании Politico, Европейская комиссия взяла на себя обязательство по обнаружению CSAM соответствующими поставщиками онлайн-услуг (ожидается в декабре 2021 года). В качестве решения документ называет сканирование на стороне клиента, что потенциально может применяться к безопасным приложениям для обмена личными сообщениями, но якобы сохраняет защиту сквозного шифрования.
Для политических деятелей, призывающих компании усерднее работать над поиском решений, искусные ухищрения с формулировками – это тоже хорошо. Целью для них является доступ к незашифрованной информации. И если это может быть достигнуто посредством того, что сквозное шифрование будет определяться более узко, тем лучше для них.
Все, что потребуется, чтобы расширить узкий бэкдор, который создает Apple, это расширение параметров машинного обучения для поиска дополнительных типов контента, принятие хэша iPhoto, соответствующего iMessage, или настройка конфигурации для сканирования не только детских, но и других учетных записей. У Apple есть полностью построенная система, которая просто ждет внешнего давления, чтобы внести необходимые изменения. Китай и, несомненно, другие страны уже имеют хэши и классификаторы контента для выявления сообщений, недопустимых в соответствии с их законами, даже если они защищены международным правом в области прав человека. Случаи злоупотреблений легко представить: правительства, которые запрещают гомосексуализм, могут потребовать, чтобы классификатор был обучен ограничивать доступ к ЛГБТ контенту, а авторитарный режим может потребовать, чтобы классификатор мог определять популярные сатирические изображения или протестные материалы.
Теперь, когда Apple создала основания, они придут. С благими намерениями Apple создала все условия для санкционированного нанесения урона безопасности во всем мире, позволяя существовать и разрастаться аргументам о том, что хорошие намерения оправдывают сканирование вашей личной жизни и личных коммуникаций. Мы призываем Apple пересмотреть свою позицию и вернуться к мантре Apple, которая красовалась на рекламном щите на конференции CES 2019 года в Лас-Вегасе: «Все, что происходит в вашем iPhone, остается в вашем iPhone».
TELL APPLE: DON'T SCAN OUR PHONES
Read further on this topic:
