Tem sido um ano difícil para os alunos – mas bom para a resistência.

À medida que as escolas migram os alunos da educação presencial para as aulas e os testes em casa, e de novo para a escola, as linhas entre “escola” e “casa” ficam distorcidas. Isso tornou cada vez mais difícil para os alunos protegerem sua privacidade e se expressarem livremente, à medida que a supervisão on-line e outras formas sinistras de vigilância e tecnologia disciplinar se espalham. Mas os alunos retaliaram e muitas vezes venceram, e estamos felizes por estar do lado deles.

Investigações de burla da Dragnet roubam dos alunos o devido processo legal

No início do ano, estudantes de medicina da Geisel School of Medicine de Dartmouth foram apanhados de surpresa por uma investigação infundada de burla conduzida pela administração. As alegações foram baseadas numa revisão infundada de um ano inteiro de dados de registro de alunos do Canvas, a plataforma de aprendizado on-line que contém a matéria da aula e outras informações substanciais. Após um exame técnico, a EFF determinou que os logs poderiam facilmente ter sido gerados pela sincronização automatizada do material do curso com os dispositivos conectados ao Canvas.

Quando a EFF e o FIRE entraram em contato com Dartmouth e pediram que revissem os logs com mais cuidado – que a própria documentação do Canvas afirma explicitamente que não devem ser usados ​​para análises de alto risco – fomos rejeitados. Com as carreiras médicas de dezassete estudantes na corda bamba, os estudantes começaram a organizar-se. No início, o protesto no campus , a carta aos administradores da escola e as queixas de tratamento injusto por parte do governo estudantil não causaram muito impacto. De fato, a administração da universidade entrou em ação, instituindo uma nova política de média social que parecia destinada a arrepiar o discurso anônimo que apareceu no Instagram, detalhando as preocupações que os alunos tinham com a forma como essas alegações de burla estavam sendo tratadas.

Mas logo após a cobertura de notícias do desastre aparecer no Boston Globe e no New York Times , o governo, que não tinha oferecido nem mesmo uma sugestão de devido processo adequado aos estudantes afetados, admitiu que tinha ultrapassado e desistiu de suas alegações. Essa foi uma grande vitória e ajudou a mostrar que, com resistência suficiente, os alunos podem ajudar as escolas a entender as maneiras certas e erradas de usar a tecnologia na educação. Estudantes de todo o país já entraram em contato com a EFF e outras organizações de defesa porque professores e administradores fizeram alegações frágeis sobre burla com base em registros digitais de plataformas de aprendizado on-line que não resistem ao escrutínio. Criamos um guia para qualquer pessoa cujas escolas estejam usando esses logs para fins disciplinares e convidamos todos os alunos a entrar em contato connosco se estiverem em uma posição semelhante.

A supervisão on-line começa a recuar, mas a luta não acabou

Durante 2020 e 2021, as ferramentas de supervisão online tiveram um aumento de mais de 500% no seu uso. Mas preocupações legítimas sobre a forma invasiva dessas ferramentas, potencial viés e eficácia também foram difundidas, à medida que mais pessoas se conscientizaram das maneiras pelas quais o software de monitoramento automatizado, que pretende sinalizar burlas, geralmente sinaliza o comportamento normal de realização de testes – e pode até sinalizar comportamento de alguns grupos marginalizados com mais frequência. Durante o exame da barra de outubro de 2020, a ExamSoft sinalizou mais de um terço dos participantes do teste ou quase 3200 pessoas. A revisão humana pelo Bar removeu quase todas as bandeiras , deixando apenas 47 examinados com sanções. Em dezembro de 2020, o Senado dos EUA chegou a solicitar informações detalhadas de três das principais empresas de supervisão – Proctorio, ProctorU e ExamSoft – que, combinadas, supervisionaram pelo menos 30 milhões de testes ao longo da pandemia.

Este ano, continuamos a luta para proteger os dados privados dos alunos das empresas supervisoras e para garantir que os alunos recebam o devido processo quando seu comportamento for sinalizado. Examinamos de perto as respostas das empresas ao Senado e oferecemos nossa própria interpretação cuidadosa de como elas erraram o alvo . Em particular, continuamos a ter problemas significativos com o uso do duplo discurso pelas empresas – alegando que seus serviços não sinalizam burlas, apenas comportamentos aberrantes, e a análise humana é necessária para que qualquer burla seja determinada. Por que então muitas das empresas oferecem um serviço somente de automação? Você simplesmente não pode ter as duas coisas.

Depois de ser criticada, a ProctorU, uma das maiores empresas de supervisão online, anunciou em maio que não venderá mais serviços de supervisão totalmente automatizados . A empresa admitiu que “apenas cerca de 10% dos membros do corpo docente revisam o vídeo” para os alunos que são sinalizados pelas ferramentas automatizadas – deixando as notas da grande maioria dos examinandos aos caprichos de algoritmos tendenciosos e defeituosos. Esta é uma grande vitória, mas não resolve todos os problemas. A revisão humana no lado da empresa pode simplesmente resultar em professores e administradores ignorando ainda mais possíveis falsas bandeiras, pois eles confiam ainda mais nas empresas para tomar as decisões por eles.

Devemos continuar a examinar cuidadosamente o perigo para os alunos sempre que as escolas terceirizam as responsabilidades acadêmicas para ferramentas de terceiros, algorítmicas ou outras. E esperamos que os legisladores comecem a reinar na coleta desnecessária de dados fiscalizando as empresas com alguma legislação de bom senso no novo ano.

O novo futuro do fórum de privacidade “Student Privacy Pledge” tem novos problemas (e antigos).

O Future of Privacy Forum (FPF) lançou originalmente o Student Privacy Pledge em 2014 para incentivar as empresas de edtech, que geralmente coletam dados muito confidenciais de alunos do ensino fundamental e médio, a tomar medidas voluntárias para proteger a privacidade. Em 2016, criticamos o Legacy Pledge depois que ele alcançou 300 signatários – para desgosto da FPF.

 Este ano, analisamos cuidadosamente o novo Compromisso de Privacidade e descobrimos que ele também estava em falta . Isso é importante porque escolas, alunos e pais podem acreditar que uma empresa que cumpre a promessa está protegendo a privacidade de uma forma que não está. O Student Privacy Pledge é um programa autorregulador, mas aqueles que optam por assinar estão se comprometendo com promessas públicas que são executáveis ​​pela Federal Trade Commission (FTC) e pelos procuradores-gerais estaduais sob as leis de proteção ao consumidor – mas isso é um conforto frio quando a promessa fica tão aquém, e porque as ações de fiscalização contra empresas de edtech por violar a privacidade dos alunos têm sido poucas e distantes entre si.

 A nova promessa tropeça de várias maneiras. Em suma: está repleto de terminologia inconsistente e não define termos materiais; falta clareza sobre quais partes de uma empresa que assina o compromisso devem cumpri-lo; deixa em aberto a questão de saber se as empresas que atualizam certas políticas de privacidade devem notificar as escolas; fornece uma variedade de exceções pouco claras para atividades realizadas para “fins educacionais/escolares autorizados”; não define nenhum tipo de padrão mínimo para os recursos que as empresas devem oferecer às escolas sobre o uso de suas ferramentas de maneira que proteja a privacidade; e não fornece nenhuma orientação quanto aos requisitos de privacidade por design que expressa de outra forma que uma empresa deve se envolver.

 A EFF não se opõe a mecanismos voluntários como o Student Privacy Pledge para proteger os usuários – se eles funcionarem. A FTC raramente traz ações de fiscalização focadas na privacidade do aluno, e as lacunas no Compromisso não ajudam. Esperamos que a FTC e os procuradores-gerais do estado estejam dispostos a aplicá-la, mas até agora sua utilidade tem sido decepcionante e seus buracos não ajudam.

A tecnologia disciplinar não vai desaparecer

Embora tenhamos avançado na proteção da privacidade dos alunos durante a pandemia, as ameaças não estão desaparecer. Petições e outras campanhas ajudaram escolas e alunos individualmente, mas ainda estamos a pressionar pelo Canvas, Blackboard e outras ferramentas de aprendizagem para esclarecer a precisão de seus registros . E estamos felizes que o California Bar este ano esteja a oferecer re-fazer grátis e ajustando as pontuações daqueles afetados pela experiência cheia de falhas de 2021 – mas isso vem logo após o Bar também assinar um longo contrato com a ExamSoft . A supervisão deve ser controlada e usada com mais cuidado; e os únicos dados que devem ser coletados dos alunos devem ser os necessários para oferecer serviços de supervisão.

 A EFF dedicou recursos adicionais à privacidade dos alunos este ano, e estamos felizes por isso. Aprendemos muito sobre o que é preciso para resistir à vigilância escolar, defender a liberdade de expressão dos jovens e proteger a privacidade dos alunos – e continuaremos a luta em 2022. Se você estiver interessado em aprender mais sobre como proteger sua privacidade na escola , dê uma olhada em nosso guia de autodefesa de vigilância sobre privacidade para estudantes .

 Este artigo faz parte da nossa série Year in Review. Leia outros artigos sobre a luta pelos direitos digitais em 2021.