La tecnología de reconocimiento facial es una amenaza especial para la privacidad, la justicia racial, la libre expresión y la seguridad de la información. Nuestros rostros son identificadores únicos, y la mayoría de nosotros los exponemos allá donde vamos. Y, a diferencia de nuestras contraseñas y números de identificación, no podemos conseguir un nuevo rostro. Por ello, los gobiernos y las empresas, a menudo en colaboración, utilizan cada vez más nuestros rostros para rastrear nuestro paradero, actividades y asociaciones.
Afortunadamente, la gente de todo el mundo está luchando. Un número creciente de comunidades ha prohibido el uso gubernamental del reconocimiento facial. En cuanto al uso por parte de las empresas, muchas comunidades se están fijando en la ley de Illinois, que exige a las empresas que obtengan el consentimiento previo antes de extraer la huella facial de una persona. La EFF se enorgullece de apoyar leyes como éstas.
Los daños del reconocimiento facial
Empecemos por las formas en que el reconocimiento facial nos perjudica. Luego pasaremos a las soluciones.
Privacidad
El reconocimiento facial viola nuestro derecho humano a la privacidad. Las redes de cámaras de vigilancia han inundado nuestros espacios públicos. Las tecnologías de reconocimiento facial son cada día más potentes. En conjunto, estos sistemas pueden determinar de forma rápida, barata y sencilla dónde hemos estado, con quién hemos estado y qué hemos hecho. Todo ello basado en un marcador único que no podemos cambiar ni ocultar: nuestro propio rostro.
En palabras de una sentencia de un tribunal federal de apelaciones en 2019, en un caso presentado contra Facebook por tomar huellas faciales de sus usuarios sin su consentimiento:
Una vez que se ha creado una plantilla facial de una persona, Facebook puede utilizarla para identificar a esa persona en cualquiera de los otros cientos de millones de fotos que se suben a Facebook cada día, así como para determinar cuándo estuvo la persona en un lugar concreto. Facebook también puede identificar a los amigos o conocidos de la persona que aparecen en la foto. ... [P]arece probable que se pueda identificar a un individuo con un mapa facial a partir de una foto de vigilancia tomada en la calle o en un edificio de oficinas.
El uso del reconocimiento facial por parte del gobierno también plantea problemas relacionados con la Cuarta Enmienda. En los últimos años, el Tribunal Supremo de EE.UU. ha puesto repetidamente límites a los usos invasivos del gobierno de las tecnologías de vigilancia de vanguardia. Esto incluye el uso por parte de la policía de dispositivos GPS e información de localización de teléfonos móviles para seguir nuestros movimientos. La vigilancia facial también puede seguir nuestros movimientos.
Justicia racial
El reconocimiento facial también tiene un impacto desigual contra las personas de color.
Su uso ha conducido a la detención errónea de al menos tres hombres negros. Sus nombres son Michael Oliver, Nijeer Parks y Robert Williams. Cada detención de una persona negra conlleva el riesgo de una fuerza policial excesiva o incluso mortal. Por tanto, el reconocimiento facial es una amenaza para las vidas de los negros. Esta tecnología también provocó que una pista de patinaje pública expulsara por error a una usuaria negra. Su nombre es Lamya Robinson. Así pues, el reconocimiento facial es también una amenaza para la igualdad de oportunidades en los lugares de alojamiento público.
Estos casos de "identidad errónea" no son anomalías. Muchos estudios han demostrado que la tecnología de reconocimiento facial tiene más probabilidades de identificar erróneamente a las personas de color que a las blancas. Un líder en esta investigación es Joy Buolamwini.
Incluso si la tecnología de reconocimiento facial fuera siempre precisa, o al menos igualmente inexacta en todos los grupos raciales, seguiría teniendo un impacto racialmente dispar. Las cámaras de vigilancia están excesivamente desplegadas en los barrios minoritarios, por lo que las personas de color tendrán más probabilidades que otras de ser sometidas a la toma de huellas faciales. Además, la historia demuestra que la policía suele apuntar las tecnologías de vigilancia a los defensores de la justicia racial.
El reconocimiento facial es sólo el último capítulo de lo que Álvaro Bedoya llama "el color de la vigilancia". Esta tecnología se remonta a las "leyes de los faroles", que obligaban a las personas de color a llevar faroles con velas cuando caminaban por las calles al anochecer, para que la policía pudiera ver mejor sus rostros y vigilar sus movimientos.
Libre Expresión
Además, el reconocimiento de rostros enfría y disuade nuestra libertad de expresión.
La Primera Enmienda protege el derecho a la confidencialidad cuando realizamos muchos tipos de actividades expresivas. Entre ellas se encuentran la expresión anónima, las conversaciones privadas, la recepción confidencial de ideas impopulares, la recopilación de noticias de fuentes no reveladas y la pertenencia confidencial a asociaciones expresivas. Todas estas actividades expresivas dependen de la libertad de vigilancia porque muchos participantes temen las represalias de la policía, los empleadores y los vecinos. Las investigaciones confirman que la vigilancia disuade la expresión.
Sin embargo, en los últimos dos años, las fuerzas del orden de todo el país han utilizado el reconocimiento facial para identificar a los manifestantes por las vidas negras. Entre ellos se encuentran la Policía de Parques de Estados Unidos, el Servicio de Inspección Postal de Estados Unidos y la policía local de Boca Ratón, el condado de Broward, Fort Lauderdale, Miami, Nueva York y Pittsburgh. Esto muestra, de nuevo, el color de la vigilancia.
La policía también podría utilizar el reconocimiento facial para identificar al denunciante que entró en la oficina de un periódico, o al lector que entró en una librería disidente, o al empleado que entró en la sede de un sindicato, o al distribuidor de un folleto anónimo. La proliferación de la vigilancia facial puede disuadir todas estas actividades protegidas por la Primera Enmienda.
Seguridad de la información
Por último, el reconocimiento facial amenaza la seguridad de nuestra información.
Los ladrones de datos roban regularmente grandes cantidades de datos personales. Entre ellos, las huellas faciales. Por ejemplo, las huellas faciales de 184.000 viajeros fueron robadas a un proveedor de la Oficina de Aduanas y Protección de Fronteras de Estados Unidos.
Los delincuentes y los gobiernos extranjeros pueden utilizar las huellas faciales robadas para entrar en cuentas seguras que el rostro del propietario puede desbloquear. De hecho, un equipo de investigadores de seguridad lo hizo con modelos 3D basados en fotos de Facebook.
Tipos de reconocimiento facial
En resumen: el reconocimiento facial es una amenaza para la privacidad, la justicia racial, la libre expresión y la seguridad de la información. Sin embargo, antes de pasar a las soluciones, hagamos una pausa para describir los distintos tipos de reconocimiento facial.
Dos son los más conocidos. La "identificación facial" compara la huella facial de una persona desconocida con un conjunto de huellas faciales de personas conocidas. Por ejemplo, la policía puede intentar identificar a un sospechoso desconocido comparando su huella facial con las de una base de datos de fotografías policiales.
La "verificación facial" compara la huella facial de una persona que busca acceso, con las huellas faciales de las personas autorizadas para dicho acceso. Este puede ser un uso mínimamente preocupante de la tecnología. Por ejemplo, muchas personas utilizan la verificación facial para desbloquear sus teléfonos.
El reconocimiento facial es mucho más que eso. Por ejemplo, la agrupación, el seguimiento y el análisis de rostros no implican necesariamente la identificación o verificación de los mismos.
La "agrupación de rostros" compara todas las huellas faciales de una colección de imágenes entre sí, para agrupar las imágenes que contienen una persona determinada. Por ejemplo, la policía podría crear un conjunto de varias fotos de un manifestante no identificado, y luego identificarlo manualmente con un libro de fotos policiales.
El "rastreo facial" sigue los movimientos de una persona concreta a través de un espacio físico cubierto por cámaras de vigilancia. Por ejemplo, la policía podría seguir a un manifestante no identificado desde una concentración hasta su casa o su coche, y luego identificarlo con una dirección o una base de datos de matrículas.
El "análisis facial" pretende aprender algo sobre una persona, como su raza o su estado emocional, escudriñando su rostro. Este análisis suele ser erróneo, ya que el significado de una característica facial suele ser una construcción social. Por ejemplo, se equivoca al clasificar a las personas transgénero o no binarias. Si "funciona", puede utilizarse para establecer perfiles raciales. Por ejemplo, una empresa china afirma que funciona como "alarma uigur". Por último, la detección automatizada para determinar si una persona está supuestamente enfadada o es engañosa puede hacer que la policía aumente el uso de la fuerza o amplíe la duración y el alcance de una detención.
Los legisladores deben abordar todas las formas de reconocimiento facial: no sólo la identificación y la verificación, sino también la agrupación, el seguimiento y el análisis.
Uso gubernamental del reconocimiento facial
La EFF apoya la prohibición del uso gubernamental del reconocimiento facial. La tecnología es tan destructiva que el gobierno no debe utilizarla en absoluto.
La EFF ha apoyado exitosas campañas de promoción en todo el país. Muchas comunidades locales han prohibido el uso gubernamental del reconocimiento facial, desde Boston hasta San Francisco. El Estado de California estableció una moratoria de tres años sobre el uso policial del reconocimiento facial con cámaras corporales. Algunas empresas han dejado de vender reconocimiento facial a la policía.
También apoyamos un proyecto de ley para poner fin al uso federal del reconocimiento facial. Si quieres ayudar a detener el uso gubernamental del reconocimiento facial en tu comunidad, consulta el kit de herramientas "About Face" de la EFF.
Uso empresarial del reconocimiento facial
El problema
El uso empresarial del reconocimiento facial también perjudica la privacidad, la justicia racial, la libertad de expresión y la seguridad de la información.
Parte del problema está en las tiendas físicas. Algunas utilizan la identificación facial para detectar a los posibles ladrones. Esto se basa a menudo en datos de la justicia penal, propensos a errores y racialmente sesgados. Otras tiendas lo utilizan para identificar a los clientes prohibidos. Pero esto puede identificar erróneamente a clientes inocentes, especialmente si son personas de color, como le ocurrió a Lamya Robinson en una pista de patinaje. Otras tiendas utilizan la identificación, el seguimiento y el análisis del rostro para ofrecer a los clientes anuncios específicos o seguir su comportamiento a lo largo del tiempo. Esto forma parte del problema más amplio de la publicidad basada en la vigilancia, que perjudica a toda nuestra privacidad.
Hay muchos otros tipos de usos corporativos amenazantes del reconocimiento facial. Por ejemplo, algunas empresas lo utilizan para escudriñar a sus empleados. Ésta es sólo una de las muchas formas de alta tecnología con las que los jefes espían a los trabajadores. Otras empresas, como Clearview AI, utilizan el reconocimiento facial para ayudar a la policía a identificar a personas de interés, incluidos los manifestantes de BLM. Estas asociaciones de vigilancia entre empresas y gobiernos son una amenaza creciente.
La solución
De todas las leyes vigentes, una es la que más nos ha protegido del uso empresarial del reconocimiento facial: la Ley de Privacidad de la Información Biométrica de Illinois, o BIPA.
En esencia, la BIPA hace tres cosas:
- Prohíbe a las empresas recoger o divulgar la huella facial de una persona sin su consentimiento.
- Exige a las empresas que eliminen las huellas faciales después de un tiempo determinado.
- Si una empresa viola los derechos de la BIPA de una persona al recoger, revelar o retener ilegalmente su huella facial, esa persona tiene un "derecho de acción privado" para demandar a esa empresa.
La EFF lleva mucho tiempo trabajando para que se promulguen más leyes del tipo de la BIPA, tanto en el Congreso como en los estados. Abogamos regularmente en Illinois para proteger la BIPA de los retrocesos legislativos. También hemos presentado informes amicus en un tribunal de apelación federal y en el Tribunal Supremo de Illinois para garantizar que todos los que han sufrido una violación de sus derechos BIPA puedan tener su día en los tribunales.
La BIPA impide uno de los peores usos corporativos del reconocimiento facial: la toma de huellas faciales en el público en general. Algunas empresas hacen esto a todas las personas que entran en una tienda, o a todas las personas que aparecen en fotos en las redes sociales. Esta práctica viola la BIPA porque algunas de estas personas no han dado su consentimiento previo para la toma de huellas faciales.
La gente ha presentado muchas demandas BIPA contra empresas que tomaron sus huellas faciales sin su consentimiento. Facebook llegó a un acuerdo por 650 millones de dólares en un caso relacionado con su función de "sugerencias de etiquetas".
Desafíos de la Primera Enmienda
Se han presentado otras demandas de la BIPA contra Clearview AI. Se trata de la empresa que extrae huellas faciales de diez mil millones de fotografías y las utiliza para ayudar a la policía a identificar a los sospechosos. La empresa no pide el consentimiento para sus huellas faciales. Así que Clearview se enfrenta ahora a una demanda BIPA en el tribunal estatal de Illinois, presentada por la ACLU, y a varias demandas similares en el tribunal federal.
En ambos casos, Clearview alega la defensa de la Primera Enmienda. La EFF no está de acuerdo y ha presentado un informe amicus curiae en este sentido. Nuestro razonamiento procede en tres pasos.
En primer lugar, el faceprinting de Clearview goza, al menos, de cierta protección de la Primera Enmienda. Recoge información sobre las medidas de un rostro y crea información en forma de una representación matemática única. La Primera Enmienda protege la recopilación y la creación de información porque a menudo son requisitos necesarios para la libertad de expresión. Por ejemplo, el Tribunal Supremo de Estados Unidos ha dictaminado que la Primera Enmienda protege la lectura de libros, la recopilación de noticias, la creación de videojuegos e incluso la compra de tinta por barriles. Del mismo modo, los tribunales de apelación protegen el derecho a grabar a la policía en servicio.
La protección de la Primera Enmienda del faceprinting no se ve disminuida por el uso de código informático, porque el código es una expresión. Parafraseando a un tribunal: al igual que los músicos pueden comunicarse entre sí con una partitura musical, los programadores informáticos pueden comunicarse entre sí con el código informático.
En segundo lugar, el faceprinting de Clearview no goza de las formas más fuertes de protección de la Primera Enmienda, como el "escrutinio estricto". Más bien, sólo goza de un "escrutinio intermedio". Esto se debe a que no aborda un asunto de interés público. El Tribunal Supremo ha hecho hincapié en este factor en muchos contextos, incluyendo las escuchas telefónicas, la difamación y la angustia emocional. Del mismo modo, los tribunales inferiores han sostenido que las reclamaciones de derecho común sobre la privacidad de la información -es decir, la intrusión en el aislamiento y la publicación de hechos privados- no violan la Primera Enmienda si la información en cuestión no es un asunto de interés público.
La revisión intermedia también se aplica al faceprinting de Clearview porque sus intereses son exclusivamente económicos. El Tribunal Supremo ha sostenido desde hace tiempo que el "discurso comercial", es decir, "la expresión relacionada únicamente con los intereses económicos del orador y su audiencia", recibe "una protección menor". Así, cuando las leyes que protegen la privacidad de los datos de los consumidores se enfrentan a la Primera Enmienda, los tribunales inferiores aplican una revisión judicial intermedia en virtud de la doctrina de la expresión comercial.
Para superar esta prueba, una ley debe promover un "interés sustancial" y debe haber una "estrecha relación" entre este interés y lo que la ley exige.
En tercer lugar, la aplicación de la BIPA al faceprinting de Clearview supera esta prueba intermedia. Como se ha comentado anteriormente, el Estado de Illinois tiene un gran interés en evitar los daños causados por el faceprinting a la privacidad, la justicia racial, la libre expresión y la seguridad de la información. Además, estos intereses están estrechamente relacionados con la salvaguardia que exige Illinois: el consentimiento expreso para recoger una huella facial. En palabras del Tribunal Supremo, la privacidad de los datos requiere "el control por parte del individuo de la información relativa a [su] persona".
Algunos grupos empresariales han impugnado la estrecha relación entre los medios y los fines de la BIPA, sugiriendo que Illinois podría alcanzar sus objetivos, con menos carga para las empresas, exigiendo sólo una oportunidad para que la gente opte por no participar. Pero los incumplimientos son importantes. La exclusión voluntaria no es un sustituto adecuado de la inclusión voluntaria. Muchas personas no sabrán que una empresa ha recogido su huella facial, y mucho menos sabrán cómo excluirse. Otras personas se verán disuadidas por el confuso y largo proceso de exclusión. Este problema es peor de lo necesario porque muchas empresas utilizan "patrones oscuros", es decir, diseños de experiencia de usuario que manipulan a los usuarios para que den su supuesto "consentimiento" al procesamiento de datos.
Así, numerosos tribunales federales de apelación y de primera instancia han defendido las leyes de privacidad de datos de los consumidores que son similares a la BIPA contra la impugnación de la Primera Enmienda. El pasado mes de agosto, un juez de Illinois rechazó la defensa de la Primera Enmienda de Clearview.
Próximos pasos
En manos de gobiernos y empresas por igual, la tecnología de reconocimiento facial es una amenaza creciente para nuestros derechos digitales. Pero el futuro no está escrito. La EFF se enorgullece de sus contribuciones al movimiento para resistir el abuso de estas tecnologías. Por favor, únase a nosotros para exigir la prohibición del uso gubernamental del reconocimiento facial, y leyes como la BIPA de Illinois para limitar el uso privado. Juntos, podemos acabar con esta amenaza.