En su reciente informe, Civil Rights Implications of Face Recognition Technology (FRT), la Comisión de Derechos Civiles de EE.UU. identificó graves problemas con el uso de la tecnología de reconocimiento facial por parte del gobierno federal, y al hacerlo reconoció la experiencia de la EFF en este tema. La Comisión centró su investigación en el Departamento de Justicia (DOJ), el Departamento de Seguridad Nacional (DHS) y el Departamento de Vivienda y Desarrollo Urbano (HUD).
Según el informe, el DOJ utiliza principalmente el FRT en la Oficina Federal de Investigación y el Servicio de Alguaciles de EE.UU. para generar pistas en investigaciones penales. El DHS lo utiliza en investigaciones criminales transfronterizas y para identificar viajeros. Y el Departamento de Vivienda y Desarrollo Urbano (HUD) aplica el FRT con cámaras de vigilancia en algunas viviendas públicas financiadas con fondos federales. El informe explora cómo la formación federal sobre el uso de FRT en estos departamentos es inadecuada, identifica las amenazas que el FRT plantea a los derechos civiles y propone formas de mitigar esas amenazas.
EFF apoya la prohibición del uso gubernamental de FRT y estricta regulación del uso privado. En abril de este año, presentamos comentarios a la Comisión para expresar estos puntos de vista. El informe de la Comisión cita nuestros comentarios explicando cómo funciona el FRT, incluidos los pasos por los que el FRT utiliza una foto de sondeo (la foto del rostro que será identificado) para ejecutar una búsqueda algorítmica que compara el rostro de la foto de sondeo con los del conjunto de datos de comparación. Aunque el objetivo de la EFF es promover una comprensión más amplia de la tecnología que subyace a la FRT, nuestro principal propósito al presentar los comentarios era hacer sonar la alarma sobre los numerosos peligros que plantea esta tecnología.
Estas disparidades en la precisión se deben en parte al sesgo algorítmico.
El gobierno no debería utilizar el reconocimiento facial porque es demasiado impreciso para determinar los derechos y prestaciones de las personas, sus imprecisiones afectan a las personas de color y a los miembros de la comunidad LGBTQ+ en proporciones mucho mayores, amenaza la privacidad, enfría la expresión e introduce riesgos para la seguridad de la información. El informe subraya muchas de las preocupaciones que hemos manifestado sobre la privacidad, la precisión (especialmente en el contexto de las investigaciones penales) y el uso por parte de "operadores inexpertos y con formación inadecuada". La Comisión también incluyó datos que demuestran que el reconocimiento facial tiene muchas más probabilidades de dar un falso positivo (emparejar incorrectamente dos fotos de personas diferentes) que un falso negativo (no emparejar incorrectamente dos fotos de la misma persona). Según el informe, los falsos positivos son aún más frecuentes entre la población negra, las personas de ascendencia asiática oriental, las mujeres y los adultos mayores, lo que plantea problemas de igualdad de protección. Estas disparidades en la precisión se deben en parte al sesgo algorítmico. En este sentido, las fotografías no suelen captar con precisión los rostros de las personas de piel oscura, lo que significa que las entradas iniciales del algoritmo pueden ser poco fiables. Esto plantea graves problemas en muchos contextos, pero especialmente en las investigaciones penales, en las que lo que está en juego en caso de identificación errónea del FRT es la vida y la libertad de las personas.
La Comisión recomienda que el Congreso y los responsables de las agencias promulguen mejores normas de supervisión y transparencia. Aunque la EFF está de acuerdo con muchas de las críticas de la Comisión, la tecnología plantea graves amenazas a las libertades civiles, la privacidad y la seguridad que requieren una respuesta más agresiva. Seguiremos luchando para prohibir el uso del reconocimiento facial por parte de los gobiernos y para regular estrictamente su uso privado. Puedes unirte a nuestro proyecto About Face para impedir que la tecnología entre en tu comunidad y animar a tus representantes a prohibir el uso federal de FRT.
