La Casa Blanca de Biden ha publicado un memorándum sobre el "Avance del liderazgo de Estados Unidos en Inteligencia Artificial" que incluye, entre otras cosas, una directiva para que el aparato de Seguridad Nacional se convierta en líder mundial en el uso de la IA. Bajo la dirección de la Casa Blanca, se espera que el estado de seguridad nacional asuma esta posición de liderazgo robando grandes mentes del mundo académico y del sector privado y, lo que es más inquietante, aprovechando modelos de IA privados que ya funcionan para objetivos de seguridad nacional.
Los sistemas privados de IA, como los que gestionan las empresas tecnológicas, son increíblemente opacos. La gente se siente incómoda -y con razón- con empresas que utilizan IA para decidir all todo tipo de cosas sobre sus vidas, desde la probabilidad de que cometan un delito hasta su idoneidad para un puesto de trabajo, pasando por cuestiones de inmigración, seguros y vivienda. Ahora mismo, mientras usted lee esto, empresas con ánimo de lucro están alquilando sus servicios automatizados de toma de decisiones a todo tipo de empresas y empleadores, y la mayoría de los afectados nunca sabrán que un ordenador tomó una decisión sobre ellos y nunca podrán apelar esa decisión o entender cómo se tomó.
Pero la situación puede empeorar: combinar la IA privada con el secreto de la seguridad nacional amenaza con hacer que un sistema ya de por sí hermético sea aún más irresponsable y opaco. La constelación de organizaciones y agencias que conforman el aparato de seguridad nacional es notoriamente secreta. La EFF ha tenido que luchar en los tribunales varias veces en un intento de hacer públicos incluso los marcos más básicos de la vigilancia global de arrastre y las normas que la rigen. La combinación de ambos creará un monstruo de Frankenstein de secretismo, irresponsabilidad y poder de decisión.
Mientras el Poder Ejecutivo presiona a las agencias para que aprovechen la experiencia privada en IA, nuestra preocupación es que cada vez más información sobre cómo funcionan esos modelos de IA quedará oculta bajo el velo casi impenetrable del secreto gubernamental. Dado que la IA funciona recopilando y procesando una enorme cantidad de datos, comprender qué información retiene y cómo llega a sus conclusiones se convertirá en algo increíblemente fundamental para la forma en que el estado de seguridad nacional piensa sobre los problemas. Esto significa que no sólo es probable que el Estado argumente que los datos de entrenamiento de la IA deben ser clasificados, sino que también puede argumentar que las empresas deben, bajo pena de ley, mantener en secreto los algoritmos que los rigen.
Como dice el memorando, "la IA ha surgido como una tecnología que define una era y ha demostrado una relevancia significativa y creciente para la seguridad nacional. Estados Unidos debe liderar el mundo en la aplicación responsable de la IA a las funciones de seguridad nacional apropiadas". A medida que el estado de seguridad nacional de EE.UU. intenta aprovechar la potente IA comercial para darle una ventaja, hay una serie de preguntas que siguen sin respuesta sobre hasta qué punto esa relación cada vez más estrecha afectará a la tan necesaria transparencia y responsabilidad de la IA privada y los sistemas de toma de decisiones automatizados con ánimo de lucro.
