La EFF insta a los legisladores del estado de California a que aprueben el proyecto de ley S.B. 524, redactado por el senador Jesse Arreguín. Este proyecto de ley es un primer paso importante para recuperar el control sobre la policía que utiliza la IA generativa para redactar sus informes policiales narrativos.
Este proyecto de ley establece varias medidas importantes: exige que los informes policiales redactados por IA incluyan avisos legales en cada página o en el cuerpo del texto que dejen claro que dicho informe ha sido redactado, en parte o en su totalidad, por un ordenador. También establece que cualquier informe redactado por IA debe conservar su primer borrador. De este modo, debería resultar más fácil para los abogados defensores, los jueces, los supervisores policiales o cualquier otra entidad auditora ver qué partes del informe final han sido redactadas por IA y cuáles por el agente. Además, el proyecto de ley exige a los agentes que firmen y verifiquen que han leído el informe y que los datos que contiene son correctos. Y prohíbe a los proveedores de IA vender o compartir la información que una agencia policial ha proporcionado a la IA.
Estas reformas de sentido común, que constituyen un primer paso, son importantes: los organismos de control están tratando de averiguar dónde y cómo se utiliza la IA en el contexto policial. De hecho, una popular herramienta de redacción de informes policiales basada en IA, Draft One de Axon, incumpliría este proyecto de ley, lo que les obligaría a rediseñar su herramienta para hacerla más transparente.
Este proyecto de ley es un primer paso importante para recuperar el control sobre la policía que utiliza IA generativa para redactar sus informes policiales narrativos.
Draft One toma el audio de la cámara que lleva un agente en el cuerpo y utiliza IA para convertir ese diálogo en un informe policial narrativo. Dado que los investigadores independientes no han podido probarlo, existen cuestiones importantes sobre cómo maneja el sistema aspectos como el sarcasmo, los comentarios fuera de contexto o las interacciones con miembros del público que hablan idiomas distintos del inglés. Otra preocupación importante es la incapacidad de Draft One para realizar un seguimiento de qué partes de un informe han sido redactadas por personas y qué partes han sido redactadas por IA. Por diseño, su producto no conserva las diferentes iteraciones del borrador, lo que facilita que un agente diga: «No mentí en mi informe policial, la IA escribió esa parte».
Todos los legisladores deberían aprobar regulaciones sobre los informes policiales redactados por IA. Esta tecnología podría estar presente en casi todas partes y muy pronto. Axon es uno de los principales proveedores de cámaras corporales en Estados Unidos, lo que significa que cuenta con una enorme base de clientes ya preparada. Mediante la agrupación de productos, los informes policiales redactados por IA podrían estar presentes en un gran porcentaje de los departamentos de policía.
Los informes policiales redactados por IA no han demostrado su precisión ni sus efectos generales en el sistema de justicia penal. Los proveedores aún tienen un largo camino por recorrer para demostrar que esta tecnología puede ser transparente y auditable. Aunque no resolvería todos los problemas que plantea la invasión de la IA en el sistema de justicia penal, la S.B. 524 es un buen primer paso para controlar una tecnología que no rinde cuentas.
Instamos a los legisladores de California a que aprueben la S.B. 524.
