La fiscalía del condado de King, que se ocupa de todos los procesos judiciales en la zona de Seattle, ha dado instrucciones claras a la policía: no utilicen IA para redactar informes policiales... por ahora. Es una buena noticia. Esperamos que los fiscales de todo el país actúen con la misma cautela mientras las empresas siguen vendiendo tecnología - inteligencia artificial generativa (genAI) para ayudar a redactar informes policiales, que podría perjudicar a las personas que entran en contacto con el sistema de justicia penal. 

El fiscal jefe adjunto Daniel J. Clark afirma en un memorándum sobre las herramientas basadas en inteligencia artificial para redactar informes policiales narrativos basados en el audio de las cámaras corporales que la tecnología, tal y como existe "no estamos preparados para aceptarla".

El memorándum continúa: "No tememos los avances tecnológicos, pero nos preocupan legítimamente algunos de los productos que hay ahora en el mercado... La IA sigue desarrollándose y esperamos que en un futuro próximo podamos confiar en estos informes. Por ahora, nuestra oficina ha tomado la decisión de no aceptar ningún relato policial que se haya elaborado con la ayuda de la IA". Nos gustaría añadir que, si bien la EFF abraza los avances en la tecnología, dudamos que en un futuro próximo genAI sea capaz de ayudar a la policía a redactar informes fiables.

Estamos de acuerdo con el Jefe Adjunto Clark en que: "Aunque un agente está obligado a editar la narración y afirmar bajo pena de perjurio que es exacta, algunos de los errores [de genAI] son tan pequeños que pasarán desapercibidos en la revisión." 

Se trata de un planteamiento razonado y prudente. Algunos policías quieren reducir el tiempo que dedican a redactar informes, y el nuevo producto de Axon; DraftOne pretende hacerlo trasladando el trabajo a las máquinas. Pero el público, y otros organismos locales, deberían mostrarse escépticos ante esta tecnología. Al fin y al cabo, estos documentos son a menudo esenciales para que los fiscales construyan su caso, para que los fiscales de distrito recomienden cargos y para que los defensores interroguen a los agentes que detienen.

Para leer más sobre IA generativa e informes policiales, haga clic aquí.