La fuerza policial ha adoptado rápidamente la inteligencia artificial (IA) para diversas tareas, desde redactar informes policiales hasta el reconocimiento facial. Sin embargo, los resultados han sido desalentadores. Un caso particularmente llamativo ocurrió en el departamento de policía de Heber City, Utah, donde un software de informes policiales erróneo determinó que un oficial se había transformado en una rana.
De acuerdo con informes de Fox 13, el fallo del software parece haber captado ruidos de fondo ajenos mientras generaba su conclusión fantástica. El sargento Rick Keel comentó que el software de la cámara corporal y el de redacción de informes de IA tomaron referencias de una película que se estaba reproduciendo en el fondo, que resultó ser «La Princesa y la Rana», una comedia musical de Disney de 2009. Fue entonces cuando se dieron cuenta de la importancia de corregir los informes generados por la IA.
El departamento había comenzado a probar un software de IA llamado Draft One, diseñado para generar automáticamente informes policiales a partir de grabaciones de cámaras corporales, con el objetivo de reducir el papeleo. No obstante, errores significativos han surgido a lo largo del proceso. Incluso una simulación simple de una parada de tráfico, destinada a demostrar la herramienta, terminó siendo un desastre, lo que llevó a que el informe requiriera muchas correcciones.
A pesar de los inconvenientes, Keel afirmó que la herramienta le está ahorrando “de seis a ocho horas semanales”. El mencionado software fue anunciado por la empresa Axon, conocida por sus armas Taser. Utiliza modelos de lenguaje de OpenAI para generar informes completos a partir de la grabación de audio de las cámaras.
Expertos han advertido sobre la posibilidad de que errores “hallucinales” se cuelen en documentos tan importantes. El profesor de derecho Andrew Ferguson expresó su preocupación por cómo la automatización podría llevar a los oficiales a ser menos cuidadosos en su redacción.
Algunos también advierten que este software podría agravar los prejuicios raciales y de género preexistentes, considerando el papel histórico de las fuerzas del orden en perpetuarlos incluso antes de la llegada de la IA. Herramientas generativas de IA han demostrado ser problemáticas en cuanto a sesgos contra mujeres y personas no blancas.
El hecho de que la tecnología esté siendo utilizada por la misma empresa que proporciona Tasers a la policía es motivo de alarma, según Aurelius Francisco, cofundador de la Foundation for Liberating Minds en Oklahoma City. Críticos también han señalado que la herramienta podría usarse para eludir responsabilidad y hacer que los oficiales sean menos responsables en caso de que se produzcan errores. Una investigación reciente de la Electronic Frontier Foundation sugiere que Draft One parece estar “diseñada deliberadamente para evitar auditorías que pudieran ofrecer responsabilidad al público”.
Según los documentos obtenidos por el grupo, “a menudo es imposible determinar qué partes de un informe policial fueron generadas por IA y cuáles fueron escritas por un oficial”. La fundación recordó que aunque Axon y sus clientes afirman que esta tecnología revolucionará la policía, aún queda por ver cómo cambiará el sistema de justicia criminal y quién se beneficiará más de esta tecnología.
El departamento de policía de Heber City aún no ha decidido si seguirá usando Draft One. También está probando un software de IA competidor llamado Code Four, lanzado a principios de este año. Dada la incapacidad de Draft One para distinguir entre la realidad y un mundo de fantasía creado por Disney, es de esperar que el departamento reflexione cuidadosamente sobre su decisión.
Más sobre la IA en la policía: La IA está distorsionando las transmisiones de radio policial, publicándolas en línea como información ridícula.
Con información de https://futurism.com/artificial-intelligence/ai-police-report-frog
