Inteligencia Artificial en el Control Policial

Inteligencia Artificial y Control Policial

• La implementación de la inteligencia artificial en el ámbito del control policial ha generado una perspectiva dual: por un lado, una creciente fascinación y entusiasmo debido a las posibilidades innovadoras, y por otro lado, una serie de preocupaciones y cuestionamientos profundos sobre su implementación y sus posibles implicaciones en términos de derechos y justicia social.

Expectativas sobre la Inteligencia Artificial

• Existe un bombardeo de información constante sobre la inteligencia artificial y las promesas de revolución que conlleva en todos los ámbitos.
• La inteligencia artificial promete, principalmente, aumentar la eficiencia, reducir el coste y optimizar la asignación de recursos en el campo del control policial.
• La inteligencia artificial también promete una alta precisión en las predicciones, al hacer uso de técnicas de aprendizaje automático.

Tipos de Herramientas Basadas en Inteligencia Artificial en el Control Policial

• Sistemas de vigilancia con reconocimiento (de rasgos biométricos, de matrículas, etc.) o procesamiento de texto o lenguaje natural.
• Sistemas de reconocimiento facial, que implican procesamiento biométrico a tiempo real de imágenes capturadas por cámaras de vídeo fijas o móviles.
• Sistemas de reconocimiento automático de matrículas, que procesan en tiempo real las matrículas de los coches y las cotejan con bases de datos policiales o administrativas.
• Sistemas predictivos, también conocidos como "policía predictiva", que predicen el riesgo de comisión de delitos en determinados momentos y lugares.

Problemas Conocidos de las Herramientas Basadas en la Inteligencia Artificial

• La investigación ya ha destacado algunos de los problemas de las herramientas basadas en inteligencia artificial que están utilizando los cuerpos de policía en la actualidad.
• Procesamiento de datos sesgados, que reproducen las desigualdades y discriminaciones existentes en la sociedad.
• Problemas de transparencia y rendición de cuentas en la toma de decisiones y la implementación de estas herramientas.
• Asunciones teóricas detrás de estas herramientas, que pueden ser problemáticas y no siempre se ajustan a la realidad.

Ejemplos de Implementación en España

• VioGén, un sistema que ha evolucionado desde su estadio actuarial al predictivo, y que sirve para predecir el riesgo en casos de violencia de género.
• Pred-Crime, un software para predecir el momento y lugar de ocurrencia de determinados delitos utilizado por la Policía Local de Rivas-Vaciamadrid.### Introducción
• La tecnología de policía predictiva se ha desarrollado para ayudar a la policía a predecir y prevenir delitos.
• Existen dudas acerca de la eficacia y la implantación de estas tecnologías.

Problemas con la tecnología de policía predictiva

• La tecnología de reconocimiento facial reconoce mejor a hombres blancos que a otros grupos.
• La sobrerrepresentación de hombres blancos en losconjuntos de datos de entrenamiento puede llevar a sesgos en los resultados.
• La tecnología de policía predictiva puede incurrir en la falacia de la tasa base, lo que significa que el riesgo de falsos positivos aumenta con el tamaño de los conjuntos de datos.
• La discrecionalidad policial sigue siendo un problema, ya que los agentes pueden elegir dónde instalar cámaras y quién será sometido a vigilancia.

Evaluaciones de la eficacia de la tecnología de policía predictiva

• Algunos estudios muestran resultados positivos, como el uso del algoritmo ETAS (Epidemic Type Aftershock Sequence) para predecir delitos.
• Otros estudios, como el de Hunt, Saunders y Hollywood, no encuentran una reducción significativa de delitos luego de la implementación de un sistema predictivo.

Críticas a la tecnología de policía predictiva

• Algunos autores argumentan que la tecnología de policía predictiva "predice el control policial futuro, no los delitos futuros".
• La investigación periodística de Sankin et al. encontró un patrón consistente en las predicciones de PredPol y recomendaciones: el software recomendaba concentrar patrullas en barrios de mayoría negra o latina y de bajos ingresos.

Consideraciones importantes

• La integridad de los datos utilizados para entrenar el algoritmo es crucial, ya que los datos contaminados pueden llevar a sesgos en los resultados.
• La discrecionalidad policial y los sesgos en la toma de decisiones pueden afectar la eficacia de la tecnología de policía predictiva.
• Es importante considerar la limitación de los indicadores de riesgo relativo, como el AUC, y analizar los valores predictivos positivos y negativos.### Evaluación de las Herramientas Predictivas en la Vigilancia Policial

Limitaciones y Problemas

• La sensibilidad indica el porcentaje de identificación de los verdaderos positivos, y en este caso es relativamente alto (85%).
• La especificidad se refiere al porcentaje de clasificación de los verdaderos negativos, y en este caso es relativamente bajo (53.7%).
• Valores negativos en todos los casos, lo que sugiere que la herramienta no es útil en este supuesto.
• La transición del sistema actuarial a un sistema predictivo alimentado por aprendizaje automático puede crear nuevas incógnitas.

Asunciones Problemáticas

• La primera asunción es que los datos disponibles reflejan la realidad de la delincuencia, lo que es difícilmente armonizable con años de investigación criminológica.
• La segunda asunción es que las dinámicas delincuenciales futuras serán similares a las dinámicas del pasado, lo que es una asunción discutible.
• La tercera asunción es que la intervención policial sugerida por el sistema predictivo es la que se llevará a cabo, lo que no tiene en cuenta las discrepancias entre el "conocimiento" generado por los sistemas predictivos y la experiencia profesional de los agentes de policía.

Transparencia y Rendición de Cuentas

• Los algoritmos que utilizan las herramientas predictivas presentan dos problemas de transparencia: el secreto comercial y la naturaleza de caja negra.
• Derivado de este problema de transparencia existe otro de rendición de cuentas, ya que es difícil exigir responsabilidad en un contexto en el que intervienen una gran variedad de actores.
• Es difícil justificar las actuaciones, ya que los criterios no están definidos previamente y la persona que implementa las recomendaciones del sistema no conoce el "razonamiento" detrás de las predicciones.

Intereses Económicos

• El desarrollo de herramientas que hacen uso de inteligencia artificial para la vigilancia y control de la delincuencia son adjudicadas a empresas privadas por parte de administraciones públicas.
• La Unión Europea financia, directa o indirectamente, empresas que desarrollan varias de estas tecnologías a través de los fondos del programa Horizonte 2020.
• El interés económico no está solo en el desarrollo de estas herramientas sino también en fases posteriores como la supervisión de su uso.

Cuestiones para un debate sobre las aplicaciones de la inteligencia artificial en el ámbito del control policial, desde la fascinación innovadora hasta las preocupaciones éticas. ¿Cómo abordar este tema?