Tecnología
Minority Report en las policías europeas: llegan los sistemas de predicción de delitos

La comisaria europea de Derechos Humanos alerta del uso de algoritmos en sistemas policiales y judiciales de la Unión que atentan contra los derechos ciudadanos.

12 may 2019 12:02

Algoritmos para predecir en qué zonas es más probable que tengan lugar robos u otro tipo de crímenes, algoritmos para ayudar a decidir si imponer prisión preventiva o no a una persona pendiente de juicio. Los algoritmos han llegado y también lo han hecho a los sistemas policiales y judiciales europeos. Y de ello alerta la comisaria de Derechos Humanos en el Consejo de Europa, Dunja Mijatović. “Aunque aún se encuentran en sus etapas experimentales, el uso de algoritmos de aprendizaje automático en los sistemas de justicia penal es cada vez más común”, afirma Mijatović en un texto publicado en la web del Consejo de Europa en el que señalaba los resultados “potencialmente discriminatorios” de este tipo de programas de predicción de delitos.

Como ejemplo, cita PredPol, un programa diseñado por el departamento de policía de Los Ángeles (Estados Unidos) en colaboración con la Universidad de California en Los Ángeles (UCLA) que extrapola los datos de estadísticas criminales CompStat —sí, esa que usaban los policías de la serie The Wire—. ¿Cómo funciona? En la web de PredPol se explica que calcula las predicciones en base a tres tipos de datos: tipo de crimen, localización y fecha y hora. No usa información personal, ni demográfica, étnica o socioeconómica —se afirma en la web—, y los resultados se representan en un Google Map en el que se localizan las áreas con más alto riesgo de delitos cada día y en cada turno. En 2013, la policía de Kent (Reino Unido) compró los derechos de uso del programa por 100.000 libras anuales. Lo probó durante cinco años y en noviembre de 2018 desechó su uso, anunciando que seguirían trabajando en esa dirección, con un nuevo proyecto o construyendo su propio sistema. “Predpol tenía un buen historial de predecir dónde es probable que se cometan los crímenes”, afirmaba entonces John Phillips, superintendente de la policía de Kent, al Financial Times. “Lo que es más difícil es demostrar que hemos podido reducir el crimen con esa información”.

Este programa de algoritmos, así como otros parecidos usados en otras zonas de Reino Unido —como Manchester, Yorkshire o West Midlands— fueron criticados por organizaciones como Big Brother Watch en un informe en el que citaban estudios realizados sobre este tipo de sistemas que concluían que estos refuerzan patrones ya existentes de discriminación y dan lugar a una retroalimentación, conllevando que la policía sea enviada a vecindarios en los que ya hay una presencia excesiva de policías, independientemente de la tasa real de criminalidad.

Otro de los sistemas de algoritmos a los que hace referencia la comisaria de Derechos Humanos europea es la Herramienta de Evaluación de Riesgo de Daños (HART por sus siglas en inglés), usada por la policía de Durham, también en Reino Unido, para decidir si mantener o no a un sospechoso de un delito en custodia o si derivarlo a un programa de rehabilitación. Para ello, Hart utiliza hasta 34 categorías diferentes de datos que van de la edad y el sexo al historial delictivo. Y, al menos hasta abril, también usaba el código postal del sospechoso, lo que desde Big Brother Watch señalan que deriva en la criminalización de la pobreza. Un informe de 2018 elaborado por el Royal United Services Institute for Defence and Security Studies —que no es precisamente un lobby conservador en cuanto a tecnología aplicada a defensa y seguridad— también alertaba de que sistemas como Hart “reproducirán inevitablemente los sesgos inherentes a los datos que se les proporcionan”, lo que perjudicará a las minorías étnicas y religiosas.

Pero más allá de la experiencia británica, este tipo de sistemas de algoritmos también han llegado a otros países de la Unión Europea, como Italia, donde el sistema XLAW se usa en Nápoles y Venecia para prevenir robos, o en Alemania, donde el sistema Precobs —que suena aún más a los precons de Minority Report— se usa ya, de manera corriente o en fase piloto, en los cantones de Aargau, Basel, Baden-Württemberg, Babaria, en Sajonia y en Zug. Precobs también se usa desde 2013 en Zurich (Suiza) para prevención de robos en viviendas.

En España, este tipo de sistemas predictivos también han comenzado a hacerse hueco. A finales de 2015 Rivas (Madrid) fue el primer municipio en comenzar a experimentar con el sistema Pred-Crime. Su policía local lo usó durante nueve meses tras los cuales lo descartaron. “Necesita seguir desarrollándose para ser realmente eficaz”, señalan a El Salto desde el prensa del Ayuntamiento. Diseñada por EuroCop Security Systems, empresa constituida en 2004 y que a día de hoy cuenta con doce empleados y, en 2017, facturó 3,7 millones de euros —casi el doble que en los dos ejercicios anteriores—. En España, su administrador único y director general, financiero, comercial, de márketing y de informática es Ramón García Esteve.

También en 2015, desde la Policía Nacional se comenzó a desarrollar un sistema parecido de la mano del policía científico Miguel Camacho Collados, que en 2014 había recibido una beca Fullbright para estudiar este tipo de sistemas, en colaboración con la Universidad de Granada, la UCLA y la Policía de Los Ángeles, siguiendo la senda de PredPol. Aunque no hay más información sobre el posterior desarrollo de este sistema, desde finales de 2018 sí entró en fase piloto en la Policía Nacional otro sistema basado en algoritmos, en este caso para detectar denuncias falsas, Veripol, también desarrollado por Camacho e instalado ya en todas las comisarías.

Informar de un error
Es necesario tener cuenta y acceder a ella para poder hacer envíos. Regístrate. Entra en tu cuenta.

Relacionadas

El Salto Radio
Podcast ¿Y si en el día de mañana no pudiéramos recopilar más datos?
Preferencias del Sistema, de Ugo Bienvenu, es una brutal distopía que indaga en los límites entre la memoria, la cultura y la inteligencia artificial
Inteligencia artificial
Registro central de algoritmos La coalición IA Ciudadana apela al Gobierno para crear un registro central y transparente de algoritmos
Expertos concluyen sobre las claves de cómo debiera ser esa base de datos para que la inteligencia artificial proteja a las personas y evite discriminaciones. El registro debe ser obligatorio, participativo, transparente y accesible.
China
PAN 06X05 Jugar con cajas versus pantallas, Deep Seek y Xiaohongshu
Analizamos el impacto de las pantallas en la infancia y la adolescencia y cómo lo enfrentan las familias. Además, un análisis con características chinas sobre los casos de Deep Seek y Xiaohongshu
#34184
13/5/2019 15:42

En españita los órganos fascistas PN y GC lo hacen desde hace ochenta años.

2
0
#34149
12/5/2019 16:11

La IA tiene el sesgo ideológico de quien la elabora. Es tendenciosa y discriminatoria como toda la estadística en que se basa.
Vamos hacia una idiotización colectiva.

4
0
#34139
12/5/2019 13:02

Cesare Lombroso estaría maravillado con este sistema

4
0
Almería
Medio ambiente La demolición del Algarrobico será “este mismo año”
El Gobierno ha publicado en el BOE el proceso de expropiación de la parcela. La ministra de Hacienda asegura que el derribo será “con o sin la colaboración de la Junta de Andalucía”.
León
Accidentes laborales Cuatro mil personas despiden en Villablino a los mineros muertos
Los sindicatos se concentran en Oviedo y exigen al Principado que se persone como acusación particular en el proceso penal. En 2023, un vecino alertó de las condiciones de inseguridad bajo las que operaba la mina.
Desempleo
Empleo El paro en mujeres marca un mínimo histórico desde 2008
El desempleo se ha reducido en 146.865 personas en los últimos 12 meses, de los que casi 79.000 son mujeres. La tasa de población activa femenina llega al 47%.
Asturias
Asturias Cinco muertos en la mina de Zarréu: demasiadas preguntas sin respuesta
El accidente más grave en la minería asturiana en casi tres décadas vuelve a poner en cuestión el sistema de permisos, controles y ayudas públicas para minas en proceso de reconversión.

Últimas

Universidad
Educación El Gobierno anuncia el endurecimiento de la normativa para la creación de universidades privadas
El Consejo de Ministros aprueba la tramitación urgente de una modificación en la legislación que regula la creación de centros privados de enseñanzas universitarias.
Formación El Salto
Formación Masculinidades neoliberales: afectos de odio, cultura bro y extrema derecha
Abiertas las inscripciones para esta nueva propuesta de formación online, que abordará la relación entre el fortalecimiento de las derechas, el avance de un neoliberalismo desbocado y la aparición de culturas de género cada vez más conservadoras.
Estados Unidos
Estados Unidos Estudiantes de Columbia luchan contra las amenazas de deportación
Los estudiantes de Columbia se unen mientras el ICE y el Departamento de Policía de Nueva York (NYPD) atacan el activismo palestino. “[Columbia] está dispuesta a concederle al gobierno de Trump todo lo que quiera”, declara un estudiante a Mondoweiss.
Ecuador
Hacia el 13 de abril Acuerdo histórico de la izquierda y el movimiento indígena para la segunda vuelta de las elecciones en Ecuador
La alianza entre la Revolución Ciudadana y Pachakutik, el brazo político del movimiento indígena, no se producía desde 2006 y podría ser determinante para la victoria de la candidata correísta, Luisa González, en las elecciones del 13 de abril.
València
València La turistificación masiva asfixia los distritos valencianos de Camins al Grau y Algirós
El vecindario se organiza en una plataforma para luchar por el derecho a la vivienda en dos de los distritos con mayor presión turística de la capital del Turia.

Recomendadas

Violencia obstétrica
Violencia obstétrica Helena Eyimi, matrona: “El parto es un misterio y queremos controlarlo todo, pero no podemos”
Consentimiento informado, trato personalizado y libertad de elección. Para Helena Eyimi (Madrid, 1975) , matrona asesora de Naciones Unidas, es fundamental que las mujeres se sitúen en el centro de las decisiones durante el parto y esos tres conceptos son clave.
Culturas
Culturas Lorca fue también un visionario que intuyó los vínculos entre la música negra y el flamenco
La 24ª edición del Festival de Flamenco de Nueva York abrió un espacio de debate para analizar el impacto que tuvo el movimiento cultural del Renacimiento de Harlem en la obra del poeta granadino.
Militarismo
Alejandro Pozo “El oportunismo de la industria militar española aprovechando lo que pasa en Gaza es grave”
Este investigador sobre paz, conflictos armados, desarme y acción humanitaria denuncia que el rearme ya está teniendo lugar y que el Ejecutivo escamotea información sobre las relaciones comerciales de la industria con Israel.