Valla de Melilla vista áerea
En la frontera de Melilla (en la foto) y Ceuta se prevé la recogida de datos biométricos. APDHA

Análisis
AI Act: un reglamento nuevo para afianzar el orden racial y colonial de siempre

La nueva normativa de Inteligencia Artificial establece una “regulación paralela” en función de quienes son las personas afectadas, algo observable en los usos que se prevén en contextos fronterizos y policiales.

Después de casi tres años desde que echara a andar la propuesta y, al menos dos de negociaciones, el pasado mes de marzo el Parlamento Europeo aprobó el reglamento de la Ley de Inteligencia Artificial (AI Act por sus siglas en inglés). Tras el visto bueno dado el 21 de mayo por los miembros del Consejo de Europa, al texto le queda como último paso su publicación en el Diario Oficial de la UE, lo que puede suceder en cualquier momento y tras lo cual entrará en vigor. Aunque se da un plazo de entre dos y cinco años para su aplicación plena por parte de los diferentes Estados miembro.

Este marco, presentado como el primero de su ámbito en el mundo, se ha vendido desde el inicio como la panacea en lo que respecta a la regulación del desarrollo y uso de tecnologías de IA. De hecho, incluye aspectos positivos como la prohibición de determinados sistemas automatizados en el ámbito de las prestaciones sociales, de la policía predictiva basada en perfilación y de los comportamientos delictivos anteriores (datos históricos), así como los sistemas de identificación biométrica en tiempo real. Además, prevé la creación de un registro público de sistemas de IA en uso en la UE.

No obstante, plantea un problema estructural al establecer una “regulación paralela” en función de quienes son las personas afectadas, algo observable en los usos que se prevén en contextos fronterizos y policiales, así como en aquellos escenarios que puedan ser justificados desde conceptos vagos como lo es la “seguridad nacional”. Bajo esta premisa, las prohibiciones establecidas en la ley no se extienden para los usos policiales, algo preocupante si tomamos en cuenta, por ejemplo, el avance del Ministerio del Interior en la implementación de sistemas de reconocimiento facial “para identificar sospechosos”, criticados por inexactos y racistas. Estas prohibiciones tampoco se extienden al ámbito del control migratorio, lo que provocará un trato desigual hacia la población dependiendo de si es europea o migrante. 

Pese a que los sistemas de identificación biométrica quedan prohibidos por implicar un riesgo alto para la población al vulnerar derechos fundamentales, sí se podrán usar en personas migrantes y solicitantes de asilo

Es lo que ocurre con los sistemas de identificación biométrica. Pese a que en teoría quedan prohibidos por implicar un riesgo alto para la población al vulnerar derechos fundamentales, sí se podrán usar en personas migrantes y solicitantes de asilo. De hecho, la mal llamada “frontera inteligente” prevista en Ceuta y Melilla, cuya infraestructura está instalada, contempla la recogida de imágenes del rostro de personas que crucen estos pasos fronterizos mediante tecnología de reconocimiento facial, a quienes además se les podría aplicar tecnología de reconocimiento de emociones con un detector de mentiras en fase de prueba llamado “policía virtual”, y elaborado en el marco del proyecto europeo iBorderCtrl para identificar a viajeros “de alto riesgo”.

Por otro lado, pese a que el reglamento establece una escala de riesgos, no incluyó en la lista de “riesgo alto”  aquellos ya en uso en contextos migratorios, quedando exentos de los requisitos de supervisión y rendición de cuentas establecidos para los catalogados con este nivel de riesgo. De este modo, las bases de datos a gran escala empleadas en la UE en el control migratorio (prohibidas sobre población europea), como es el caso de Eurodac o Schengen, que se basan especialmente en la recogida de datos biométricos, quedarán exentas de regulación hasta el año 2030.

Inteligencia artificial
Inteligencia artificial La Unión Europea abraza la ley del algoritmo más fuerte
La inteligencia artificial ya tiene quién la regule. El Parlamento Europeo ha aprobado una ley que no mitiga las preocupaciones por los efectos que puede tener el modelaje algoritmo sobre los derechos fundamentales.

No solo hablamos de un marco que establece diferentes categorías de personas, sino que las tecnologías de reconocimiento facial han sido ampliamente criticadas por conllevar fallos sistemáticos y peligrosos. Investigaciones del MIT y del Instituto Nacional de Estándares y Tecnologías de Estados Unidos han probado empíricamente cómo estas herramientas producen falsos positivos y falsos negativos en rostros de personas no caucásicas. En cuanto a los sistemas detección de emociones, un experimento reciente de la revista The Intercept demostró cómo una de sus periodistas fue calificada de “mentirosa” por el policía virtual del proyecto IBorderCtrl, pese a responder con honestidad todas preguntas que se le formularon.

Otro problema de base que plantea la AI Act es que deja fuera una multitud de sistemas de IA debido a la definición planteada, que describe un sistema de IA como aquel que funciona con diversos niveles de autonomía, sin delimitar la misma, y que puede tener capacidad de adaptación tras su despliegue. Una definición discutida al margen de la sociedad civil, que deja fuera sistemas como los empleados en los servicios públicos. 

Es el caso de SyRI, un algoritmo empleado por Países Bajos para elaborar perfiles de ciudadanos y ciudadanas que supuestamente podían defraudar al Estado, enfocándose fundamentalmente en población pobre y racializada. SyRI fue declarado ilegal por el Tribunal de Distrito de la Haya al no cumplir las exigencias de proporcionalidad y transparencia y por vulnerar las previsiones sobre respeto a la vida privada que reconoce el artículo 8 del CEDH. En el caso de España, esta regulación deja fuera sistemas empleados por la Administración como el usado por la Seguridad Social para rastrear bajas laborales y “cazar fraudes”, así como el sistema BOSCO, que decide quién recibe el bono social, y sobre el que CIVIO lleva desde 2018 pidiendo el código fuente tras detectar que dejaba fuera a usuarios y usuarias con derecho al mismo.

Tecnología de vigilancia fronteriza

Otras tecnologías que no se incluyeron en los listados de usos peligrosos de IA son aquellas desarrolladas para impedir y restringir la movilidad humana del sur al norte global. En 2021 Frontex firmó contratos millonarios para incrementar su vigilancia marítima a través del uso de drones, cuyo objetivo es frenar los flujos migratorios actuando como una alarma temprana para los países receptores. El uso de drones no tripulados exime de la obligación de proporcionar ayuda a embarcaciones que se encuentran en situación de peligro en el mar y también contraviene el derecho internacional de solicitud de asilo al impedir que las embarcaciones lleguen a tierra. 

El reglamento de la AI Act no impide que tecnologías desarrolladas por empresas con sede en la UE, prohibidas en el territorio europeo por su peligrosidad para la población, sean exportadas a otros países

En la actualidad, hay distintas tecnologías cuestionables en uso o en fase de prueba en contextos fronterizos, como las cámaras de visión nocturna o el denominado proyecto Sniffer, desarrollado para reconocer el olor corporal de personas que intentan cruzar fronteras escondidas en vehículos. Todos estos dispositivos pensados para usarse en frontera tienen un claro beneficiario: la industria del control migratorio, que se embolsa contratos millonarios gracias al desarrollo de tecnologías pensadas para impedir que las personas del sur global se desplacen libremente hacia el norte, generando en consecuencia mayores riesgos y mortalidad en rutas migratorias. Una industria que se alimenta de la política de una UE que sitúa la migración como problema de seguridad.

A todo lo anterior se añade el hecho de que el reglamento de la AI Act no impide que tecnologías desarrolladas por empresas con sede en la UE, prohibidas en el territorio europeo por su peligrosidad para la población, sean exportadas a otros países. Se podrá vender fuera lo que se prohíbe dentro. La AI Act, que dice basarse en los principios de proporcionalidad y responsabilidad, no solo deja fuera y sin protección a aquellos grupos demográficos considerados desechables, sino que se vale de una narrativa de “lucha contra el terrorismo” y “garantía de la seguridad nacional” para señalar a la población migrante y racializada mientras impide su libre movilidad. De esta forma, refuerza la criminalización racial y la lógica colonial que rige las políticas de la UE.

Un Pacto racial contra el derecho a migrar

El AI Act tardará años en entrar en vigor. Mientras tanto, se seguirán probando, desarrollando e implantando sistemas de IA nocivos en muchos ámbitos de la vida. Además, este marco es sólo uno de los que la UE implementa en esta materia, como lo es el anteriormente nombrado Eurodac, reformulado recientemente junto al Código de Fronteras de Schengen para ampliar los controles policiales sobre personas migrantes, y para facilitar aún más la perfilación racial y las devoluciones en frontera. 

No obstante, la vigilancia, la discriminación y la criminalización de las personas no blancas y migrantes no se limitan a la AI Act, Eurodac o Schengen. Así lo evidencia el nuevo Pacto sobre Migración y Asilo, aprobado el pasado mes de abril por el Parlamento Europeo, que supondrá un conjunto de reformas que amplían la criminalización y la vigilancia digital de las personas migrantes y racializadas. Un pacto que, como indica la coalición internacional Proteger no vigilar (#ProtectNotSurveil), “viene a normalizar el uso arbitrario de la detención de migrantes, incluidos niños y familias, aumentar el perfilamiento racial, utilizar procedimientos de 'crisis' para permitir y facilitar devoluciones en caliente, así como la devolución de migrantes a los llamados 'países terceros seguros', donde corren riesgo de sufrir violencia, tortura y encarcelamiento arbitrario”.

Migración
Fronteras Europa apunta a profundizar el control biométrico de las personas migrantes con la reforma del EURODAC
110 organizaciones de la sociedad civil denuncian que la reforma de EURODAC (Base de datos dactiloscópicos europea de asilo), que podría concretarse este 7 de diciembre, supone un salto adelante en la criminalización de las personas migrantes.

El Pacto crea un extenso sistema de vigilancia masiva al contemplar la recopilación de datos en masa y compartidos entre las diferentes fuerzas policiales de la UE, empleando tecnologías de identificación biométrica para rastrear todos los movimientos de las personas migrantes e incrementar la vigilancia sobre ellas, llegando a reducir la edad mínima para la recopilación de datos de catorce a seis años. También plantea el uso de tecnologías intrusivas en las diferentes etapas del proceso de solicitudes de asilo, incautando los dispositivos electrónicos de las personas solicitantes o permitiendo el uso de entrevistas remotas o videoconferencias.

Hablamos de un marco legal de “gestión” de la migración que plantea la creación de centros de detención (además de los ya existentes Centro de Internamiento de Extranjeros) de personas migrantes, incluyendo niños y familias enteras, con características similares a las prisiones (pero con menos derechos) y que se basa en la restricción de circulación, empleando sensores de movimiento, sistemas de cámaras y un control continuo mediante huellas dactilares, uso de tecnologías predictivas y detectores de mentiras (prohibidos ambos sobre población europea), así como el uso de tecnologías de vigilancia también en las fronteras internas de la UE. 

El marco regulatorio establecido por la AI Act viene a facilitar la implementación de todas estas tecnologías de vigilancia y criminalización racial. Marcos y mecanismos pensados para el mantenimiento de la Europa Fortaleza. En definitiva, el mantenimiento de un orden racial y colonial construido sobre la explotación de personas migrantes, en beneficio de la industria del control y el modo de vida europeo.

Informar de un error
Es necesario tener cuenta y acceder a ella para poder hacer envíos. Regístrate. Entra en tu cuenta.

Relacionadas

Opinión
Opinión La berlusconización de Mazón
Es evidente que el presidente de la Generalitat no ha asumido la agenda de la ultraderecha por convicción, sino por supervivencia política y judicial, en una estrategia no muy diferente a la que empleó Silvio Berlusconi.
Opinión
Opinión Vox y los negros
Que la extrema derecha no es única depositaria del racismo en nuestras sociedades es una obviedad que el movimiento antirracista no se cansa de señalar. En su obra ‘Infiltrado en Vox’, el periodista Moha Gerehou aborda esta evidencia con desparpajo.
Editorial
Neofascismo La peste en Euskal Herria
Cada vez que el régimen de acumulación capitalista se enfrenta a una crisis estructural es el momento de los chivos expiatorios y del disciplinamiento duro del trabajo.
Derecho a la vivienda
Manifestación estatal Mapa | Más de 40 ciudades se movilizan este 5 de abril por el derecho a la vivienda
Decenas de miles de personas en más de 40 localidades de todo el Estado español saldrán a la calle el próximo 5 de abril para reclamar medidas para hacer frente a la crisis de vivienda.
Militarismo
Alejandro Pozo “El oportunismo de la industria militar española aprovechando lo que pasa en Gaza es grave”
Este investigador sobre paz, conflictos armados, desarme y acción humanitaria denuncia que el rearme ya está teniendo lugar y que el Ejecutivo escamotea información sobre las relaciones comerciales de la industria con Israel.
Israel
Guerra en Gaza Israel ordena evacuar Rafah ante la previsión de un ataque terrestre
En la mañana del 31 de marzo, las fuerzas militares de Israel han ordenado a la población evacuar gran parte de Rafah, en el sur de la Franja de Gaza.
Francia
Francia Marine Le Pen es condenada por malversación y no podrá concurrir a las elecciones de 2027
Un caso de corrupción con los asistentes del Parlamento europeo golpea a la ultraderecha francesa. Le Pen y su partido, Agrupación Nacional, son condenados por el Tribunal Penal de París.
Precariedad laboral
Precariedad laboral Europa presiona de nuevo a España para que modifique la indemnización por despido improcedente
El Consejo de Europa concluye que el sistema español viola la Carta Social Europea al considerar que la compensación española no repara el daño a los trabajadores ni disuade de hacerlo.
Myanmar
Terremoto Myanmar: un país bajo los escombros
Con el cronómetro en contra, los equipos de rescate de Myanmar continúan buscando bajo los escombros a los supervivientes del que ya se considera el peor terremoto sufrido en las últimas siete décadas en el país.

Últimas

Huelga
Huelga Nueva jornada de huelga en Renfe el 1 de abril
Los tres sindicatos que no firmaron el acuerdo recuerdan que hay convocatoria de paro en todo el territorio. Reclaman mejoras en el servicio público.
Comunidad de Madrid
Comunidad de Madrid Los trabajadores de Metro celebran el nuevo convenio pese al temor de perder empleos por las automatizaciones
“Es el mejor acuerdo que he visto en 43 años que llevo trabajando aquí”, explica el representante de Solidaridad Obrera en la mesa negociadora, Braulio del Pozo, que destaca que se recupera en parte el poder adquisitivo de la plantilla.
Opinión
Vivienda Abrazar la reacción para salvar la propiedad privada
La rearticulación de las posiciones políticas de las clases propietarias con los discursos de extrema derecha alumbran la hipótesis del rentismo nativista.
Sexualidad
Consultorio de sexualidad Los mil y un orgasmos femeninos
El clítoris, la vagina y el cérvix están inervados por distintos nervios que, al ser activados en distintas combinaciones, producen sensaciones diversas.
Más noticias
Que no te lo cuenten
Que No Te Lo Cuenten De amenazas ambientales y memoria histórica
VV.AA.
La ciudadanía gallega y extremeña alza la voz contra proyectos que amenazan sus territorios y medioambiente.
Opinión
Opinión Sonará tu nombre cuando nazca el mío
No fue hasta que empecé a habitar mi propio cuerpo que entendí que podía contar mi historia. Una carta de amor travesti en el Día de la Visibilidad Trans.

Recomendadas

Galicia
Galicia Bimba y Lola se aleja de las fibras textiles de Altri con la salida del presidente de Greenalia de su consejo
El presidente de Greenalia y antiguo consejero delegado de Inditex, José María Castellano, abandona su puesto en la empresa cerrando una puerta más a la salida de la celulosa supuestamente creada para fibras textiles.
Redes sociales
El asesino de los CEO El fenómeno fan Luigi Mangione, ¿por qué tanta gente apoya a un asesino?
El caso del chico de clase alta que disparó sobre un CEO de una aseguradora médica ha desatado una ola cultural y de apoyo como no se había visto antes.
Literatura
Silvia Nanclares “Moratalaz nace como barrio franquista, solo que no contaban con la presión vecinal”
Con ‘Nunca voló tan alto tu televisor’ la escritora madrileña regresa a su barrio y examina lo que quedaba debajo de la cáscara de progreso que supuso la construcción del edificio de Torrespaña, aun hoy uno de los más reconocibles de la ciudad.
Cómic
Cómic Un gran poder conlleva una gran responsabilidad: ¿los superhéroes de cómic son de derechas o de izquierdas?
¿Encarna Superman a la socialdemocracia liberal, es Batman un militante anarcocapitalista y el Capitán América la bandera del nacionalismo? La respuesta no es tan sencilla si se repasa la historia del género.