EU #Protect Not Surveil

1) Prohibir las prácticas nocivas de la IA en el contexto de la migración

Algunos sistemas de IA suponen un riesgo inaceptable para nuestros derechos fundamentales, y nunca se solucionarán con medios técnicos o garantías procesales. Los legisladores deben prohibir:

• Sistemas de análisis predictivo utilizados para prevenir migraciones que exacerbarán la violencia en las fronteras y provocarán retrocesos;


• Evaluaciones de riesgo automatizadas y sistemas de elaboración de perfiles que afianzan el racismo y los prejuicios y erosionan la dignidad humana y la libertad frente a la discriminación;


• Los "detectores de mentiras" y todas las tecnologías pseudocientíficas que pretenden clasificar a las personas e inferir emociones a partir de sus datos biométricos;


• Identificación biométrica a distancia en espacios accesibles al público, incluidos la frontera y los centros de detención y sus alrededores, que permiten la vigilancia masiva.

2) Regular todos los sistemas de alto riesgo de IA en migración

Los legisladores también deben garantizar que la Ley de IA regule cualquier tipo de sistema de IA utilizado en la migración, especialmente la tecnología de vigilancia utilizada en el contexto del control de fronteras y para los controles de identidad. La Ley de IA de la UE sólo será un instrumento de protección si no deja a nadie atrás.

Todos los sistemas de IA utilizados en la migración deben estar sujetos a medidas de supervisión y rendición de cuentas, incluida la tecnología de vigilancia utilizada en el contexto del control fronterizo y para los controles de identidad.

3) Garantizar que la Ley de IA se aplique a las enormes bases de datos de migración de la UE

El artículo 83 debe modificarse para garantizar que la IA como parte de las bases de datos informáticas a gran escala de la UE entre en el ámbito de aplicación de la Ley de IA y que se apliquen las salvaguardias necesarias para los usos de la IA en el contexto de la migración de la UE.

4) Hacer de la Ley de AI de la UE un instrumento de protección

Nunca habrá justicia sin un sistema de rendición de cuentas y transparencia. La violencia, los empujones y las muertes causadas por los sistemas de IA seguirán sin conocerse si la Ley de IA no garantiza a las personas el derecho a impugnar las violaciones que han sufrido y si se impide la supervisión pública.

Los legisladores deben asegurarse de que la Ley de Inteligencia Artificial de la UE permita a las personas recurrir a la justicia, garantice la transparencia pública y evite los daños causados por sistemas de inteligencia artificial peligrosos, y garantice la supervisión cuando los sistemas de inteligencia artificial se utilicen en la migración y el control de fronteras. ¡Haz que la Ley de IA de la UE sea un instrumento de protección!