Àlex Surroca, experto en IA: «La IA dará apoyo al policía, no lo sustituirá»

Unas 70 cámaras de videovigilancia de la Guardia Urbana de Lleida incorporarán muy pronto la inteligencia artificial (IA). El intendente Josep Mallada adelantó que las primeras pruebas se efectuarán antes de finales de año. Se trata de una herramienta que permitirá una respuesta más rápida tanto en caso de incidentes como en materia de investigación.

Àlex Surroca, CEO de Useit y experto en IA, explica que este sistema no viene a sustituir un agente, sino a darle apoyo. Según Surroca, “es imposible tener diez agentes revisando 24 horas las cámaras, no es viable”. El uso de esta herramienta ayudará a poner el foco y un policía, a decidir qué hacer.

“El trabajo de esta IA será el de identificar patrones previamente configurados, que avisará para que se verifiquen imágenes y será el policía a quien decida si hace falta intervenir”, comenta.

Surroca destaca que, dejando de lado la regulación europea que impide registrar datos personales o identificar personas en tiempo real, las cámaras licitadas por la Concejalía tienen bloqueadas esta opción. Otro punto de preocupación puede ser el riesgo de los denominados falsos positivos.

El experto deja claro que cualquier sistema automatizado puede tener fallos, pero que eso “no quiere decir que la tecnología no sea útil”.

El punto positivo que tiene la IA, señala, es que aprende constantemente y se puede calibrar con cada auditoría.

A pesar de eso, el efecto de los falsos positivos es mínimo, ya que “siempre tiene que pasar por ojos humanos”. El experto considera que un punto positivo para la transparencia sería que se fueran sacando indicadores públicos para saber si esta tecnología está reduciendo los delitos, y saber que se tiene que ajustar. Surroca, a pesar del optimismo mostrado por instituciones, opina que la tecnología puede tener fallos, acabar siendo de poca utilidad y no aportar soluciones, especialmente en situaciones como “aglomeraciones y delitos que se producen con poca visibilidad”.

"La videovigilancia en la vía pública es una herramienta legítima para proteger la convivencia, siempre que se haga con garantías. La IA obliga a reforzarlas, no a renunciar a ella”, comenta el abogado y doctor en Derecho Enric Rubio. Recuerda que “la ley orgánica 4/1997 permite a los cuerpos de seguridad instalar cámaras en lugares públicos para asegurar la convivencia, prevenir delitos y proteger bienes”. Además, “la cuestión que se plantea es si las cámaras de videovigilancia instaladas para garantizar la seguridad y el orden público pueden vulnerar o afectar al derecho fundamental a la intimidad”, si bien matiza que “ninguno de estos derechos es absoluto”. 

Sobre la aplicación de la IA, asegura que “puede ser muy útil, pero con límites. No es lo mismo revisar una grabación después de un saqueo que un sistema que reconoce en tiempo real cada rostro dentro de una multitud. Europa ha trazado ya la frontera. El reglamento 2024/1689 de IA prohíbe la identificación biométrica remota en tiempo real en espacios públicos con fines policiales. Solo admite excepciones como buscar a víctimas, evitar una amenaza terrorista inminente o localizar a sospechosos de delitos graves previa autorización de un juez o autoridad”. 

El Tribunal Europeo de Derechos Humanos, en el caso Glukhin contra Rusia (2023), ya condenó el uso del reconocimiento facial para identificar y detener a un manifestante pacífico, detalla Rubio, que añade que “la línea es nítida. Identificar, bajo control judicial, a quien ha roto un escaparate es legítimo. Elaborar listas de quien ejerce el derecho de manifestación, no”. 

Por ello, concluye que “las cámaras en la vía pública no vulneran el derecho a la intimidad. Lo que hay que vigilar no es la cámara, sino su uso: transparencia, proporcionalidad, control independiente y una IA subordinada a la autorización judicial. La seguridad y la intimidad no son enemigas, lo son la impunidad y la arbitrariedad”.

Por su parte, Ramon Arnó, abogado especialista en el entorno digital, destaca que el uso de cámaras de seguridad con IA está sujeto a una serie de restricciones legales muy firmes para garantizar la protección e intimidad de los ciudadanos. La normativa establece que la instalación de estos dispositivos debe “estar justificada y responder a una finalidad concreta”, y no simplemente para mejorar la seguridad.

La instalación de cámaras tiene que estar siempre argumentada y las administraciones tienen que demostrar que no hay alternativas que sean menos invasivas para conseguir el mismo objetivo.

Además, Arnó explica que se debe limitar la captación de imágenes a los espacios estrictamente necesarios y es obligatorio avisar a las personas de que pueden ser grabadas, con carteles o de otra forma. La normativa europea ampara su utilización para otras finalidades, como el control de tráfico, la supervisión de determinados trabajos o para garantizar el correcto funcionamiento de servicios públicos.

Uno de los principales límites, señala Arnó, afecta al tiempo de conservación de las grabaciones. Por lo general, no puede superar un mes, aunque existen excepciones cuando las imágenes son necesarias para confirmar hechos delictivos o reclamaciones pendientes. Si las grabaciones pueden acreditar una infracción, deben ponerse a disposición de las autoridades en menos de 72 horas. Otro de los puntos clave, y que puede causar más preocupación entre los ciudadanos, es la identificación o registro de datos biométricos. Sobre este aspecto, Arnó explica que la ley es clara: no se puede usar ese tipo de tecnología para un reconocimiento facial ni un análisis biométrico, ni tampoco para llevar a cabo prácticas discriminatorias.

En cuanto a los derechos de los ciudadanos, cualquiera puede solicitar el acceso a las imágenes en las que aparece, y puede pedir eliminar dichas grabaciones cuando corresponda u oponerse al tratamiento por motivos relacionados con su situación particular.