Ulises Cortés: «Las grandes tecnológicas no hacen un buen uso de la IA»

El catedrático de Inteligencia Artificial e investigador del Barcelona Supercomputing Center Ulises Cortés es uno de los expertos que forman el nuevo comité en seguridad ciudadana puesto en marcha por la Paeria. Habla con SEGRE sobre los límites del uso de la IA, su elevado impacto medioambiental y la necesidad de formar a la población para un uso específico, necesario y ético. También critica a las grandes compañías tecnológicas por comercializar con los datos de las personas y aboga por que la UE desarrolle modelos propios.

¿Qué límite hay en el uso de las cámaras de video-vigilancia en la vía pública?

Hay todos los límites. La Ley Europea de Inteligencia Artificial prohíbe de una forma explícita el seguimiento persistente utilizando métodos como las cámaras digitales. Y también de otros dispositivos digitales, como el móvil. Entonces, depende del tipo de imagen, de quién tiene acceso a esos datos, quién ha dado los permisos para hacer ese seguimiento. A partir de allí, es cierto que si todo esto está permitido, el siguiente paso sería identificar cuáles son los patrones que quieres seguir.

¿Pero eso no invade nuestra intimidad?

En Europa, solo puede autorizarlo un juez. Luego tiene que verificar qué clase de datos. Podrías tener, por un lado, la trayectoria de una persona, sin identificarla, y luego otros indicadores. Si el juez lo autoriza, podrías juntarlos. Pero esa información debería estar en entornos seguros distintos.

¿La gente se sentiría más controlada?

¿Has estado en Londres?

Sí

¿Te has sentido controlada?

La verdad es que no.

Pues es una de las ciudades del mundo con más cámaras. Cada 50 metros hay una. Es un proceso de percepción, por lo que debes informar a la población. En Lleida, el hecho de que se anuncie un comité de expertos, ya habla de la transparencia de la propia iniciativa.

¿Tenemos que dejar la seguridad en manos de la tecnología?

No la dejas en manos de la tecnología, porque es solo un instrumento. Son las fuerzas del orden las que aseguran un Estado de Derecho, la seguridad de los individuos.

¿Detrás de la Inteligencia Artificial debe haber siempre un humano?

Ni la tecnología ni la IA son para sustituir. A priori la ley europea indica que todas las decisiones que se tomen sobre las personas y el medio ambiente deben estar supervisadas por un humano, porque este humano es el responsable.

¿Vamos tarde con la legislación?

No, estamos muy por delante de todos los demás, pero la ley se acaba de aprobar y ahora hay un par de años en la que se tiene que desplegar.

¿La IA es buena o es mala?

La IA es una herramienta. Depende de cómo la utilices, puede ser en beneficio o en perjuicio de las personas.

¿Y se está utilizando bien?

Depende de quién. Amazon, Microsoft, Alibaba..., todas estas compañías, no. Hay otras que sí, pero ninguna de los Big Techs la utiliza bien.

¿Por qué?

Pues porque lo que hacen fundamentalmente es invadir los derechos de privacidad y los datos de las personas y los comercializan. Nadie se puede hacer millonario de la nada en pocos años. O estás robando a alguien o estás haciendo algo que es claramente ilegal. Entonces, hay tres actividades ilegales por excelencia ahora: el mal uso de la IA, la venta de drogas y la venta de armas.

Se tendría que controlar a estas personas...

En Europa y en EEUU, la responsabilidad del mal uso de la tecnología es de la compañía y no de la persona dueña de la compañía. En China, es una responsabilidad personal. ¿Por qué Europa no ha cortado a estas compañías? Pues porque el señor Trump te enviaría un barco o un bombardero...

La IA existe desde hace años, ¿por qué ahora está tan de moda?

Existe desde 1956, siempre ha estado de moda, pero nunca ha tenido hype (expectación desmesurada), y ahora sí.

¿Pero la gente sabe lo que es?

No, hay muy poca gente que está informada. En general, estas tecnologías de rápido y fácil uso son precisamente para que la gente no se plantee la pregunta de lo que hay detrás. Entonces, no todo el mundo está preparado para utilizar la IA, pero los gobierno nos hacen nada. Cuando un padre o una madre deja que sus hijos utilicen ChatGPT, desde mi punto de vista, está cometiendo un acto en contra de ellos, no los está protegiendo. No está respetando la patria potestad, porque está utilizando una herramienta que no está certificada por ningún gobierno.

Entonces, ¿qué hacemos?

Educación en los colegios, a los profesores. Y sobre todo, educar a la gente para que no sea tan activa en utilizar cosas solo porque están ahí y son gratis, aparentemente.

¿También desconocemos el impacto ambiental que tiene la IA?

Sí, eso es seguramente la peor parte. Ahora se está construyendo una narrativa, muchas veces apoyada por científicos, que está blanqueando el uso excesivo de energía y agua. Tendríamos que ver un análisis muy detallado, con una posición a favor y otra en contra de científicos renombrados sobre el crecimiento desmesurado de los centros de datos en países de clima mediterráneo, proclives a la sequía y donde la mayor parte de los glaciares que había en sus montañas al norte de la frontera con Francia han desaparecido.

¿Qué coste tiene hacer una pregunta a una IA?

Debe utilizar alrededor de 6 litros de agua y como el equivalente a una lámpara de 40 W encendida una hora. Una no es nada, pero si lo multiplicas por un millón...

¿Qué retos tenemos con la IA?

Primero tenemos que educar a la población, luego, controlar a los dueños de las compañías. Y la tercera, plantearnos como UE tener modelos propios que se utilicen para cosas que son necesarias.

Hay miedo a perder el trabajo si puede hacerlo una IA...

Cada vez que la usas, si eres un profesional competente, contribuyes a que desaparezca un puesto de trabajo. En Peter Pan, hay una frase que dice que cada vez que un niño dice que no cree en las hadas, una muere. Pues cada vez que un profesional utiliza una de estas herramientas, parte de una profesión desaparece.