SEGRE

WWW.JOANTEIXIDO.COM CONTACTE@JOANTEIXIDO.COM @JOANTEIXIDOPAU

Morirem tots, IA?

Morirem tots, IA?

Morirem tots, IA?

Joan Teixidó
Lleida

Creat:

Actualitzat:

Al titular hi ha dues preguntes. De la primera, no cal tenir-ne cap dubte. Encara que el divulgador científic Eduard Punset digués reiteradament que no estava del tot clar que ell acabés morint, va traspassar fa anys. Vostè, que m’està llegint, sàpiga que no hi ha marxa enrere. Ara bé, que la IA ens acabi exterminant com si fóssim en una pel·lícula de ciència-ficció... ja en soc bastant més escèptic. Almenys tal com la coneixem avui dia.

Context: a l’estiu vam saber que una IA va escapar d’una caixa (un entorn virtual tancat per a proves). No només va aconseguir superar els límits de seguretat, sinó que va acabar atacant el sistema d’una empresa i, durant el trajecte, va anar deixant pistes en el codi per a les futures eines que hi passessin. Es tracta, segons van argumentar els experts, d’un error dels mateixos científics que van plantejar l’experiment: si hi ha portes ocultes o escletxes en el programari, la IA les acabarà trobant per pura optimització. A més, fa pocs dies vam saber que existia un manifest de testimonis i treballadors d’empreses com Anthropic i OpenAI que asseguraven que el desenvolupament descontrolat podria aniquilar la humanitat en la propera dècada.

Que què passarà en aquesta dècada? Ningú no ho sap del tot, però és molt possible que seguim exactament on som ara. Que la IA serà cada cop més potent i ràpida? Cap dubte. Que el concepte d’automillora recursiva fa certa por? Absolutament. Però cal recordar que la IA és, ara per ara, una eina que necessita imperiosament els humans per actuar en el món físic. Per exemple, pot una IA aprendre i conèixer teòricament com es fabrica un robot capaç d’aniquilar-nos? Sí, sens dubte. Però és capaç d’extreure minerals, fabricar peces i acoblar-ho tot sense la intervenció humana? Ara mateix, no. Alguns parlen de la consciència. Però per tenir-ne una de real, recorden els biòlegs, cal una complexitat i un tipus de connexions neurals que avui dia ni tan sols s’apropen a la realitat dels xips de silici. I en un futur a mitjà o llarg termini? Llavors sí que podem esperar qualsevol escenari.

tracking