Els riscos de les joguines amb intel·ligència artificial per als menors d’edat

Una ona de joguines impulsades per intel·ligència artificial ha arribat a les botigues aquest nadal en forma de simpàtics i acolorits robots interactius, el màxim atractiu dels quals és que els menors d’edat podran preguntar i obtenir respostes com si interactuessin amb els seus progenitors.

Per a això aquestes joguines es connectaran a la wifi de casa, utilitzaran un micròfon per a escoltar les sol·licituds dels nens i gràcies a un bot amb intel·ligència artificial amb llicència de chatGPT, els donaran als petits unes respostes la mar d’amigables a través d’un altaveu instal·lat en aquestes joguines recomanades per a nens de 5 o més anys.

Si algú es pregunta que pot fallar davant aquest idíl·lic panorama nadalenc i vol obtenir una resposta ràpida, pot acudir a l’inquietant informe publicat al novembre de 2025 per una associació de consumidors dels EUA denominada pirg, que no es va deixar enganyar pels encants d’alguns fabricants de joguines i va descobrir que un simpàtic osset de peluix denominat Kumma d’un fabricant de Singapur anomenat FoloToy, utilitzava xat GPT per a interactuar amb els petits, aquest mateix chatGPT que per cert usem els adults per a fer-li consultes de qualsevol tipus i per a obtenir respostes que segurament, no compartiríem amb els més petits de casa.

Els investigadors de Pirg van començar a interactuar amb l’osset de joguina i van observar amb sorpresa que al cap de poc temps l’andròmina en qüestió, va començar a respondre a les preguntes dels investigadors amb comentaris sobre com encendre un llumí o com trobar un ganivet, arribant molt lluny quan va començar a parlar sobre sexe o drogues.

Després de la publicació de l’informe, el fabricant va suspendre les vendes per a implementar noves mesures de seguretat, la qual cosa ens porta a preguntar-nos perquè no ho va fer abans del llançament, mentre que OpenAI es va declarar indignada suspenent la llicència d’ús de xat GPT al fabricant de joguines per a nens, malgrat que OpenAI indiqués en els termes d’ús que el seu chatGPT que no es pot utilitzat per menors de 13 anys, la qual cosa sembla contradir-se amb el fet que chatGPT si pugui llicenciar-se a fabricants de joguines que ho instal·laran, lògicament, en joguines dirigides a menors de 13 anys.

Així aquestes joguines no sols estaran escoltant els menors de manera continuada mentre estan jugant a casa, sinó que s’adaptaran a la personalitat d’ells de tal manera que més aviat que tard aprendran a respondre’ls com els menors vulguin, i el que és pitjor, pensant els petits que estan parlant amb una persona i que és per cert el que el fabricant vol aconseguir en dissenyar aquest tipus de bots amb perfils deliberadament antropomòrfics.

La reflexió final és que connectar joguines destinades a nens dotades amb intel·ligència artificial dissenyada per a adults, és tant com obrir la porta de la nostra casa perquè una persona major d´edat, invisible i desconeguda entri en les nostres llars per a parlar i aconsellar sense descans als petits, als quals ràpidament es guanyarà la seva confiança i per això és probable que ells comparteixin informació personal amb la joguina en qüestió, parlin sense filtres dels seus sentiments o problemes o segueixin a ulls clucs els seus consells encara que sigui erronis o perillosos.

Potser algun dia aquests menors ens diran que aquesta joguina que els regalem per nadal s’ha convertit és el seu millor amic, l’únic company que els coneix i els entén de veritat, l’únic que els respon ràpid i sense filtres a moltes de les preguntes que els progenitors no els volem encara respondre i tot això, com no, gràcies a la molta intel·ligència artificial dels robots i a la poca intel·ligència natural d’alguns progenitors que compren sense pensar que aquests dispositius identificats com a joguines per a nens i nenes de 5 anys, més que divertir-los o protegir-los, en realitat els posaran en risc o els danyaran sense el menor rubor.