Reproducció adaptada de la Notícia a la web de l’IVIE.
La intel·ligència artificial (IA) s’ha convertit en una tecnologia transversal amb capacitat per transformar pràcticament tots els sectors de la societat i l’economia, segons van destacar els experts participants en el diàleg Costos i beneficis de la IA: més enllà de l’economia, celebrat el 7 d’octubre de 2026 a València, dins del cicle La revolució de la IA: dimensions socials i econòmiques, organitzat per la Fundació Ernest Lluch i l’IVIE. Nuria Oliver, doctora en Intel·ligència Artificial pel MIT, directora i cofundadora de la Fundació ELLIS Alacant, i José F. Duato, acadèmic numerari de la Reial Acadèmia de Ciències d’Espanya i director d’Arquitectura de Sistemes d’Openchip & Software Technologies, van coincidir a reconèixer el potencial de la IA per afrontar alguns dels grans desafiaments actuals, tot i que van alertar de la necessitat de regular-ne l’ús per mantenir sempre el control humà d’aquesta tecnologia.
«Necessitarem la IA per a molts dels reptes que es plantegen en el present i en el futur, en àmbits com la salut, l’educació, la ciència o el canvi climàtic», va afirmar Nuria Oliver, alhora que defensava la necessitat d’abordar els problemes reals que planteja la tecnologia, enfront dels debats centrats únicament en escenaris apocalíptics, gairebé de ciència-ficció.
Per la seva banda, José Duato va assenyalar que el risc augmenta amb la IA agèntica, quan aquests sistemes deixen de limitar-se a proporcionar informació i comencen a interactuar amb el món físic o amb sistemes que poden produir conseqüències reals. Un exemple seria la utilització d’agents per fer operacions bancàries o gestionar determinats processos sense intervenció humana directa. «Per això cal actuar amb cautela i amb supervisió humana», va insistir.
En aquest sentit, la doctora en IA pel MIT va voler cridar l’atenció sobre els perills de l’ús d’aquesta tecnologia que ja estan afectant la societat. «Sabem que els models d’IA discriminen, augmenten els biaixos de la societat, plantegen problemes de privacitat i conflictes relacionats amb la propietat intel·lectual; a més, permeten generar continguts falsos mitjançant imatges, vídeos o música sintètics que es poden utilitzar per manipular l’opinió pública, fins i tot en contextos electorals». També va advertir del risc que els sistemes de recomanació redueixin la diversitat de continguts als quals estan exposades les persones. En oferir principalment productes, informacions o continguts afins a les seves preferències, poden contribuir a encasellar els usuaris en determinats patrons i reduir-ne l’exposició a punts de vista diferents.
A més, es va mostrar molt preocupada pel llast que està suposant en l’educació dels infants i els joves. «La IA ens dona només el resultat i, si ens quedem només amb això, perdem el més important, que és el procés, l’esforç. Sense fricció cognitiva no hi ha aprenentatge», va afirmar. Finalment, va recordar que la IA requereix quantitats ingents d’energia, majoritàriament no renovable, que contribueixen a accelerar el canvi climàtic.
Precisament, l’impacte ambiental de la IA també va ocupar un lloc destacat en el diàleg, celebrat a la seu de CaixaBank a València. José Duato va cridar l’atenció sobre l’enorme consum energètic associat als centres de dades. Segons va exposar, aquests centres utilitzen 1.000 terawatts hora d’energia, cosa que equival a la producció de més de 100 centrals nuclears només per alimentar els servidors, i representa únicament un terç del consum energètic de la IA. «El 2030 necessitarem la producció de 300 centrals nuclears per alimentar la IA», va advertir. També va recordar les necessitats d’aigua per a la refrigeració i les exigències que plantegen sobre les infraestructures. En aquest sentit, Duato va destacar que l’avenç científic s’ha d’orientar a desenvolupar sistemes més eficients i que consumeixin menys recursos.
Malgrat tots els riscos plantejats, els experts van defensar que la IA pot tenir un paper positiu si s’hi aplica una regulació exigent que en limiti els excessos. Per a Nuria Oliver, «davant dels escenaris apocalíptics contra la IA que s’han plantejat recentment, hi ha solucions parcials per als reptes que planteja i cal apostar pel potencial d’aquesta tecnologia per facilitar la vida de les persones».
Tots dos ponents van coincidir en la importància de la regulació i van destacar el paper d’Europa com la primera regió que introdueix un marc regulador específic de la intel·ligència artificial, que prohibeix determinats usos abusius com, per exemple, utilitzar la IA per donar a cada persona una puntuació social i atorgar-li més o menys prestacions. A més, introdueix la necessitat de fer avaluacions prèvies en aplicacions d’IA que puguin afectar àmbits sensibles com la salut.
Abans d’acabar, els dos ponents van cridar l’atenció sobre la necessitat de no antropomorfitzar aquests sistemes. «Les persones humanitzem contínuament la IA i això és perillós perquè no són humans ni tenen sentiments», va assenyalar Nuria Oliver. Per a José Duato, al costat de la regulació, és especialment important formar les noves generacions perquè utilitzin la IA adequadament. «La IA no té sentiments i cal començar a formar els infants perquè la utilitzin bé», va assenyalar, tot advertint que un ús inadequat pot tenir conseqüències greus per al desenvolupament cognitiu de les persones.
Pots recuperar el vídeo de la sessió aquí: