Reproducció adaptada de la Notícia a la web de l’IVIE.
El quart diàleg del cicle que organitza la Fundació Ernest Lluch i l’IVIE sobre les dimensions socials i econòmiques de la intel·ligència artificial es va centrar en les implicacions ètiques d’aquesta nova tecnologia. Els dos experts participants van advertir dels riscos de delegar decisions en sistemes d’intel·ligència artificial sense prou garanties i van defensar la necessitat de reforçar la supervisió, la regulació i la participació social en l’ús i la gestió de la IA. La sessió, celebrada el 28 d’octubre de 2026 a la seu de CaixaBank de València, va comptar amb Txetxu Ausín Díez, investigador científic i director de l’Institut de Filosofia del CSIC, i Celia Fernández-Aller, professora de Dret i Ètica de la Universitat Politècnica de Madrid.
Per a l’investigador científic i director de l’Institut de Filosofia del CSIC, Txetxu Ausín Díez, el primer deure ètic de la tecnologia és no causar dany, ni per acció ni per omissió. En aquest sentit, subratlla que la intel·ligència artificial no és neutral i que correspon a la societat decidir on, quan i fins a quin punt vol delegar decisions en sistemes automatitzats. Ausín va alertar, en primer lloc, de la pèrdua d’habilitats que genera la IA, perquè descarreguem directament sobre ella tasques que deixem de controlar. «Estem fins i tot delegant la capacitat de formular hipòtesis», va afirmar. El segon element sobre el qual va voler prevenir és la mandra metacognitiva que provoca la IA, és a dir, limita la capacitat per criticar el nostre propi pensament. «Amb la IA acceptem tot el que ens ve i no en fem cap crítica».
La professora Celia Fernández-Aller va insistir que aquest perill està especialment accentuat en l’àmbit de l’educació. L’estudiantat està acceptant els resultats que li ofereix la IA amb un excés de confiança i, per això, està perdent capacitat crítica. En aquest punt, Fernández-Aller va recordar un altre dels problemes que agreuja la IA: l’augment dels biaixos que introdueixen els sistemes d’IA i que amplifiquen la discriminació de determinats col·lectius. Un aspecte en què va coincidir amb Ausín: «Els resultats que mostra la IA són tot menys neutrals i donen lloc a la injustícia logarítmica que diu que hi ha grups de col·lectius discriminats sistemàticament per la IA», va destacar.
Un element més que tots dos ponents van criticar va ser l’absència de responsabilitat de la IA davant de resultats equivocats. «És un camp que no està definit en el sentit jurídic i que representa riscos enormes», va afirmar l’investigador del CSIC. Per la seva banda, Celia Fernández-Aller va comentar que els usuaris hem assumit amb molta acceptació que som nosaltres els qui tenim la responsabilitat de l’ús de la IA, en lloc de responsabilitzar-ne les empreses que ofereixen aquests productes.
Els dos experts també van dedicar part del diàleg a comentar els problemes de salut mental que la IA pot provocar o accentuar. «Un de cada cinc espanyols menors de 30 anys consulta els seus problemes de salut mental o fins i tot les seves relacions personals amb ChatGPT. Es tracta de sistemes d’adulació, que et donen sempre la raó, i això és molt perillós en sentit afectiu i pot portar fins i tot al suïcidi», va explicar Ausín.
Un altre assumpte sobre el qual caldria parar més atenció, segons els ponents, és la cessió de dades que fem gratuïtament i inconscientment quan utilitzem la IA. «Estem constantment treballant per a aquestes companyies perquè generem dades que després utilitzen. Per exemple, el 90% de les universitats espanyoles tenen tots els seus serveis al núvol, cosa que significa que tot el coneixement que generen està disponible per a Google», va explicar Txetxu Ausín. Celia va compartir una altra dada per cridar l’atenció sobre els perills de la cessió de dades i va afirmar que, segons un estudi recent, més del 80% de les aplicacions mòbils fan transferències de dades no consentides, sense el coneixement i el consentiment de les empreses i dels mateixos desenvolupadors.
Celia Fernández-Aller també va recordar els riscos mediambientals de la IA, que, en la seva opinió, s’haurien de controlar més estrictament, fins i tot obligant la IA a informar del que estem consumint cada vegada que fem servir els seus sistemes.
Davant de tots aquests perills, els dos participants en el diàleg van animar les persones a reclamar a les administracions que prenguin cartes en l’assumpte per promoure un model d’innovació socialment responsable, alineat amb els drets humans, que compleixi criteris ètics i que ens permeti confiar en la tecnologia.
Per als ponents és important salvar el dret a prescindir de la tecnologia, ja que en alguns àmbits la decisió no l’ha de prendre un agent artificial, perquè són àmbits molt sensibles, perquè no són explicables, perquè poden afectar drets fonamentals o perquè poden tenir un cost econòmic o mediambiental molt gran.
«Tenim aquesta fascinació per la IA que ens fa donar-li funcions en aspectes que no la necessiten. Se’ns presenta la IA com la solució a tots els problemes i cal ser molt més cauts. La tecnologia ens ha d’ajudar, però no ho pot resoldre tot», van concloure.
Pots recuperar el vídeo de la sessió aquí: