Hui, un article liderat per José Hernández-Orallo de la Universitat Politècnica de València i publicat en Science, qüestiona la visió predominant de la intel·ligència artificial, proposant un nou enfocament per a la seua avaluació amb la col·laboració d'institucions internacionals.
- Un article liderat per José Hernández-Orallo de la UPV i publicat en Science qüestiona l'objectiu de la IA general.
- El nou marc d'avaluació proposa analitzar perfils cognitius diversos, la transformació del pensament humà amb la IA i l'impacte social global.
- Esta iniciativa des de València busca un desenvolupament responsable de la IA, anticipant beneficis i riscos abans del seu desplegament.
Un nou enfocament valencià per a l'avaluació de la IA
La carrera global per la intel·ligència artificial, des de Silicon Valley fins a la Xina, sovint persegueix l'objectiu de desenvolupar una IA general que iguale o supere les capacitats humanes, i posteriorment, una superintel·ligència. No obstant això, un article publicat hui en Science, amb el lideratge de José Hernández-Orallo, investigador de la Universitat Politècnica de València, posa en dubte esta perspectiva. El treball planteja un canvi significatiu en la manera d'entendre i avaluar els sistemes d'IA.
En esta investigació, també hi participen experts de la Universidad de Cambridge, la Universidad de Princeton, el MIT (Institut Tecnològic de Massachusetts) i Google DeepMind. Els autors argumenten que l'obsessió per mesurar si una intel·ligència artificial arriba o supera el nivell humà replica la lògica del Test de Turing, un referent que, tot i haver marcat el desenvolupament de la disciplina durant dècades, ja no és suficient per a avaluar els sistemes actuals, segons Hernández-Orallo, qui és investigador de l'Instituto VRAIN de la UPV i membre de ValgrAI.
Per què el Test de Turing ja no és suficient per a la IA actual
Davant d'esta visió i amb la intenció d'evitar caure en concepcions antropomòrfiques de la intel·ligència artificial, l'equip investigador proposa un nou marc basat en tres perspectives complementàries. La primera explora com avaluar diferents perfils cognitius, formats per capacitats i propensions abstractes, en la seua diversitat. Este enfocament busca una comprensió més àmplia de les habilitats de la IA, més enllà de la mera imitació humana.
En segon lloc, els investigadors es pregunten com es pot avaluar la cognició humana tal com es transforma per noves formes de pensar juntament amb la IA. En lloc de preguntar-se quines tasques poden substituir les màquines, la proposta és analitzar com canvia la forma de pensar quan humans i IA treballen conjuntament. Esta perspectiva posa l'èmfasi en la col·laboració i l'augment de les capacitats humanes mitjançant la intel·ligència artificial.
Avaluant l'impacte global de la intel·ligència artificial en la societat
Finalment, l'equip de la UPV, Cambridge, Princeton, el MIT i Google DeepMind defensa que, en lloc de comprovar com d'alineada està la IA amb els valors humans, s'ha d'avaluar l'efecte global. Això implica analitzar els beneficis i els danys de les intervencions de la IA en la societat. Per a aconseguir-ho, proposen analitzar els beneficis i els possibles riscos que pot generar cada sistema d'IA abans del seu desplegament, utilitzant entorns de prova que permeten simular diferents escenaris i anticipar-ne l'impacte.
L'objectiu final és respondre a una pregunta crucial: si la societat estarà realment millor després d'incorporar una determinada intel·ligència artificial, segons José Hernández-Orallo. Segons els investigadors, el desenvolupament de nous mètodes d'avaluació és especialment urgent en un moment d'enorme acceleració tecnològica, marcat per la ràpida evolució dels models basats en arquitectures transformer i l'aparició constant de nous agents d'intel·ligència artificial.
En este context, sostenen que el principal desafiament ja no consisteix únicament a construir models cada vegada més potents, sinó a desenvolupar eines que permeten comprendre el seu comportament, explicar les seues decisions i anticipar tant els seus beneficis com els seus riscos. El futur de la intel·ligència artificial dependrà tant de la seua capacitat tècnica com de la nostra capacitat per a avaluar-la correctament. Només així serà possible impulsar un desenvolupament responsable, segur i alineat amb les necessitats reals de la societat, conclou José Hernández-Orallo.