Raimon Obiols: L’apunt del dia/295 (La intel·ligència artificial i el sentit comú)

La intel·ligència artificial i el sentit comú

9 de desembre de 2023

No passa dia que no subministri una notícia més o menys espectacular sobre els accelerats avenços de la intel·ligència artificial (IA). És com si presenciéssim una carrera de gran efecte i contra rellotge,  que dispara exponencialment especulacions i  alarmes. Per tal de fer-me’n una idea, he utilitzat algunes aplicacions d’IA, amb resultats a vegada espectaculars, a vegades desconcertants, i a vegades francament còmics. Mirant d’assabentar-me’n una mica més, he llegit un llibre de Ramon López de Mántaras, que es titula 100 coses que cal saber sobre intel ligència artificial. 

És un text recomanable, divertit i interessantíssim. Una de les coses que el llibre aclareix, em sembla, és que algunes de les pors que s’han generat no tenen fonament. Allò que s’agrupa sota l’etiqueta d’IA és un extens conjunt de sistemes, en impetuós creixement i d’una sofisticació cada vegada major. Són d’una eficàcia impressionant a l’hora de dur a terme tasques específiques. Però ho fan, com escriu López de Mántaras, «sense comprendre absolutament res». Per exemple: la IA pot «identificar una persona davant d’una paret però (sense saber) el que és una persona ni el que és una paret, ni que les persones no poden travessar parets». 

Entre els múltiples reptes generats per la irrupció de la IA, hi ha el problema suscitat pel fet que el seu us fa possible la «conversa»,  el xat entre l’home i la màquina.  Això suscita la il·lusió que en comptes d’interactuar amb un mecanisme  estàs parlant  amb un ésser pensant. És un antropomorfisme que indueix a una percepció errònia de la IA, atribuint-li unes qualitats inexistents. La IA «no comprèn ni apren res en el sentit humà del que entenem per comprendre i aprendre», diu López de Mántaras.

També assenyala, i aquest és el nus de la qüestió, que el problema principal de la IA és la seva manca absoluta de sentit comú. Diu que «la IA roman encallada des de fa més de 50 anys en una de les questions més fonamentals: com dotar de coneixements de sentit comú les màquines? És una questió crucial si volem assolir intel ligències artificials de tipus general indistingibles de la intel·ligència humana. Fins avui els investigadors en IA no hem vist cap indici que ens porti a poder afirmar que aquest problema pugui ser resolt ni a curt ni a mitjà termini».

I a llarg termini, què passarà? «Les lA no tenen coneixements de sentit comú sobre fets extremadament simples que tenen els humans (…) i  alguns animals com ara els gossos», remarca López de Mántaras, que diu que «un estudi publicat recentment a la revista Biology Letters, de la Royal Society, mostra que els gossos tenen una certa comprensió de les lleis fisiques bàsiques».

Però potser també, a més dels gossos, es podria parlar dels conills o dels éssers vius en general, perquè no es tracta  únicament de la relació de la IA amb el sentit comú, sinó de la  congènita manca d’«intencionalitat» pròpia de la IA, de la seva incapacitat de disposar d’un mínim «instint» independent. Tal vegada Spinoza diria que el límit infranquejable de la IA vé establert per  la seva manca de «conatus», per la seva total carència  de la voluntat instintiva de viure que és pròpia dels éssers vivents.

Com ha apuntat Xavier Vives en un article esclaridor, els problemes no deriven del perill d’una fantasiosa rebel·lió «anti humana» de la intel·ligència «sobrehumana» de la IA. Els problemes, de fet, no són d’«intel·ligència artificial». Són humans, estrictament humans. Són problemes d’innovació i de canvi, de competència i de disrupció tecnològica, de relació entre les empreses i els poders públics (en una situació d’encara escassa regulació). Les crides fetes «amb l’espantall de la possible extinció de la humanitat», escrivia Vives, «són interessades per part de les empreses que van al davant (ja sigui OpenAI amb l’ajuda de Microsoft o Google) i semblen més dirigides a controlar la regulació de manera que startups disruptives no posin en risc la seva dominància».

P. S.- En el seu llibre, López de Mántaras esmenta l’alarmat toc d’alerta del filòsof Daniel Dennett  sobre la proliferació i el mal ús de les «persones falses» que  la IA ha fet possible.  Diu que el seu ús malèvol pot posar en perill les democràcies.  Dennett demana que es prohibeixi la producció i l’ús de «persones falses», de la mateixa manera que es persegueix la fabricació i l’ús de moneda falsificada. 
___________________

Ramon López de Mántaras: “Em fa més por l’estupidesa natural que no pas la intel·ligència artificial”

Daniel Dennett, The Problem With Counterfeit People

Xavier Vives, Hal i la intel·ligència artificial