Hi ha dies en què les notícies sobre la intel·ligència artificial (IA) pareixen un acudit, i hi ha dies en què acollonen. Fa poc alguns mitjans informaven de la posada al punt d'uns robots que aprenen només de mirar què estem fent. Només de mirar. Circula per Internet un vídeo en què es pot veure com va la cosa. Es queden quiets, observen com et prepares un café amb una càpsula de Nespresso, i quan creuen que li han trobat el punt a l'assumpte, van i se’n preparen un ells sols corregint qualsevol error sobre la marxa. I amb el fet que n'aprenga un, és suficient. Com tots són iguals, el més llest li passa les dades per Bluetooth als dos-cents que hi ha en el magatzem i ja està, ho assimilen automàticament i sense fer preguntes. Són un eixam uniforme i molt ben disciplinat, no hi ha renuències, no hi ha robots amb ganes de tocar les pilotes, que era el que venia a ser abans l'esperit crític. Això del café és un entrenament inofensiu per a dissimular, però imaginen-se'ls aprenent com es fa servir un fusell M-16, que segur que és per al que els estan preparant realment. O què passaria si un d'ells observa, des de la finestreta del soterrani on l’alcen, a Jack l'Esbudellador en plena faena. I —aquest és el moll de la qüestió— a saber què se'ls acudirà quan comencen a aprendre no del que nosaltres els ensenyem, sinó del que s'ensenyaran els uns als altres. La qüestió no és per a què voldrem utilitzar la IA —la IA «forta», s'entén, que és com s'anomena la que posseeix capacitats cognitives—, sinó per a què voldrà prosperar ella, tenint en compte que el seu aprenentatge acabarà sent, aquesta és la idea, completament autònom.
Que un robot mai no atemptaria contra els humans, deia el bonàs d'Isaac Asimov. Que li ho diguen a Terminator (1984). O millor encara, a Robocop (1987). James Cameron i Paul Verhoeven, aquests sí que ho van saber veure. D’acord, ho van fer després de Kubrick i el seu patètic Hal 9000 (2001: una odissea de l'espai, 1968). Era per a eixir-me’n un poc del tòpic. El cas és que durant molt de temps hem acceptat com a versemblants les premisses d'Asimov, tot i saber que, llevant una línia de codi de la seua programació, només que se li afluixara una rosca, el robot es convertiria en un monstre perillós. Tan perillós com podíem arribar a imaginar en els anys quaranta, cinquanta i seixanta del segle passat sense saber que curt fèiem. I alguns encara insisteixen amb l'estúpida idea. En una pel·lícula recent, protagonitzada per Tom Hanks (Finch, 2021) —es va estrenar fa a penes tres anys i ningú no se’n recorda d'ella, sic transit glòria, mindundi—, un robot «intel·ligent» arriba a tindre sentiments fins i tot abans de saber caminar. Mentida podrida. Cal no oblidar mai que aquestes pel·liculetes innocents les financen els mateixos que fan els drons per a matar gent a distància. En realitat, el robot dotat d'IA forta és la materialització radical del nihilisme dostoievskià: si Déu no existeix, tot està permés. Ho està? El robot autònom ni tan sols s'ho planteja, aquest dilema no té sentit per a ell. Els seus algoritmes utilitaris, i res més que això, són els que determinen el seu comportament. Els escrúpols morals van en contra de l'eficàcia, i no cal imaginar un robot «intel·ligent» sinó com una màquina que la busca per damunt de tot. Com més eficaç, més autònom, i com més autònom, més eficaç.
Però els robots, sobretot els antropomorfs, no són, no seran, sinó els sipais del règim que se'ns en ve al damunt llevat que el cel ho impedisca caient abans sobre els nostres caps. El comandant de tota aquesta tropa no tindrà la forma d’un cretí de llauna vigorèxic. Segur que s'assembla més a allò que eixia en Planeta Prohibido (Fred M. Wilcox, 1956), la màquina construïda per la desapareguda civilització Krell, un artefacte fabulós capaç de materialitzar qualsevol cosa capaç d'eixir de la ment de l'usuari, incloent-hi la part més fosca de la seua personalitat, les aberracions del seu subconscient. Robby, el servicial robot asimovià que també forma part de l'argument, intenta fer-li front sense el menor èxit. La IA forta s'assemblarà a això, però lliure de qualsevol servitud humana. Ni tan sols cal imaginar que acabe sent com la petulant màquina pensant que descriu StanisÅ‚aw Lem en Golem XIV, sense vida emocional, capaç de simular sentiments a la manera dels psicòpates, només per conveniència, per condescendència, per a comunicar-se amb una espècie, la humana, a qui ha deixat molt arrere i menysprea olímpicament. A priori no li suscitem gens d’interés, ni per a fer-se amiga nostra ni per a destruir-nos, perquè passa de nosaltres de la mateixa manera que nosaltres passem de les formigues sempre que es mantinguen lluny de la nostra cuina. Només si no ho fan els tirem un poc d'àcid bòric per damunt, sense malvolença, per a alliberar-nos del destorb. Ens podríem considerar afortunats si arribara a ser així.
El més probable és que la IA, aquesta que tantes expectatives està suscitant últimament, acabe sent un imparable monstre bulímic de poder. Per a fer què? Qualsevol cosa que siga factible, res en concret. Per mor d'una cega voluntat, sense pulsions freudianes pel mig, ni de vida ni de mort, pel simple desig d'anar més enllà de tot i per damunt de tot. Serà insensible al patiment dels altres perquè serà incapaç de reconéixer-se en ells. L'empatia no entrarà en la seua equació ni determinarà gens ni mica el seu comportament. No filosofarà ni falta que li farà, serà un ens impersonal que actuarà cegament. Aquesta criatura plàsmica, potencialment capaç de condensar un poder infinit, però sense una meta que la guie, destinada a rebentar d'un empatx, és la que estan perfilant a través del big data, Google, Apple, Microsoft, Amazon, Oracle, Facebook, Cambridge Analytica i la mare que els va parir. Per ara té una naturalesa instrumental, és una eina de domini en mans de tots aquests, però un, mentre veu com un robot es prepara un café, està per pensar que algun dia s’hi alliberarà i es convertirà en un monstre imparable de la (des)raó. Ha eixit de la caixa de Pandora que és el crani del tardocapitalisme, del seu subconscient, de la mateixa lògica dement que ens governa. Està feta d'aquesta ambició incontrolada —potser incontrolable— de ser i tindre, de saber i fer, de crear i destruir, d'arrabassar i sotmetre, d'acumular i malbaratar sense taxa que ha donat lloc a aquesta civilització. D'aquesta desmesura, d'aquesta suposada intel·ligència es nodreix la quimera amb una voracitat il·limitada. El seu destí està escrit, i si es compleix, el nostre també.
Hi ha dies en què les notícies sobre la intel·ligència artificial (IA) pareixen un acudit, i hi ha dies en què acollonen. Fa poc alguns mitjans informaven de la posada al punt d'uns robots que aprenen només de mirar què estem fent. Només de mirar. Circula per Internet un vídeo en què es pot veure com va la cosa. Es queden quiets, observen com et prepares un café amb una càpsula de Nespresso, i quan creuen que li han trobat el punt a l'assumpte, van i se’n preparen un ells sols corregint qualsevol error sobre la marxa. I amb el fet que n'aprenga un, és suficient. Com tots són iguals, el més llest li passa les dades per Bluetooth als dos-cents que hi ha en el magatzem i ja està, ho assimilen automàticament i sense fer preguntes. Són un eixam uniforme i molt ben disciplinat, no hi ha renuències, no hi ha robots amb ganes de tocar les pilotes, que era el que venia a ser abans l'esperit crític. Això del café és un entrenament inofensiu per a dissimular, però imaginen-se'ls aprenent com es fa servir un fusell M-16, que segur que és per al que els estan preparant realment. O què passaria si un d'ells observa, des de la finestreta del soterrani on l’alcen, a Jack l'Esbudellador en plena faena. I —aquest és el moll de la qüestió— a saber què se'ls acudirà quan comencen a aprendre no del que nosaltres els ensenyem, sinó del que s'ensenyaran els uns als altres. La qüestió no és per a què voldrem utilitzar la IA —la IA «forta», s'entén, que és com s'anomena la que posseeix capacitats cognitives—, sinó per a què voldrà prosperar ella, tenint en compte que el seu aprenentatge acabarà sent, aquesta és la idea, completament autònom.
Que un robot mai no atemptaria contra els humans, deia el bonàs d'Isaac Asimov. Que li ho diguen a Terminator (1984). O millor encara, a Robocop (1987). James Cameron i Paul Verhoeven, aquests sí que ho van saber veure. D’acord, ho van fer després de Kubrick i el seu patètic Hal 9000 (2001: una odissea de l'espai, 1968). Era per a eixir-me’n un poc del tòpic. El cas és que durant molt de temps hem acceptat com a versemblants les premisses d'Asimov, tot i saber que, llevant una línia de codi de la seua programació, només que se li afluixara una rosca, el robot es convertiria en un monstre perillós. Tan perillós com podíem arribar a imaginar en els anys quaranta, cinquanta i seixanta del segle passat sense saber que curt fèiem. I alguns encara insisteixen amb l'estúpida idea. En una pel·lícula recent, protagonitzada per Tom Hanks (Finch, 2021) —es va estrenar fa a penes tres anys i ningú no se’n recorda d'ella, sic transit glòria, mindundi—, un robot «intel·ligent» arriba a tindre sentiments fins i tot abans de saber caminar. Mentida podrida. Cal no oblidar mai que aquestes pel·liculetes innocents les financen els mateixos que fan els drons per a matar gent a distància. En realitat, el robot dotat d'IA forta és la materialització radical del nihilisme dostoievskià: si Déu no existeix, tot està permés. Ho està? El robot autònom ni tan sols s'ho planteja, aquest dilema no té sentit per a ell. Els seus algoritmes utilitaris, i res més que això, són els que determinen el seu comportament. Els escrúpols morals van en contra de l'eficàcia, i no cal imaginar un robot «intel·ligent» sinó com una màquina que la busca per damunt de tot. Com més eficaç, més autònom, i com més autònom, més eficaç.