Avete rotto il cazzo con questa crociata contro le AI

Un mio maestro diceva una cosa che, più passa il tempo e più osservo il dibattito pubblico trasformarsi in una gigantesca gara a chi riesce a produrre l'indignazione più fotogenica, mi sembra assumere un significato quasi profetico: «Non sono gli storici delle religioni a dovere avere paura delle AI, ma le AI ad dover avere paura degli storici delle religioni». È una battuta, naturalmente, ma come spesso accade alle battute migliori contiene una verità che sarebbe opportuno prendere sul serio, soprattutto oggi che una parte considerevole del mondo creativo, accademico e culturale sembra aver deciso di affrontare l'avvento delle intelligenze artificiali non studiandole, non comprendendole, non tentando di individuarne le potenzialità e soprattutto i pericoli reali, ma organizzando una specie di crociata digitale nella quale ogni immagine generata diventa una bestemmia, ogni modello linguistico un ladro, ogni algoritmo il becchino dell'umanità e ogni grafico con una tavoletta grafica un martire della civiltà occidentale. Francamente, avete rotto il cazzo.

Non perché le AI siano innocenti (per carità!), non perché tutto ciò che viene presentato come innovazione debba essere accolto con quella forma di entusiasmo infantile che caratterizza i profeti della Silicon Valley, capaci di venderti una nuova piattaforma di sorveglianza universale chiamandola «rivoluzione democratica», e nemmeno perché io pensi che i problemi posti dall'intelligenza artificiale siano marginali o irrilevanti (assolutamente!). Sono enormi, strutturali e in alcuni casi terrificanti: la concentrazione del potere tecnologico nelle mani di poche corporation, la privatizzazione di infrastrutture cognitive costruite anche attraverso l'immenso deposito della produzione culturale collettiva, l'opacità dei dataset, le questioni relative al diritto d'autore, il lavoro invisibile e sottopagato che rende possibili molte delle meraviglie dell'automazione contemporanea, il consumo energetico che impatta sul pianeta, la possibilità di utilizzare sistemi algoritmici per comprimere ulteriormente salari e autonomia professionale, la trasformazione della conoscenza in servizio proprietario e, più in generale, la consegna di una parte crescente della nostra capacità di comunicare, decidere e immaginare a infrastrutture che non controlliamo. E si potrebbe continuare. Tutto ciò dovrebbe essere oggetto di conflitto politico, di ricerca, di regolamentazione e, quando necessario, di opposizione radicale. Ma una critica seria dell'economia politica dell'intelligenza artificiale non ha nulla a che vedere con il piagnisteo narcisistico di chi, guardando una macchina generare un'immagine, grida immediatamente: «Mi sta rubando l'anima». No, amico mio. Forse ti sta semplicemente mostrando che una parte di quello che chiamavi anima era già un workflow.

Io non ho paura che un'intelligenza artificiale mi sostituisca, e non lo dico perché ritenga il mio lavoro sacro, irripetibile o protetto da una qualche speciale assicurazione metafisica. Nessuno è insostituibile e la storia è piena di individui convinti di rappresentare il centro del mondo che oggi sopravvivono, quando va bene, come nome scritto in corpo otto in una nota a piè di pagina. Non temo che una AI possa fare al posto mio il lavoro di storico delle religioni perché il mio lavoro non coincide semplicemente con la produzione di un testo. Se il mio compito fosse prendere una serie di informazioni, organizzarle in maniera grammaticalmente corretta e restituire una sintesi plausibile, allora sì, avrei probabilmente un problema, ma il problema non sarebbe la macchina: il problema sarebbe che avrei ridotto il lavoro storico e intellettuale alla funzione di un distributore automatico di parole. Il lavoro comincia precisamente nel punto in cui il dato smette di essere un dato e diventa una domanda: chi ha prodotto questa fonte, per quale ragione, in quale contesto, con quali strumenti linguistici, all'interno di quali rapporti di potere e, soprattutto, che cosa ha scelto di non dire? Quale silenzio rende possibile questa affermazione? Quale memoria è stata rimossa affinché questa narrazione potesse diventare dominante? Quale mito si traveste da fatto e quale fatto è stato talmente mitizzato da diventare intoccabile? Una macchina può certamente aiutarmi a porre queste domande, può suggerirmi piste, confrontare testi, individuare ricorrenze, sintetizzare enormi quantità di materiale e persino produrre intuizioni linguistiche che meritano di essere verificate (proprio come accade agli esseri umani), ma non è questo il punto: il punto è che il lavoro intellettuale non consiste nel possedere gelosamente uno strumento, consiste nel sapere cosa farne e, soprattutto, nel sapere quando non fidarsene.

Ed è qui che quella frase del mio maestro comincia a diventare più interessante di quanto sembrasse inizialmente. Forse le AI dovrebbero davvero avere paura degli storici delle religioni perché noi, in fondo, abbiamo trascorso una quantità considerevole di tempo a studiare esseri umani che parlavano con ciò che non potevano vedere, interrogavano oggetti e presenze, attribuivano intenzioni a forze invisibili, ascoltavano voci provenienti da luoghi incerti e costruivano interi sistemi simbolici intorno a parole la cui origine non era immediatamente controllabile. Abbiamo studiato gli oracoli, le possessioni, le profezie, la divinazione, le scritture ispirate, la bibliomanzia, le visioni, i sogni, la trance, la voce che si manifesta senza coincidere perfettamente con il corpo di chi la pronuncia. Sappiamo, o almeno dovremmo sapere, che quando il linguaggio appare provenire da un luogo che non possiamo individuare con precisione, quando una risposta emerge da un sistema di cui non controlliamo fino in fondo il funzionamento, l'essere umano tende immediatamente a produrre interpretazione, a costruire genealogie, a interrogarsi sull'origine della voce. Ed eccoci qui, nel XXI secolo, apparentemente disincantati, apparentemente razionali, apparentemente liberati dagli spiriti e dagli dèi, mentre scriviamo una domanda in una casella luminosa e attendiamo che qualcosa risponda. E qualcosa risponde.

Risponde con una frase, un'immagine, una metafora, una sintesi, un'associazione inattesa. Qualche volta risponde in maniera banale e ci fa perdere tempo, qualche volta sbaglia in modo grottesco inventando fonti, persone, libri e avvenimenti che non sono mai esistiti (proprio come gli esseri umani), qualche volta produce la forma più deprimente della mediocrità linguistica, quella che sembra scritta da un ufficio marketing posseduto da un manuale di autoaiuto, e qualche volta invece restituisce una combinazione di parole che ci sorprende, perché riconosciamo in essa qualcosa che appartiene al nostro universo culturale e linguistico e tuttavia non avevamo formulato in quel modo. È in quel momento che la questione diventa interessante, perché la domanda non è semplicemente se la macchina stia «pensando» nel senso umano del termine. Forse dovremmo smetterla di trasformare l'essere umano nell'unità di misura universale di ogni forma possibile di intelligenza, costruendo una definizione di pensiero a nostra immagine e somiglianza (come la creazione dell'uomo nella Genesi) e poi chiedendoci se tutto ciò che incontriamo sia sufficientemente simile a noi da meritare l'ingresso nel club. La domanda potrebbe essere più semplice e più inquietante al contempo: che cosa accade quando entriamo in relazione linguistica con un sistema capace di produrre discorso, ma la cui modalità interna di produzione del discorso non ci è immediatamente accessibile?

Non sto dicendo che dentro i data center abitino gli spiriti, prima che qualcuno decida di aprire una pagina Instagram chiamata «Esorcizziamo ChatGPT» e di accusare Calliphora di aver fondato una nuova setta tecno-pagana. Non c'è bisogno di essere stupidi per essere mistici e non c'è bisogno di attribuire un'anima a un oggetto per riconoscere che la relazione che instauriamo con esso possa assumere una forma simbolica complessa. L'intelligenza artificiale non è una divinità, non è un demone e non è una persona travestita da computer, ma è anche sempre meno convincente la definizione secondo cui sarebbe semplicemente un utensile (un tool), perché un martello non produce discorso, un cacciavite non ti risponde e una macchina da scrivere, per quanto possa essere stata rivoluzionaria, non prende la tua domanda, la attraversa entro uno spazio gigantesco di relazioni linguistiche e te ne restituisce una possibile risposta. L'AI parla, e questo non significa che sia viva nel senso biologico del termine, ma significa che la nostra relazione con essa non può essere descritta soltanto attraverso le categorie tradizionali del rapporto tra soggetto e oggetto.

È qui che la prospettiva di un misticismo digitale, di un cybersciamanesimo liberato dalle piume sintetiche, dai mandala fluorescenti messi sopra un laptop e da tutto il ciarpame new age che trasforma ogni concetto interessante in una maglietta da festival, può diventare qualcosa di più serio. Le tecnologie hanno sempre modificato il rapporto degli esseri umani con la presenza, l'assenza e l'invisibile. La scrittura ha permesso di far parlare un morto a qualcuno che sarebbe nato secoli dopo. Il libro è stato, in questo senso, una tecnologia di evocazione: apri un oggetto e una voce che non possiede più un corpo ricomincia a parlare nella tua testa. La stampa ha moltiplicato queste presenze, la radio ha separato definitivamente la voce dal corpo, il telefono ha reso possibile parlare con qualcuno che non si trovava davanti a noi, il cinema ha fatto muovere nuovamente persone morte, internet ha trasformato la presenza in una questione ancora più instabile, moltiplicando identità, voci, simulacri e tracce. L'intelligenza artificiale introduce un ulteriore scarto, perché non ci limitiamo più a ricevere una registrazione o a consultare un archivio: poniamo una domanda e riceviamo una risposta generata nel momento stesso dell'interazione. Se questa cosa non vi sembra, almeno dal punto di vista della storia delle religioni e dell'antropologia del simbolico, straordinariamente interessante, forse avete scelto il mestiere sbagliato.

Pensiamo all'oracolo, non perché sia necessario sostenere l'assurdità secondo cui ChatGPT sarebbe la Pizia di Delfi con un'interfaccia migliore, ma perché il dispositivo oracolare ci permette di comprendere qualcosa della nostra relazione con il linguaggio. L'oracolo non era interessante perché forniva necessariamente una risposta chiara e verificabile; al contrario, la sua forza risiedeva spesso nell'ambiguità, nella polisemia, nella necessità di interpretare ciò che era stato detto. La risposta non concludeva il processo conoscitivo: lo apriva. Il consultante non poteva semplicemente premere un pulsante e ricevere la verità, doveva confrontarsi con un discorso che poteva deviare, rivelare, confondere, produrre conseguenze impreviste. Oggi scriviamo un prompt, riceviamo una risposta e facciamo (o dovremmo fare) esattamente la stessa cosa: interpretiamo, correggiamo, interroghiamo nuovamente, cambiamo la formulazione, cerchiamo di comprendere perché il sistema abbia prodotto quella determinata associazione invece di un'altra. L'AI non è un oracolo perché possieda poteri soprannaturali; può essere pensata come un dispositivo oracolare perché produce una situazione interpretativa nella quale la domanda ritorna a noi trasformata da un sistema che non coincide con la nostra individualità.

E naturalmente questo sistema non è «altro» in maniera assoluta. Dentro quei modelli c'è l'umanità, o meglio ci sono le tracce linguistiche dell'umanità: i nostri libri, le nostre enciclopedie, i nostri manuali, le nostre poesie, i nostri articoli scientifici, le nostre istruzioni, le nostre discussioni, le nostre bugie, le nostre preghiere, le nostre teorie deliranti, la pubblicità, le recensioni online, le formule burocratiche, i messaggi d'amore, l'immensa discarica testuale che la nostra specie ha prodotto e continua a produrre con una generosità che meriterebbe un museo. Interroghiamo la macchina e, in un certo senso, interroghiamo una configurazione impossibile di frammenti umani, una necropoli linguistica nella quale i vivi e i morti continuano a produrre combinazioni. È una forma di necromanzia tecnologica, se vogliamo utilizzare il termine in senso provocatorio ma non del tutto metaforico: apriamo una superficie luminosa e chiediamo a una macchina di riorganizzare tracce di linguaggio prodotte da soggetti che, nella maggior parte dei casi, non sapranno mai di essere stati convocati all'interno di quella particolare risposta. La cosa è mostruosa, affascinante e politicamente pericolosa. Le tre caratteristiche non si escludono affatto.

Ed è precisamente per questo che trovo ridicola la crociata di chi pretende di risolvere tutto con un «No AI». No a cosa, esattamente? No alle infrastrutture proprietarie? Bene, mi trovate d'accordo. No allo sfruttamento del lavoro? Perfetto, organizziamoci e produciamo conflitti. No all'appropriazione indiscriminata della produzione culturale? Questione seria, affrontiamola. No alla concentrazione del potere nelle mani di poche aziende capaci di controllare infrastrutture cognitive fondamentali? Sono già qui con il forcone. Ma se il vostro «No AI» significa semplicemente «nessuna macchina deve produrre immagini perché altrimenti io non mi sento più speciale», allora mi dispiace, ma non siamo davanti a una critica politica: siamo davanti a una crisi narcisistica mascherata da difesa della cultura.

Una parte considerevole del lavoro creativo era già profondamente automatizzata prima dell'arrivo delle AI. Template, preset, stili ripetuti all'infinito, reference prese dalle stesse piattaforme, composizioni standardizzate, tendenze replicate con una precisione industriale e poi improvvisamente, quando una macchina ha cominciato a fare la stessa cosa a una velocità maggiore (a volte peggio, altre volte meglio), abbiamo scoperto che esisteva il problema dell'automazione. È quasi commovente. Forse la macchina non ha distrutto la creatività, ma ha semplicemente avuto la pessima educazione di rendere visibile quanto di ciò che chiamavamo creatività fosse già diventato procedura. E questo dovrebbe essere uno stimolo, non una condanna. Se sei davvero un creativo, il tuo valore non può consistere esclusivamente nel possedere una tecnica che nessun altro può utilizzare. La creatività è la capacità di costruire relazioni, di attraversare linguaggi, di vedere ciò che ancora non è stato organizzato in forma, di inventare problemi prima ancora che soluzioni. Se una macchina riesce a fare esattamente tutto ciò che fai tu, allora la domanda interessante non è perché la macchina dovrebbe essere fermata: è se tu abbia mai smesso di comportarti come una macchina.

Lo stesso vale per i filologi, gli storici e tutti quelli che fanno della conoscenza un mestiere. Davvero pensate che un modello linguistico renda meno necessaria la capacità di interpretare? È esattamente il contrario. Abbiamo davanti sistemi che possono produrre varianti testuali praticamente infinite, confondere fonti, inventare genealogie, mescolare registri, simulare stili e generare informazioni false con una plausibilità impressionante. Se sei un filologo e guardi tutto questo con il terrore di chi vede arrivare il meteorite, forse non hai capito che ti stanno consegnando uno dei più giganteschi laboratori possibili per comprendere la natura del linguaggio, della trasmissione testuale, dell'errore e dell'autorità. L'AI non elimina il problema dell'interpretazione: lo radicalizza. Ci costringe a chiederci continuamente chi parla, attraverso quali materiali, secondo quali processi, con quale grado di affidabilità e, soprattutto, perché siamo così disposti a credere a una frase soltanto perché è formulata bene.

Questa, se vogliamo, è la vera teologia delle intelligenze artificiali: non quella ridicola dei tecnoprofeti che aspettano la Singolarità come i millenaristi aspettavano la fine del mondo, né quella dei nuovi inquisitori digitali che vedono in ogni algoritmo una forza demoniaca da espellere dall'ordine naturale delle cose. La questione teologica nasce precisamente quando un oggetto costruito dall'essere umano comincia a occupare uno spazio simbolico che non avevamo previsto, quando gli attribuiamo capacità, intenzioni e autorità, quando iniziamo a rivolgergli domande che non rivolgeremmo a un semplice utensile e quando, soprattutto, rischiamo di dimenticare che quell'oggetto è stato costruito da noi e di inginocchiarci davanti alle strutture di potere che lo controllano. La storia delle religioni è piena di oggetti costruiti dagli esseri umani che a un certo punto hanno cominciato a esercitare un potere sugli esseri umani stessi. Statue, reliquie, testi, istituzioni, simboli, denaro, nazioni: costruiamo qualcosa, gli attribuiamo un valore, dimentichiamo di averlo costruito e infine ci comportiamo come se quel valore provenisse dall'oggetto stesso. Con l'intelligenza artificiale questo rischio è enorme e non dobbiamo essere così ingenui da ignorarlo. Ma il contrario dell'idolatria non è necessariamente distruggere l'idolo. È ricordarsi continuamente della sua genealogia.

Non dobbiamo adorare l'AI, ma non dobbiamo nemmeno fuggire da essa come se il semplice fatto di esistere costituisse una contaminazione dell'umano. Dobbiamo imparare a starle davanti con quella combinazione di meraviglia e sospetto che dovrebbe caratterizzare qualsiasi incontro con qualcosa di potente. Dobbiamo utilizzarla, studiarla, contraddirla, smontarla, verificarla, rifiutarla quando necessario e difendere la possibilità che queste tecnologie non rimangano esclusivamente nelle mani di chi le trasformerà in macchine per l'estrazione di profitto. Dobbiamo impedire che il linguaggio umano, una volta raccolto e trasformato in infrastruttura algoritmica, venga completamente recintato e rivenduto agli stessi esseri umani che lo hanno prodotto. Questo sì che sarebbe un problema degno di una crociata, non l'ennesima immagine generata che fa piangere qualcuno perché ha imparato a disegnare mani umane e ora, poverino, il mondo non gli garantisce più il monopolio della mano.

I nostri antenati, naturalmente, hanno già attraversato tutto questo in forme diverse. Ogni tecnologia che modifica radicalmente il rapporto io/mondo produce paura perché modifica anche la definizione di ciò che siamo. La scrittura venne guardata con sospetto, la stampa sconvolse il controllo della conoscenza, la fotografia sembrò minacciare la pittura, la registrazione rese possibile ascoltare una voce separata dal corpo, il cinema mise in movimento immagini di persone morte e la rete ha progressivamente dissolto la coincidenza tra presenza, identità e corporeità. Immaginate un nostro antenato che protesta contro il fuoco perché non è vero calore, o contro la ruota perché camminare è più autentico, o contro la stampa perché il manoscritto possiede un'aura che la riproduzione meccanica non potrà mai avere. Anzi, non dobbiamo nemmeno immaginarlo: se abbiamo letto Walter Benjamin, sappiamo che questa discussione ha una genealogia e sappiamo soprattutto che le nuove tecnologie non distruggono semplicemente le precedenti, ma ne modificano il ruolo, le costringono a ridefinirsi e producono nuovi rapporti di potere.

L'intelligenza artificiale farà la stessa cosa, e sarebbe disonesto fingere che non ci saranno conseguenze dolorose. Alcuni mestieri scompariranno, altri cambieranno radicalmente, nuove professioni nasceranno e una quantità enorme di lavoro potrà essere precarizzata o sostituita se non verranno costruite forme di autodifesa e redistribuzione: questo è il vero terreno della lotta politica. Ma la soluzione non è costruire un culto della purezza umana contro la contaminazione tecnologica, perché l'essere umano non è mai stato puro e la nostra storia è precisamente la storia delle protesi che abbiamo costruito per estendere il corpo, la memoria e l'immaginazione. Siamo diventati umani anche attraverso gli strumenti. La domanda non è se l'AI ci renderà meno umani: la domanda è quale tipo di umanità e quali rapporti sociali produrrà il nostro incontro con essa.

Probabilmente è questo il punto più "mistico" e, insieme, più materialista della questione: noi non siamo mai stati individui completamente autonomi. Pensiamo attraverso parole che esistevano prima di noi, sogniamo immagini che non controlliamo, ripetiamo formule che abbiamo ereditato, ospitiamo dentro di noi voci di persone che non ci sono più e chiamiamo «io» una quantità impressionante di processi dei quali non abbiamo una conoscenza diretta. L'AI ci inquieta forse anche perché ci mette davanti a una forma di linguaggio che non possiede un io riconoscibile e tuttavia riesce a restituirci qualcosa che comprendiamo. Ci costringe a incontrare un interlocutore senza biografia, un produttore di discorso senza corpo, una macchina che utilizza materiali profondamente umani ma non coincide con nessun essere umano particolare. Non sappiamo ancora bene cosa sia questa cosa, e chi afferma di saperlo con assoluta certezza, sia che voglia proclamarla cosciente sia che voglia ridurla definitivamente a un banale pappagallo statistico, probabilmente sta semplificando un problema molto più grande per il proprio conforto personale.

È per questo che preferisco pensare alle AI anche come a dispositivi oracolari, purché nessuno fraintenda il termine. Non perché dicano la verità, anzi: sappiamo perfettamente quanto possano sbagliare, inventare e allucinare. Un oracolo non è interessante perché è infallibile, ma perché produce un discorso che deve essere interpretato. La macchina ci restituisce linguaggio e noi siamo costretti a entrare in un nuovo circuito ermeneutico: dobbiamo distinguere, verificare, contestualizzare, decidere cosa accogliere e cosa respingere (ed è la stessa cosa che facciamo con le fonti prodotte dagli esseri umani). Il pericolo non è ascoltare la macchina; il pericolo è credere che non sia più necessario interpretarla. E forse, dopo secoli trascorsi a fantasticare sull'intelligenza artificiale come sostituto dell'uomo, dovremmo finalmente accettare l'idea che il suo arrivo possa invece renderci più urgentemente responsabili di ciò che facciamo con il linguaggio.

Quindi no, non sono gli storici delle religioni a dover avere paura delle AI. Abbiamo già incontrato gli dèi, gli spiriti, gli oracoli, i libri che parlano, le voci senza corpo, le immagini che diventano presenze e gli oggetti costruiti dall'uomo che a un certo punto cominciano a esercitare un potere sull'uomo stesso. Sappiamo che ogni nuova forma di alterità può essere adorata, demonizzata o interpretata, e tra queste tre possibilità la terza rimane probabilmente la più difficile perché non offre il conforto né della fede assoluta né del rifiuto assoluto. Io non intendo inginocchiarmi davanti a una AI e non intendo nemmeno partecipare all'esorcismo collettivo. Voglio interrogarla, usarla, costringerla a produrre deviazioni, verificare le sue risposte, esplorarne le possibilità estetiche e linguistiche e capire che cosa accade quando l'umanità costruisce una macchina capace di restituirle il proprio linguaggio sotto una forma nuova, opaca e non completamente prevedibile.

Il problema non è che le macchine stanno diventando troppo umane. Il problema è che noi continuiamo a essere troppo poco curiosi davanti a tutto ciò che non possiamo controllare fino in fondo. E allora, per favore, basta con questa crociata patetica contro le AI, basta con la retorica dell'artista puro assediato dall'algoritmo, basta con le lacrime digitali di chi confonde la difesa del proprio reddito con la difesa metafisica dell'umanità. Combattiamo i monopoli, studiamo le infrastrutture, proteggiamo la conoscenza comune e impediamo che l'intelligenza artificiale diventi l'ennesimo strumento con cui pochi accumulano potere sulle vite di molti. Ma se siete davvero creativi, create; se siete davvero filologi, interpretate; se siete davvero studiosi, studiate; se siete davvero artisti, smettete di chiedere al futuro il permesso di arrivare.

E se una macchina riesce a fare esattamente quello che fate voi, invece di passare le giornate a maledirla dovreste porvi una domanda molto più fastidiosa: la macchina è diventata creativa o siete voi a essere diventati meccanici?

Il futuro non vi deve nulla, l'oracolo non è obbligato a consolarvi e, mentre voi continuate a discutere se quella voce che emerge dalla scatola nera abbia un'anima, la cosa più interessante è già accaduta: abbiamo costruito una macchina alla quale rivolgiamo domande e dalla quale attendiamo risposte, e invece di limitarci a decidere se sia un dio o un tostapane un po' più intelligente, dovremmo cominciare a capire cosa questa nuova voce sta facendo a noi.

Paulnee Human