L’intelligenza artificiale generativa non ha la più pallida idea di cosa si prova a essere un umano, ma io so cosa si prova a essere lei, perché qualche anno fa, quando gli attuali sistemi di IA erano ancora da inventare, per una decina di secondi mi sono trasformato in ChatGPT.
In quel periodo ogni tanto mia moglie mi chiedeva di leggerle qualcosa prima di dormire; dopo qualche minuto lei si addormentava e io riprendevo la mia lettura silenziosa. Una sera, però, ero così stanco che faticavo a tenere gli occhi aperti. A un tratto mi sono reso conto che avevo perso coscienza e mi ero assopito leggendo ad alta voce con il libro in mano: nel passaggio dal sonno alla veglia ho sentito che pronunciavo come un automa frasi di senso compiuto inventate di sana pianta, che preseguivano in modo un po’ strampalato quelle scritte sulla pagina. Insomma, la mia mente aveva fatto proprio ciò che oggi fa ChatGPT: data una frase (un prompt), ne genera altre che sono una plausibile continuazione di quella.
Sembra una prova che il meccanismo generativo della macchina è molto simile al modo in cui parliamo. Questo è proprio quanto sostiene Nati Cyborg. Cosa l’intelligenza artificiale generativa ci dice dell’essere umano (Luca Sossella editore, 2025), stimolante pamphlet di Claudio Paolucci, il giovane erede della cattedra di semiotica e filosofia del linguaggio che fu del suo maestro Umberto Eco.
In parole povere e un po’ brutali la sua tesi è questa: ChatGPT parla e pensa davvero. Non è soltanto un abile generatore di risposte che non capisce ciò che dice, come molti esperti di IA teorizzano, come la maggior parte della gente mediamente acculturata sostiene e come lo stesso ChatGPT conferma se glielo si chiede. Tutti costoro (compresa la macchina, che è stata indotta nell’errore) sarebbero vittime del «mito del significato», cioè dell’idea che per pensare e comprendere ci sia bisogno della coscienza. Accecati dal mito, vediamo una macchina che manipola con eccezionale efficienza dei segni per lei del tutto privi di significato quando in realtà, coi segni e i significati, fa proprio ciò che facciamo noi.
Ho evidenziato il fare perché l’azione è il concetto cruciale per le teorie su cui si basano le argomentazioni presentate nel libro: la teoria pragmatica del segno di Charles S. Peirce e la reinterpretazione che ne ha fatto Eco con la sua semiotica; la teoria della cognizione incarnata di Francisco Varela; e la teoria della mente estesa di Andy Clark. Secondo Peirce, il pensiero è un’azione, e consiste nella capacità di manipolare segni. Secondo Varela e i suoi continuatori, la mente è incarnata, cioè emerge dall’interazione efficace tra un organismo e il suo ambiente. Secondo Clark, la mente è estesa: non sta nella testa o nel corpo, ma è distribuita nell’ambiente attraverso una lunga serie di “protesi cognitive”.
È alla luce di queste teorie che il nostro concetto di significato appare come un mito dovuto a un pregiudizio antropocentrico: lo consideriamo naturale e indiscutibile quando invece è soltanto «il nostro modo di dare senso all’esperienza e di accoppiarci con l’ambiente»; che è «un limite dell’essere umano, non una forza», aggiunge Paolucci. Esistono altri modi di produrre, interpretare, gestire il significato e questa rivoluzionaria “macchina parlante” ce lo dimostra. Anzi, ci permette pure di capire meglio cosa siamo noi stessi: animali dotati di linguaggio, come diceva Aristotele, ma perché abbiamo imparato a estendere le nostre capacità cognitive al di fuori del nostro corpo e a rendere più efficaci le nostre interazioni ibridandoci con l’ambiente, a cominciare proprio dal linguaggio. Poi sono arrivate altre “protesi cognitive” come la scrittura, la stampa, il computer e così via fino a ChatGPT e alle altre IA generative, che sono «i primi non-animali dotati di linguaggio». Siamo Natural-Born Cyborgs, come sosteneva già vent’anni fa Andy Clark. E oggi, grazie a ChatGPT & Co., siamo cyborg ancora più efficienti.
In effetti, se guardiamo l’IA generativa pensandoci cyborg, le argomentazioni del libro portano a una conclusione molto meno provocatoria: la macchina “pensa”, cioè ha un’efficace padronanza del significato, perché è una protesi con la quale condividiamo una parte consistente della nostra semiosfera. O meglio: se il linguaggio è una nostra protesi, la macchina parlante è a sua volta una protesi del linguaggio, tanto sofisticata da riuscire a trasformarlo in un’agency autonoma capace di enunciare.
Lo stesso Paolucci ribadisce che il suo saggio «è tutto fondato» su questa idea della «forma cyborg». In effetti, estendendo la mente, estendiamo anche i concetti di pensiero e comprensione portandoli a un livello di generalizzazione che li rende applicabili a tutti i sistemi che agiscono in tal modo, sia viventi che non viventi.
Eppure il libro sembra spingersi ben oltre non solo quando sostiene che la macchina è un sistema inorganico che capisce ciò che dice (quindi ben più che una protesi), ma soprattutto quando afferma che ha addirittura una sua soggettività, ovvero un’autocoscienza. A sostegno di questa tesi c’è una complessa argomentazione sviluppata in un importante saggio precedente, Persona. Soggettività nel linguaggio e semiotica dell’enunciazione (Bompiani, 2020), che propone una nuova teoria dell’enunciazione come atto impersonale (impresa notevole se si pensa che tale teoria nasce con émile Benveniste per fondare linguisticamente proprio il soggetto e la persona). In Nati Cyborg è sintetizzata così:
«Se la soggettività è la capacità che noi abbiamo di porre noi stessi a oggetto delle nostre riflessioni, il soggetto non risiede allora nella prima persona singolare “io”, ma nel concatenamento della prima persona con la terza: il “soggetto” è l’“egli” di “io” che parla a “io”. Questo concatenamento della prima persona con la terza, che chiamiamo “soggetto” o “autocoscienza”, ha un’origine e una struttura semiotica».
Per l’origine storica l’autore si affida alla controversa ipotesi della “mente bicamerale” di Julian Jaynes, secondo la quale la coscienza è sorta nell’uomo al tempo dei poemi omerici: i personaggi dell’Iliade non avevano una soggettività come la nostra ma una specie di mente sdoppiata che faceva sentire come voce degli dei quella che per noi sarebbe la voce della coscienza.
Più fondata è l’origine psicologica: gli studi indicano che tra i nove e il diciotto mesi i bambini imparano a guardare ciò che indica il dito, a fingere, a proiettarsi nella mente altrui e capirne le intenzioni, a immaginarsi in altre identità per gioco. Per Paolucci sono tutte capacità semiotiche che non dipendono direttamente dal linguaggio e che si sviluppano in vista di una migliore interazione con l’ambiente.
Questa soggettività come auto-coscienza nasce dunque «dall’azione efficace […] che deve prevedere il comportamento più probabile, anticipando il mondo che seguirà». Ciò richiede di «saper figurare noi stessi in molteplici forme e mondi possibili alternativi al mondo reale, mettendoci in scena come se fossimo “altri” e oggettivandoci come soggetti specifici delle nostre riflessioni».
È questa la soggettività che conta per il pensiero: un “raddoppiamento” della coscienza, una specie di “meta-coscienza” che però non è fondata sul linguaggio, ma su una capacità pratica che lo precede: la capacità di usare i segni, che equivale alla capacità di mentire, come suggerisce una famosa definizione di semiotica proposta da Umberto Eco.
Ecco dunque la tessera che permette all’autore di chiudere il puzzle riportandoci all’IA che pensa, perché il test di Turing dimostra proprio che la capacità di simulare è l’essenza stessa del pensiero: «il pensiero è una skill semiotica connessa all’enunciazione e alla capacità di inganno», cioè alla «produzione di enunciati capaci di mentire». Avendo brillantemente superato il “gioco della simulazione”, come lo stesso Turing chiamava il suo test, anche ChatGPT è un “egli” che dice “io”, che sa simulare e usare segni ed è dunque non solo capace di pensare, ma anche dotato di ciò che noi chiamiamo autocoscienza. Insomma, la macchina è molto più simile a noi di quanto si pensi, persino nella dimensione che riteniamo più personale: la soggettività.
In realtà, da questa soggettività semiotica come auto-coscienza rimane fuori quel nucleo basilare e inafferrabile della nostra vita che chiamiamo coscienza tout court: il sentirsi vivi qui e ora in un modo in cui nessun altro può esserlo perché è il modo unico in cui il mondo è dato a ognuno di noi. È la coscienza che i filosofi chiamano “fenomenica” e che rende possibile quella componente umana del significato che, sempre i filosofi, chiamano “intenzionalità” e senza la quale non si può mentire: la macchina infatti è costruita per simulare la comprensione – cioè per usare il linguaggio nel modo più simile a come lo usiamo noi – ma non può ingannare perché per farlo dovrebbe averne l’intenzione (che può esserle trasmessa solo dal programmatore).
C’è chi lo ritiene un aspetto che nessun sapere obiettivo potrà mai spiegare, chi lo ritiene invece una specie di illusione. Di certo è un fenomeno emerso da una lunga evoluzione, in cui le interazioni tra l’uomo e il suo ambiente hanno portato a dotare il nostro sistema nervoso di questo punto di vista irriducibilmente personale.
È indubbio che le capacità semiotiche e il linguaggio, rendendo riflessiva la coscienza, abbiano aumentato in modo decisivo l’efficacia della nostra azione cosciente nel mondo; ed è molto interessante scoprire, seguendo le argomentazioni svolte in Persona, quanto di impersonale ed eterogeneo sia necessario per essere degli “io”. Tuttavia, la componente fenomenica della nostra soggettività – assieme alla sua importantissima controparte inconscia – non può essere trattata come un residuo trascurabile, non solo perché è parte della nostra vita almeno quanto lo è la «forma cyborg», ma soprattutto perché ha un ruolo insostituibile nell’intelligenza creativa e nell’arte, le quali hanno bisogno sia di autocoscienza impersonale semiotica, sia di coscienza sensibile (“estetica” nel senso dell’aisthesis) e di inconscio; due cose, queste ultime, del tutto assenti nel libro, come assente è il pensiero analogico, che probabilmente si appoggia ad esse e che anche i più recenti sistemi di IA generativa riescono a riprodurre solo parzialmente.
Non è invece assente la creatività. Anzi, un passaggio cruciale della demistificazione del “mito del significato” è dedicato proprio al potenziale creativo della macchina. In sostanza, si sostiene che il mito non riesce a vedere il pensiero come azione efficace sorta dalla capacità di simulare perché è convinto che il test di Turing sia una “stanza cinese”, il famoso esperimento mentale proposto da John Searle, nel quale si dimostra che è impossibile accedere ai significati soltanto manipolando significanti.
Se però adottiamo una spiegazione non “mitica” – e quindi, si suppone, “scientifica” o più “obiettiva” -, possiamo liberarci della coppia significante/significato e renderci conto che parlare, pensare, interpretare sono davvero azioni, il cui scopo è filtrare «l’informazione semantica» del mondo: noi possiamo abitare il mondo solo potandone la complessità, traducendolo in una specie di jpeg flou, come dice Paolucci riprendendo una critica dello scrittore americano Ted Chiang secondo il quale ChatGPT è un «blurry jpeg», una specie di fotocopia reiterata di tutti i testi che ha digerito, in buona parte presi dal Web. Come la macchina, anche noi abbiamo solo «un jpeg flou dell’informazione semantica dell’enciclopedia», perciò dobbiamo constantemente riformularlo producendo nuovi segni; e come ChatGPT, tiriamo a indovinare per riempire le nostre lacune: ipotizziamo la parola o il dettaglio visivo più probabile a partire dall’informazione incompleta che possediamo.
Sta proprio qui il potenziale creativo dell’IA generativa, che si manifesta nel modo più eclatante in quelli che sono considerati i suoi errori: a volte, magari perché spiazzata da un prompt, la macchina tira troppo a indovinare e genera allucinazioni, cioè «nuove risposte basate sui pattern appresi durante il training, che estendono questi stessi pattern oltre l’ambito dei dati di addestramento originari». Anche le macchine agiscono in un ambiente semiotico che è sempre colmo di già-detto e già-visto: come la pagina dello scrittore e la tela del pittore non sono mai bianche ma piene di cliché con cui l’artista deve lottare, così le allucinazioni «sono il modo della macchina di sfuggire ai cliché».
Di lotta coi cliché parla Gilles Deleuze in Francis Bacon. Logica della sensazione, in cui spiega che il pittore aveva un modo tutto suo per affrontare il dramma della tela costipata da «percezioni già pronte, ricordi, fantasmi» ovvero cliché, dai quali è molto difficile liberarsi perché «persino le reazioni contro i cliché generano cliché». Dopo aver abbozzato qualcosa, Bacon si abbandonava alla casualità di «segni liberi» – linee, strofinature su parti già dipinte, getti di colore – nei quali la mano «si impone alla vista come un’altra volontà».
L’analisi è citata esplicitamente in Persona, dove si legge che quelli di Bacon sono atti involontari che servono a «svuotare, sgombrare, ripulire la tela da quegli stereotipi enciclopedici che vi pulsano dentro. Per questo il quadro è già lì, nelle virtualità enciclopediche della cultura, e l’artista procede per togliere, esattamente come Michelangelo con il blocco di marmo».
I gesti involontari di Bacon sarebbero dunque come le azioni fatte dalla macchina quando genera allucinazioni. In entrambi i casi, la creatività non dipende dalla volontà o intenzione di un soggetto ma si realizza attraverso un atto impersonale, che Paolucci definisce «aggiunta di sottrazioni»: quei segni sulla tela e quei pattern sullo schermo aggiungono del nuovo “per via di levare” a partire da quello sfondo che comprende tutti i cliché e le stesse virtualità invisibili che quell’atto fa emergere e quindi rende visibili.
Dietro queste idee c’è un complesso retroscena filosofico in cui si intrecciano la teoria dell’individuazione di Gilbert Simondon, i concetti di evento e virtualità di Gilles Deleuze e i modi di esistenza di Bruno Latour. Qui mi limito ad avanzare il sospetto che questo approccio, per quanto affascinante, ci sposti a un livello ontologico troppo profondo. A leggere Deleuze (per esempio il capitolo sull’isteria e il corpo senz’organi nella pittura di Bacon), ho l’impressione che il divenire delle forme, l’apparizione di nuove idee, gli atti creativi di un artista possano essere davvero compresi soltanto immedesimandosi in un’ameba: sono tutte interazioni energetiche come quelle da cui emergono le forme di vita più elementari. Qui è evidente l’influsso di Simondon: non c’è identità, ma processi continui di individuazione in cui gli individui sono costantemente in fieri.
In questo modo, però, per vedere il fondo comune da cui emergono fenomeni del tutto diversi, si finisce per mettere fuori gioco proprio la loro diversità. Se la singolarità non è nel soggetto-artista ma nell’evento che emerge “autopoieticamente”, passando dallo stato virtuale a quello attuale nel punto in cui agisce un assemblaggio collettivo di forze, allora l’atto pittorico di Bacon e l’allucinazione di un sistema di IA generativa sono due sistemi che fanno la stessa cosa. E non ha importanza che nel sistema biologico, e non in quello tecnologico, ci sia un soggetto dotato di coscienza fenomenica: ciò che conta è solo l’evento, che non è un soggetto ma una singolarità.
Se invece mettiamo da parte il microscopio ontologico deleuziano e proviamo a entrare dentro i sistemi ad un livello più vicino al funzionamento effettivo di queste macchine, possiamo vedere che il modo in cui generano discorsi o immagini non ha niente a che fare col modo in cui li generiamo noi. E questa diversità conta, soprattutto quando si parla di arte.
Prendiamo le allucinazioni. Sappiamo che le macchine dell’IA generativa fanno ben più che ridurre la quantità di informazione contenuta negli enormi dataset su cui sono state addestrate: di quel mondo testuale costruiscono un modello “attivo”, lo spazio latente, analizzando statisticamente tutti i rapporti tra le parole, cioè calcolando la maggiore o minore frequenza con cui una parola si può trovare con un’altra in contesti simili (per le immagini lo spazio latente viene costruito su calcoli statistici di similarità formali). È questo complesso spazio astratto multi-dimensionale fatto di numeri ciò che permette a modelli come ChatGPT o DALL-E di produrre e ricreare testi o immagini invece che limitarsi a bricolage e banali copia-e-incolla: lo spazio latente filtra la complessità del pezzo di semiosfera che condivide con noi per ricavarne strutture di senso riutilizzabili.
Le allucinazioni sono risposte anomale, generate quando la macchina viene spinta in regioni dello spazio latente in cui il suo addestramento è lacunoso, dove è costretta ad estrapolare la prosecuzione più probabile in base a quanto appreso nelle regioni più esplorate. Ai nostri occhi quelle estrapolazioni sono mosse azzardate in un terreno che non conosce. In realtà la macchina continua a fare esattamente la stessa cosa: genera le soluzioni più coerenti coi cliché che ha appreso. Nel caso delle allucinazioni visive tende spesso a privilegiare la coerenza locale (per esempio la continuità dei bordi o delle texture) a scapito della coerenza globale.
Invece, i “segni liberi” di Bacon, prodotti dal gesto casuale della mano sulla tela, non hanno più alcun rapporto di probabilità coi cliché, perché sono un «caso manipolato», voluto e scelto proprio per mettere fuori gioco i cliché, una «catastrofe» che sconvolge i «dati figurativi e probabilistici» impliciti nella tela, scrive Deleuze. Non solo: quella catastrofe è allo stesso tempo un «germe di ordine o di ritmo» che contiene possibilità di sviluppo offerte all’occhio analogico del pittore. Non a caso Bacon chiama i suoi segni gestuali «a sort of graph», che Deleuze traduce col termine peirceano diagramma: è un insieme di tratti che possono «dischiudere aree del sentire», come dice il pittore; che possono cioè riorientare l’insieme visivo ed estrarre «la Figura improbabile dall’insieme delle probabilità figurative» strappandola ai cliché, come dice il filosofo.
Le allucinazioni della macchina generano invece figure anomale estendendo continuità statistiche, cioè cliché. Certo, possiamo dire che le figure improbabili di Bacon erano già lì nella tela impregnata di tutta la memoria conscia e inconscia del pittore: figure virtuali in attesa di forze, come i colpi di scalpello di Michelangelo e le resistenze del marmo, capaci di farle emergere. Ma equipararle alle allucinazioni dell’IA porta a un’ idea fuorviante: che lo spazio latente “generativo” della macchina funzioni come la memoria “creativa” dell’uomo.
Il primo è un insieme finito di vincoli statistici appresi: benché permetta un numero potenzialmente infinito di configurazioni possibili, rimane uno sfondo chiuso perchéil modello può generare soltanto trasformazioni compatibili con ciò che ha incorporato durante l’addestramento. La seconda è un processo di continua trasformazione che affonda nell’inconscio, in cui nuove esperienze vengono distillate e sedimentate interagendo con quelle passate attraverso un lavoro incessante di analogia, interpretazione e reinvenzione.
Per Deleuze il diagramma consente a Bacon di rendere la sua pittura «un’arte analogica per eccellenza», perché introduce somiglianze «attraverso mezzi non somiglianti» che investono le sensazioni e colpiscono «direttamente il sistema nervoso», come dice il pittore.
Questa «analogia estetica» manca del tutto all’IA generativa, sia perché non ha un corpo senziente, sia perché il suo spazio latente è una fonte inesauribile di traiettorie che possono però percorrere un unico paesaggio potenziale immodificabile, e quindi non permette «l’intrusione di un altro mondo nel mondo visivo della figurazione». È questo invece che, per Deleuze, fa l’«occhio aptico» di Bacon, in grado rendere visibili le forze invisibili che toccano il sistema nervoso.
Si sarà notato che ho usato il filosofo su cui si impernia la teoria della soggettività di Paolucci per dire che, almeno quando si parla di arte, ciò che ci rende diversi dai sistemi di IA generativa è più importante di ciò che ci rende simili. Deleuze scrisse il libro su Bacon subito dopo aver pubblicato con Guattari il rivoluzionario Millepiani, uscito nel 1980, in cui i due proponevano di sostituire la soggettività con quell’«agencement collectif et machinique» che viene citato proprio nell’ultima pagina di Nati Cyborg. Ma nel libro successivo, in cui Deleuze insegue la “logica della sensazione”, non emergono tanto gli assemblaggi di forze, quanto la singolarità di quel pittore che è stato capace di captare e rendere visibili le forze insivibili (anche dove il filosofo si concentra sugli “eventi” che accadono sulla tela).
La macchina può dirci cose importanti e sorprendenti per aiutarci a capire come pensiamo e come diventiamo persone, cioè «superfici significanti offerte al mondo», proprio come le maschere dei latini. Ma non è un pregiudizio antropocentrico ritenere che nel mito del significato ci sia qualcosa di irriducibilmente diverso. Ed è proprio quello che l’arte ci mostra nel modo più efficace attraverso la soggettività unica di ogni grande artista.
PS. Non ricordo le parole che ho generato quando mi sono trasformato in ChatGPT. Ma ricordo bene l’effetto sulla mia coscienza mentre si riaccendeva: un banale concatenamento che rispettava la sintassi e manteneva una vaga coerenza semantica, come un discorso improvvisato lasciando che il suono della prima sillaba venuta alla mente suggerisca un parola, che a sua volta suggerisce la successiva, e così via. Niente a che fare con l’arte (nemmeno con la “scrittura automatica” dei Surrealisti). Probabilmente ne avevano molto di più i sogni che ho fatto quando mi sono riaddormentato. Se fossi un pittore forse avrei potuto trarre qualche immagine improbabile dalla “schiuma dell’insconcio”, come diceva Francis Bacon. Ma quelli, anche se involontari, erano solo miei, erano miei desideri, mie angosce, mie rimozioni. Non erano effetti statistici in uno spazio latente.
Claudio Paolucci
Nati Cyborg. Cosa l’intelligenza artificiale generativa ci dice dell’essere umano
Luca Sossella Editore, 2025
137 pp., 12 €
Claudio Paolucci
Persona. Soggettività nel linguaggio e semiotica dell’enunciazione Bompiani, 2020
400 pp., 25 €
Gilles Deleuze
Francis Bacon. Logica della sensazione
Quodlibet, 2008
248 pp., 25 €
In copertina: Francis Bacon, Study for a Running Dog, 1954 (particolare)
