Chi ha potuto fare l’esperienza di un dialogo con ChatGPT? Questo primo incontro ravvicinato ed esplicito con l’Intelligenza Artificiale – perché interagiamo con l’intelligenza artificiale da anni, ma mai prima di adesso lo abbiamo potuto fare in un dialogo fine a sé stesso – ci sta insegnando molto: divertendoci più di quanto ci consentisse il fare domande astruse a Siri o ad Alexa, ma anche allarmandoci un po’.

Scoprire le capacità di assemblaggio dello scibile umano, accelerato e in bella forma, di cui è capace il nostro amico robot, non preoccupa solo chi per mestiere scrive, crea, risponde a domande e fa altre cose analoghe – ma più lentamente e con minore accesso ai dati dell’IA- ma anche chi ha a cuore lo sviluppo umano nel suo complesso.

Il timore non riguarda tanto, come volevano i film di fantascienza degli anni Settanta, una presa di potere da parte delle macchine, quanto una presa di potere da parte del peggio della nostra intelligenza collettiva.

Diventa infatti sempre più chiaro, a mano a mano che si dipanano le centinaia di migliaia di conversazioni tra esseri umani e l’IA, che le risposte dell’intelligenza artificiale ci restituiscono un misto organizzato di quel che sappiamo già, compresi gli errori ivi contenuti, e che questo è diverso dal dirci “la verità”.

Noi vorremmo invece che la tecnologia di rendesse migliori, che gli errori li trovasse e li riducesse, e non solo basandosi su una comparazione tra diverse quantità di ricorrenze di una determinata informazione. Perché non solo le informazioni di partenza, ma anche i collegamenti tra di esse (e questo ormai è chiaro a tutti), sono pieni dei difetti umani che, lentamente e faticosamente, come specie andiamo stanando e cercando di sradicare o rimpiazzare con nuovi errori, più aggiornati e adatti al presente.

Mentre sembra che, nelle parole dello psicologo Tomas Chamorro Premuzic:

“La tecnologia stia diventando il crowdsourcing della saggezza delle masse, che – ammettiamolo – è più spesso l’espressione della stupidità collettiva che non dell’intelligenza”.

Confermando così quel che, prima di lui, aveva detto Oscar Wilde: “Tutto ciò che è popolare è sbagliato”.

Le conversazioni con un’intelligenza artificiale, che attinge il proprio sapere dalla rete intera, rischiano in sintesi di affidarsi più alle conoscenze diffuse che a quelle approfondite di chi quei temi li studia e, nella loro complessità, fa fatica a tradurli nel modo semplice che la popolarità richiede. Non a caso, forse, alle domande più “elaborate” (una conversazione con un’IA è un’ottima palestra per imparare a fare domande intelligenti), ChatGPT risponde spesso concludendo che “comunque il tema è complesso e pieno di casi a sé”, evitando la presunzione ma anche la responsabilità di affermare una risposta definitiva.

Un cerchiobottismo evoluto che la rende simpatica e anche un po’ di basso profilo rispetto ad alcune critiche che le vengono rivolte, come quella di fare del “mansplaining”, ovvero di dare spiegazioni paternalistiche e machiste.

In effetti, ChatGPT replica i bias della conoscenza a cui attinge, non li risolve, e quindi un po’ maschilista lo è per forza. Ma lo sa, tanto che basta chiederglielo e risponderà:

“Essendo un modello di linguaggio AI, non ho né credenze né bias personali. Ciononostante, potrei produrre delle risposte ”biased” se i dati che uso contengono pregiudizi o se il modo in cui viene formulata la domanda contiene dei bias”.

E già questo è rivelatorio: se la domanda contiene dei bias, li conterrà anche la risposta. Quante volte pensiamo invece che le domande siano neutre per definizione, per esempio nei colloqui di lavoro? ChatGPT conclude:

“E’ importante riconoscere che i bias possono essere non intenzionali e che è cruciale trovarli e correggerli sia nei dati che nel linguaggio per prevenirne il perpetuarsi”.

Non c’è quindi nemmeno la pretesa della neutralità, in ChatGPT. Sbaglia, sapendo di sbagliare.

È, come buona parte delle innovazioni tecnologiche che celebriamo oggi, soprattutto uno strumento che accelera i processi e la produzione di output, senza garantire che questo sia migliorativo di per sé.
L’intelligenza umana, in questo senso, ha almeno il pregio della lentezza, dell’originalità e dell’errore sempre nuovo: la Natura, infatti, innova in un modo molto diverso dal progresso tecnologico. Come fa?

Dissemina le specie di caratteristiche casuali, che possono restare inutili per millenni prima che un determinato momento evolutivo le renda necessarie. Questo processo si chiama “esattamento” e funziona sul presupposto che non tutto deve servire a qualcosa: che anzi, spesso il progresso è sostenibile proprio grazie a ciò che appare inutile.

Sfortunatamente, proprio a causa della loro apparente inutilità, possiamo supporre che proprio le caratteristiche che salverebbero le specie non farebbero parte delle informazioni selezionate, accelerate e distribuite da ChatGPT: ne verrebbero scartate per scarsa rilevanza. Se quindi ci affidassimo solo all’IA, rischieremmo di basare la produzione di conoscenza futura sulla massa di quella passata, come una famiglia (anche se molto grande) i cui membri cominciano ad accoppiarsi solo tra di loro – rendendo la famiglia stessa, alla lunga, estremamente vulnerabile.

E allora, per avere paura, non ci sarebbe nemmeno bisogno di immaginare scenari come nella storia scritta da Fredric Brown nel 1955 e intitolata “La risposta”, pure così adatta a questo momento storico:

“Con gesti lenti e solenni, Dwar Ev procedette alla saldatura, in oro, degli ultimi due fili. Gli occhi di venti telecamere erano fissi su di lui e le onde subeteriche portarono da un angolo all’altro dell’universo venti diverse immagini della cerimonia.
Si rialzò, con un cenno del capo a Dwar Reyn, e s’accostò alla leva dell’interruttore generale: la leva che avrebbe collegato, in un colpo solo, tutti i giganteschi computer elettronici, di tutti i pianeti abitati dell’universo – novantasei miliardi di pianeti – formando il supercircuito da cui sarebbe uscito il supercomputer, un’unica macchina cibernetica racchiudente tutto il sapere di tutte le galassie.

Dwar Reyn rivolse un breve discorso a tutti gli innumerevoli miliardi di spettatori. Poi, dopo un attimo di silenzio, disse: “Tutto è pronto, Dwar Ev.”
Dwar Ev abbassò la leva. Si udì un formidabile ronzio che concentrava tutta la potenza, tutta l’energia di novantasei miliardi di pianeti.
Grappoli di luci multicolori lampeggiarono sull’immenso quadro, poi, una dopo l’altra, si attenuarono.
Dwar Ev fece un passo indietro e trasse un profondo respiro. “L’onore di porre la prima domanda spetta a te, Dwar Reyn.” “Grazie” disse Dwar Reyn. “Sarà una domanda a cui nessuna macchina cibernetica ha potuto, da sola, rispondere”.
Tornò a voltarsi verso la macchina.

“C’è, Dio?”

L’immensa voce rispose senza esitazione, senza il minimo crepitio di valvole o condensatori.

“Sì: adesso, Dio c’è.”

Il terrore sconvolse la faccia di Dwar Ev, che si slanciò verso il quadro comando.Un fulmine sceso dal cielo senza nubi lo incenerì, e fuse la leva inchiodandola per sempre al suo posto”.

***

La newsletter di Alley Oop

Ogni venerdì mattina Alley Oop arriva nella tua casella mail con le novità, le storie e le notizie della settimana. Per iscrivervi cliccate qui.

Per scrivere alla redazione di Alley Oop l’indirizzo è: alleyoop@ilsole24ore.com