Paura dell’IA?

ho scritto recentemente un articolo sull’argomento:
Il versificatore di Levi al test di Turing

”
“Una volta che i computers prenderanno il controllo, potremmo non tornare più indietro. Diventeremo dei sopravvissuti alla loro tolleranza. Se saremo fortunati, potrebbero decidere di tenerci come animali domestici.”

Non sono affermazioni di un tizio qualunque; sono di Marvin Minsky, pioniere con John Mc Carty (fine anni cinquanta), inventore del termine, dell’Ia forte, cioè di un programma di ricerca che si prefiggeva di tradurre tutte le fondamentali operazioni mentali in algoritmi programmabili ed eseguibili automaticamente-Lascio a chi è esperto una valutazione di quanto di quel programma possa oggi dirsi realizzato; resta però l’impressione che , in rete, i’utente comune sia davvero trattato, già ora, come un pet, un animale domestico cui lisciare il pelo, chiamarlo per nome, ma sostanzialmente mettendone in dubbio perfino l’identità umana.-Oggiogiorno è sempre più facile imbattersi in CAPTCHA, un piccolo esame di riconoscimento di immagini per attestare la propria umanità ed avere accesso a diversi siti WEB. Il bello è che neppure la macchina guardiana ,che sta all’altro capo della comunicazione, potrebbe avere piena certezza di avere a che fare con un umano ma solo una forte probabilità di questo, dato che sono in progettazione , o forse già ci sono, altre macchine in grado di superare il test.
In origine era stato Alan Turing a proporre un test sul comportamento intelligente dei computers: se una macchina A , autorizzata (cioè opportunamente programmata) a fingersi uomo, avesse dato risposte, non importa se giuste o sbagliate, non distinguibili , per origine, da quelle di un uomo B si sarebbe dimostrata equivalente negli effetti a un qualsiasi individuo intelligente, supposto che B e l’intervistatore C si possano considerare intelligenti.Il mimetismo a cui si costringe la macchina nella concezione originaria del test è stato poi travolto dall’ondata di giocatori di scacchi, dama, go , back gammon in grado di rivaleggiare con campioni umani; perchè allora non ipotizzare un programma in grado di produrre un sonetto degno di Shakespeare, magari recitandolo con una voce degna di un consumato attore alla Lawrence Olivier? E’ quello che (a parte il palcoscenico shakespeariano) fa Primo Levi in un racconto della raccolta Storie Naturali (1966) intitolato il Versificatore. Il tono del racconto è quello umoristico- leggero, se non bonario, di tanta letteratura anni ’60.
Personaggi: un poeta specializzato in elegie funerarie ed encomi celebrativi di esponenti di potenti famiglie nobiliari e di ingenti patrimoni;una segretaria divisa tra una macchina da scrivere e le telefonate dei clienti che sollecitano incessantemente l’esecuzione delle commesse nel termine convenuto.
Per sua fortuna, il poeta ha accettato l’incarico di una ditta hi-tech americana, ma con filiali
in Italia , di coniare uno slogan pobblicitario che è ormai diventato una specie di tormentone:”Non ci arriva la ragione/ma ci arriva l’eletrrone”.
E qui compare un terzo personaggio ,Mr. Simpson, agente della Natca (l’impresa di cui sopra) che offre al poeta di provare l’ultimo gioiello elettronico uscito da Fort Kiddiwanee, Oklahoma, il cui nome tradotto in italiano suona come Il Versificatore.
La prova avviene malgrado le timide resistenze della segretaria, fin troppo educata per prodursi in gesti di vero e proprio luddismo.
Ma la macchina si dimostra un vero prodigio: impostati i registri relativi al tema, alla lingua, al genere letterario , alla metrica del verso, al periodo storico in cui ambientare il poema, schiarita la voce metallica , declama versi e si produce in un diluvio di parole stampate su rotoli di carta sempre più lunghi; la stessa segretaria non può non notare come con la macchina non ci sia più da rivedere nè la sintassi, nè la punteggiatura del testo. I guai cominciano quando a un certo punto il poeta si abbandona a fare il gesto del prof. Keating de L’attimo fuggente : getta dalla finestra il manuale di poetica, cioè toglie ogni registro all’operare della macchina, lasciandola prodursi in un tema libero in versi sciolti .
“Andare a letto con una ragazza” è il tema scelto dalla macchina che però si rende presto conto di non potere soddisfare questa sua curiosità senza infliggere alla malcapitata colla sua intelaiatura elettro-meccanica scosse non proprio piacevoli.
Ciò che colpisce di più Mr. Simpson è la cognizione che la macchina dimostra delle parti del proprio corpo , l’hardware,che essa nomina, una per una, usando il gergo d’officina della fabbrica di Olgiate Comasco in cui è stata assemblata.
Ed è grazie a questa specie di autoesame che la macchina si salva, invocando in versi l’intervento del Signor Sinsone, da un possibile corto-circuito provocato dalla bruciatura di un fusibile.Non aggiungo altro se non che, come ampiamente prevedibile, l’intero racconto
è opera della macchina; indubbiamente in una ristrutturazione salariale competitiva sarebbe più “razionale” fare a meno del poeta, non della segretaria; ma il poeta si è già salvato facendosi banditore, col consueto tono aulico, delle meraviglie dell’ Intelligenza Artificiale.
Anche se nel racconto di Levi non compare nè una descrizione nè tanto meno una spiegazione del come la macchina funzioni, si può supporre che essa appartenga alla classe delle macchine universali. Lo stesso Turing ne aveva fornito un modello astratto: un nastro di lunghezza infinita composta di caselle in parte vuote in parte con un’asta, un indice per sapere su quale casella si sta e quali sono le caselle a destra e sinistra raggiungibili con un solo balzo,un dispositivo per scrivere un’asta quando si incontra una casella vuota, per cancellare un’asta quando si incontra una casella piena.Pare, si dice in informatica, che questo sia più che sufficiente per progettare un computer, un cervello elettronico come si diceva un tempo, in grado di effettuare qualsiasi compito che sia rappresentabile in una operazione eseguibile passo dopo passo.Per farlo il computer deve solo , si fa per dire, sapere quali segnali sono istruzioni, quali dati in ingresso, quali risultati da mettere in memoria, quali da richiamare per continuare e quando smettere perchè è arrivato alla meta.Non sembra che tutto questo sia opera della ragione, ma l’elettrone , in entrata e in uscita, ci arriva comunque.Ci arriva in un tempo, microsecondi, inimmaginabile sufficiente a polarizzare un wafer di silicio, un microchip recante un circuito prestampato, che assemblato in diverse disposizioni può essere contenuto nello spazio di un portatile, di un calcolatore da tasca, di un cellulare; anzi si potrebbe farlo stare in oggetti della grandezza di un’unghia se solo non si dovesse venderli ad un utente.
L’altro pezzo forte introdotto dalla ricerca informatica è stato il modello fisico del cervello e del sistema nervoso umano prodotto dai pionieri della I.A., malgrado lo scetticismo di tanti biologi, neurologi, antropologi,psicologi, filosofi della scienza e del linguaggio, oltre quello, invero scontato, dei teologi.
Su questa base il microchip e il neurone sono accomunati dal fatto di essere i mattoncini fondamentali di estese reti neurali, capaci di imparare dall’esperienza, cioè di migliorare progressivamente il proprio comportamento in situazioni che richiedono.la risoluzione di problemi complessi.Si è cominciato coll’istruire automi ( in prevalenza topi o tartarughe meccaniche) a superare un labirinto e si stanno istruendo ora programmi (chatbot) in grado di rispondere a domande, riassumere e scrivere testi dotati di senso; ChatGPT 4 ne è l’esempio recente.
Ecco un prodotto tecnologico degno di essere testato nella maniera progettata da Turing.Recentemente ho letto sul giornale di un esperimento effettuato da due insegnanti comasche : hanno sottoposto a ChatGPT lo svolgimento di uno dei temi proposti per la maturità (per la cronaca quello concernente il tema del diario).A giudizio delle due insegnanti il tema , svolto pure in modo sintatticamente corretto e semanticamente sensato, non brillava certo per originalità guadagnando a stento la sufficienza.. E’ ipotizzabile che il chatbot abbia adottato la strategia prudenziale (mini-max) dello studente furbo e opportunista che affronta una commissione d’esame di cui non conosce i gusti e i pallini: seguire la Traccia come un foxterrier insegue la volpe ; buona strategia, sempre che la volpe non sia più furba e la sua tana troppo ben nascosta..Resta il fatto che la straordinaria capacità mimetica di apprendimento e trasformazione di linguaggi naturali (linguistica computazionale), anche associata ad immagini e suoni, cominci a porre seri problemi relativi al copyright, al diritto d’autore e , soprattutto, alla minaccia a posti di lavoro di alto contenuto intellettuale.
Brividi corrono nell’editoria, nelle redazioni dei giornali ma anche negli Studios californiani: qualche interrogativo sui chatbots e i loro usi lo si comincia a porre.
I Generative Pre-trained transformers hanno portato per la prima volta in piazza sceneggiatori e attori di Hollywood che hanno fiutato il pericolo come la segretaria del racconto di Levi. Ve lo vedete un programma sciolto da qualsiasi freno inibitore come si usa nel cinema ? Ve lo immaginate quali barzellette sconce potrebbe raccontarvi? Oppure (scusate l’incursione nella politica) un programma addestrato (deep learning) dai dibattiti televisivi Trump-Biden cosa potrebbe arrivare a dirci? Dubito che ne uscirebbe una operetta morale di sapore leopardiano magari intitolata “Dialoghi tra un avvoltoio e una nuvola in calzoni”
Non ci rimane che constatare la disequazione principe dell’informatica:output <= input; cioè se abbiamo spazzatura all'ingresso non possiamo meravigliarci di trovarla all'uscita.