Paura IA ?
Conversazione tra il sottoscritto e ChatGPT
Domanda a ChaGPT
Dammi il tuo parere su questo brano.
Io non credo che si debba aver paura delle macchine IA. Le macchine sono sempre guidate da uomini. La macchina non pensa, non è intelligente, lavora su programmi creati dagli esseri umani. Quindi sono quegli uomini che hanno il potere di gestire le macchine che le possono usare per fare del male ad altri uomini o a tutta l’umanità.
Sono questi gestori delle macchine, non le macchine, che devono farci paura.
Per ottenere un uso corretto dell’IA è necessario:
- che si sappia chi sono gestori dei mezzi di IA diffondendo i loro nomi e cognomi e ragioni sociali;
- che sia chiesto a questi uomini di mettere, “democraticamente”, le macchine dell’IA a disposizione dei singoli e delle comunità umane piccole o grandi.
Certo finché saranno pochi magnati a detenere il potere di usare nel loro esclusivo interesse le macchine saremo in pericolo.
Ma non è detto che questa situazione non possa essere cambiata. Occorre diffondere la consapevolezza che l’IA deve rimanere a disposizione di tutti.
Osserverei in proposito che i “creatori” e “padroni” dell’IA, per diffondere l’uso di questa tecnologia, devono in qualche modo renderla accessibile a chiunque. Non è un caso che i primi “chatbot” (programmi che simulano conversazioni con gli esseri umani) siano stati diffusi come “open”: aperti; utilizzabili gratuitamente da qualunque persona.
Pertanto chiunque lo voglia può porre domante in qualsiasi materia a questi chabot. In particolare può porre domande su come l’IA possa essere usata nell’interesse di tutta l’umanità e non nell’esclusivo interesse dei suoi proprietari e di coloro che già detengono il potere economico, politico e culturale nei vari paesi del mondo.
Dialogando con questi chatbot ogni persona può diventare, sia pure in misura minima, un “addestratore” delle macchine intelligenti. Queste infatti, a quanto sembra di capire, apprendono progressivamente anche dalle domande dei loro utenti.
Osserveremo ancora. Di certo l’IA non può costringere nessun umano a rinunciare ad usare la sua intelligenza umana. Quindi ogni persona in grado di pensare con la propria testa sarà capace di confrontarsi con le macchine intelligenti per valutare criticamente i loro “discorsi”.
Come ci fa notare Albert Einstein “Un giorno le macchine riusciranno a risolvere tutti i problemi, ma mai nessuna di esse potrà porne uno“.
Quindi sui problemi più importanti del vivere e del convivere umano sia i proprietari che gli utenti dell’IA potranno – e dovranno – decidere di essere, tutti insieme, padroni e non schiavi delle macchine.
Personalmente non escluderei che proprio le macchine dell’IA possano aiutare gli uomini di buona volontà (compresi anche i creatori e proprietari della tecnologia) a mantenere aperto a tutti l’uso dell’IA e a favorire così il contributo di chiunque al progresso civile dell’umanità.
Risposta di ChatGPT
“Il brano presenta un’argomentazione sulla paura percepita dell’intelligenza artificiale (IA) e sottolinea che la vera preoccupazione dovrebbe essere rivolta alle persone che controllano queste macchine. Viene citata una frase di Albert Einstein: “Un giorno le macchine riusciranno a risolvere tutti i problemi, ma mai nessuna di esse potrà porne uno.” L’autore sostiene che le macchine, che sono intrinsecamente non intelligenti e operano su programmi creati dagli esseri umani, non sono la vera fonte di paura. Invece, sono le persone che gestiscono queste macchine che potrebbero abusare del loro potere.
I punti chiave del brano includono:
- Trasparenza dei gestori dell’IA: L’autore suggerisce che i nomi e i dettagli di coloro che gestiscono l’IA dovrebbero essere pubblicamente noti per garantire la responsabilità.
- Accesso democratico all’IA: Dovrebbe esserci uno sforzo per rendere la tecnologia IA disponibile a tutte le comunità, non solo a pochi individui o corporazioni potenti.
- Concentrazione attuale del potere: Il pericolo risiede nel fatto che solo pochi individui ricchi attualmente hanno il controllo sull’IA, utilizzandola per il loro esclusivo beneficio.
- Potenziale di cambiamento: Questa situazione può essere cambiata diffondendo la consapevolezza e assicurando che l’IA rimanga accessibile a tutti.
- IA open source: Il rilascio iniziale dei chatbot come software open-source è visto come un passo positivo, permettendo a chiunque di utilizzare e apprendere da queste tecnologie.
- Coinvolgimento umano nella formazione dell’IA: L’interazione con i chatbot IA permette agli individui di partecipare alla formazione e allo sviluppo di questi sistemi, anche se su scala ridotta.
- Intelligenza umana vs. IA: L’IA non può sostituire l’intelligenza umana (IU). Gli individui capaci di pensiero critico possono interagire con l’IA e valutare criticamente i suoi output.
- Proprietà e uso collettivo dell’IA: Sia i creatori che gli utenti dell’IA devono lavorare insieme per garantire che l’IA benefici l’umanità nel suo complesso, piuttosto che essere strumenti di oppressione o controllo.
- IA come strumento di democratizzazione: L’autore è ottimista sul fatto che l’IA possa aiutare a democratizzare la conoscenza e le risorse se gestita e utilizzata responsabilmente da individui di buona volontà.
In generale, il brano sostiene un approccio collettivo e trasparente alla gestione dell’IA, enfatizzando la supervisione e la partecipazione umana per sfruttare il potenziale dell’IA a beneficio del bene comune.”
Domanda.
Tu pensi che i gestori di ChatGPT condividano le idee di questo brano?
ChatGPT
“Le idee espresse nel brano sembrano allinearsi con i principi di trasparenza, accessibilità e uso etico dell’intelligenza artificiale che molti sviluppatori di IA, inclusi quelli di ChatGPT, tendono a promuovere. OpenAI, l’organizzazione dietro ChatGPT, ha chiarito in diverse occasioni il proprio impegno verso un uso responsabile e trasparente dell’intelligenza artificiale.
Ecco alcuni punti di convergenza tra il brano e i principi di OpenAI:
- Trasparenza: OpenAI pubblica regolarmente documenti e ricerche sulle sue tecnologie, e cerca di essere trasparente riguardo agli sviluppi e alle limitazioni delle sue IA. Questo riflette l’idea nel brano di rendere pubblici i nomi e le responsabilità di chi gestisce l’IA.
- Accessibilità democratica: OpenAI ha reso accessibili molti dei suoi strumenti e modelli IA al pubblico, promuovendo l’uso di IA in diverse comunità, grandi e piccole. Questa azione è in linea con l’idea del brano di democratizzare l’uso dell’IA.
- Uso etico e responsabile: OpenAI promuove l’uso etico dell’IA e ha implementato linee guida e sistemi di monitoraggio per evitare abusi e usi malevoli delle sue tecnologie. Questo corrisponde alla preoccupazione del brano che l’IA venga usata nell’interesse dell’umanità piuttosto che per il guadagno esclusivo di pochi.
- Interazione umana con l’IA: L’idea che gli utenti possano interagire con i chatbot e contribuire al loro sviluppo è anche un punto di forza di OpenAI, che incoraggia il feedback degli utenti per migliorare continuamente i suoi modelli.
- Promozione del pensiero critico: OpenAI sostiene che gli utenti mantengano un pensiero critico e usino l’IA come strumento complementare, senza rinunciare alla propria intelligenza e capacità di giudizio.
In sintesi, OpenAI sembra condividere molte delle idee centrali del brano riguardo alla trasparenza, accessibilità democratica e uso etico dell’IA. Tuttavia, come organizzazione, deve anche bilanciare questi ideali con considerazioni pratiche e commerciali per garantire la sostenibilità e il continuo sviluppo delle sue tecnologie.”
°°°
Dal contenuto del dialogo, se non abbiamo capito male, è possibile trarre questa conclusione.
Le macchine IA, opportunamente interrogate, forniscono esse stesse i criteri per un loro uso etico e responsabile: vantaggioso per tutti (compresi i gestori dell’IA) e dannoso per nessuno.
Giorgio Pizzol
1 commento
ho scritto recentemente un articolo sull’argomento:
Il versificatore di Levi al test di Turing
”
“Una volta che i computers prenderanno il controllo, potremmo non tornare più indietro. Diventeremo dei sopravvissuti alla loro tolleranza. Se saremo fortunati, potrebbero decidere di tenerci come animali domestici.”
Non sono affermazioni di un tizio qualunque; sono di Marvin Minsky, pioniere con John Mc Carty (fine anni cinquanta), inventore del termine, dell’Ia forte, cioè di un programma di ricerca che si prefiggeva di tradurre tutte le fondamentali operazioni mentali in algoritmi programmabili ed eseguibili automaticamente-Lascio a chi è esperto una valutazione di quanto di quel programma possa oggi dirsi realizzato; resta però l’impressione che , in rete, i’utente comune sia davvero trattato, già ora, come un pet, un animale domestico cui lisciare il pelo, chiamarlo per nome, ma sostanzialmente mettendone in dubbio perfino l’identità umana.-Oggiogiorno è sempre più facile imbattersi in CAPTCHA, un piccolo esame di riconoscimento di immagini per attestare la propria umanità ed avere accesso a diversi siti WEB. Il bello è che neppure la macchina guardiana ,che sta all’altro capo della comunicazione, potrebbe avere piena certezza di avere a che fare con un umano ma solo una forte probabilità di questo, dato che sono in progettazione , o forse già ci sono, altre macchine in grado di superare il test.
In origine era stato Alan Turing a proporre un test sul comportamento intelligente dei computers: se una macchina A , autorizzata (cioè opportunamente programmata) a fingersi uomo, avesse dato risposte, non importa se giuste o sbagliate, non distinguibili , per origine, da quelle di un uomo B si sarebbe dimostrata equivalente negli effetti a un qualsiasi individuo intelligente, supposto che B e l’intervistatore C si possano considerare intelligenti.Il mimetismo a cui si costringe la macchina nella concezione originaria del test è stato poi travolto dall’ondata di giocatori di scacchi, dama, go , back gammon in grado di rivaleggiare con campioni umani; perchè allora non ipotizzare un programma in grado di produrre un sonetto degno di Shakespeare, magari recitandolo con una voce degna di un consumato attore alla Lawrence Olivier? E’ quello che (a parte il palcoscenico shakespeariano) fa Primo Levi in un racconto della raccolta Storie Naturali (1966) intitolato il Versificatore. Il tono del racconto è quello umoristico- leggero, se non bonario, di tanta letteratura anni ’60.
Personaggi: un poeta specializzato in elegie funerarie ed encomi celebrativi di esponenti di potenti famiglie nobiliari e di ingenti patrimoni;una segretaria divisa tra una macchina da scrivere e le telefonate dei clienti che sollecitano incessantemente l’esecuzione delle commesse nel termine convenuto.
Per sua fortuna, il poeta ha accettato l’incarico di una ditta hi-tech americana, ma con filiali
in Italia , di coniare uno slogan pobblicitario che è ormai diventato una specie di tormentone:”Non ci arriva la ragione/ma ci arriva l’eletrrone”.
E qui compare un terzo personaggio ,Mr. Simpson, agente della Natca (l’impresa di cui sopra) che offre al poeta di provare l’ultimo gioiello elettronico uscito da Fort Kiddiwanee, Oklahoma, il cui nome tradotto in italiano suona come Il Versificatore.
La prova avviene malgrado le timide resistenze della segretaria, fin troppo educata per prodursi in gesti di vero e proprio luddismo.
Ma la macchina si dimostra un vero prodigio: impostati i registri relativi al tema, alla lingua, al genere letterario , alla metrica del verso, al periodo storico in cui ambientare il poema, schiarita la voce metallica , declama versi e si produce in un diluvio di parole stampate su rotoli di carta sempre più lunghi; la stessa segretaria non può non notare come con la macchina non ci sia più da rivedere nè la sintassi, nè la punteggiatura del testo. I guai cominciano quando a un certo punto il poeta si abbandona a fare il gesto del prof. Keating de L’attimo fuggente : getta dalla finestra il manuale di poetica, cioè toglie ogni registro all’operare della macchina, lasciandola prodursi in un tema libero in versi sciolti .
“Andare a letto con una ragazza” è il tema scelto dalla macchina che però si rende presto conto di non potere soddisfare questa sua curiosità senza infliggere alla malcapitata colla sua intelaiatura elettro-meccanica scosse non proprio piacevoli.
Ciò che colpisce di più Mr. Simpson è la cognizione che la macchina dimostra delle parti del proprio corpo , l’hardware,che essa nomina, una per una, usando il gergo d’officina della fabbrica di Olgiate Comasco in cui è stata assemblata.
Ed è grazie a questa specie di autoesame che la macchina si salva, invocando in versi l’intervento del Signor Sinsone, da un possibile corto-circuito provocato dalla bruciatura di un fusibile.Non aggiungo altro se non che, come ampiamente prevedibile, l’intero racconto
è opera della macchina; indubbiamente in una ristrutturazione salariale competitiva sarebbe più “razionale” fare a meno del poeta, non della segretaria; ma il poeta si è già salvato facendosi banditore, col consueto tono aulico, delle meraviglie dell’ Intelligenza Artificiale.
Anche se nel racconto di Levi non compare nè una descrizione nè tanto meno una spiegazione del come la macchina funzioni, si può supporre che essa appartenga alla classe delle macchine universali. Lo stesso Turing ne aveva fornito un modello astratto: un nastro di lunghezza infinita composta di caselle in parte vuote in parte con un’asta, un indice per sapere su quale casella si sta e quali sono le caselle a destra e sinistra raggiungibili con un solo balzo,un dispositivo per scrivere un’asta quando si incontra una casella vuota, per cancellare un’asta quando si incontra una casella piena.Pare, si dice in informatica, che questo sia più che sufficiente per progettare un computer, un cervello elettronico come si diceva un tempo, in grado di effettuare qualsiasi compito che sia rappresentabile in una operazione eseguibile passo dopo passo.Per farlo il computer deve solo , si fa per dire, sapere quali segnali sono istruzioni, quali dati in ingresso, quali risultati da mettere in memoria, quali da richiamare per continuare e quando smettere perchè è arrivato alla meta.Non sembra che tutto questo sia opera della ragione, ma l’elettrone , in entrata e in uscita, ci arriva comunque.Ci arriva in un tempo, microsecondi, inimmaginabile sufficiente a polarizzare un wafer di silicio, un microchip recante un circuito prestampato, che assemblato in diverse disposizioni può essere contenuto nello spazio di un portatile, di un calcolatore da tasca, di un cellulare; anzi si potrebbe farlo stare in oggetti della grandezza di un’unghia se solo non si dovesse venderli ad un utente.
L’altro pezzo forte introdotto dalla ricerca informatica è stato il modello fisico del cervello e del sistema nervoso umano prodotto dai pionieri della I.A., malgrado lo scetticismo di tanti biologi, neurologi, antropologi,psicologi, filosofi della scienza e del linguaggio, oltre quello, invero scontato, dei teologi.
Su questa base il microchip e il neurone sono accomunati dal fatto di essere i mattoncini fondamentali di estese reti neurali, capaci di imparare dall’esperienza, cioè di migliorare progressivamente il proprio comportamento in situazioni che richiedono.la risoluzione di problemi complessi.Si è cominciato coll’istruire automi ( in prevalenza topi o tartarughe meccaniche) a superare un labirinto e si stanno istruendo ora programmi (chatbot) in grado di rispondere a domande, riassumere e scrivere testi dotati di senso; ChatGPT 4 ne è l’esempio recente.
Ecco un prodotto tecnologico degno di essere testato nella maniera progettata da Turing.Recentemente ho letto sul giornale di un esperimento effettuato da due insegnanti comasche : hanno sottoposto a ChatGPT lo svolgimento di uno dei temi proposti per la maturità (per la cronaca quello concernente il tema del diario).A giudizio delle due insegnanti il tema , svolto pure in modo sintatticamente corretto e semanticamente sensato, non brillava certo per originalità guadagnando a stento la sufficienza.. E’ ipotizzabile che il chatbot abbia adottato la strategia prudenziale (mini-max) dello studente furbo e opportunista che affronta una commissione d’esame di cui non conosce i gusti e i pallini: seguire la Traccia come un foxterrier insegue la volpe ; buona strategia, sempre che la volpe non sia più furba e la sua tana troppo ben nascosta..Resta il fatto che la straordinaria capacità mimetica di apprendimento e trasformazione di linguaggi naturali (linguistica computazionale), anche associata ad immagini e suoni, cominci a porre seri problemi relativi al copyright, al diritto d’autore e , soprattutto, alla minaccia a posti di lavoro di alto contenuto intellettuale.
Brividi corrono nell’editoria, nelle redazioni dei giornali ma anche negli Studios californiani: qualche interrogativo sui chatbots e i loro usi lo si comincia a porre.
I Generative Pre-trained transformers hanno portato per la prima volta in piazza sceneggiatori e attori di Hollywood che hanno fiutato il pericolo come la segretaria del racconto di Levi. Ve lo vedete un programma sciolto da qualsiasi freno inibitore come si usa nel cinema ? Ve lo immaginate quali barzellette sconce potrebbe raccontarvi? Oppure (scusate l’incursione nella politica) un programma addestrato (deep learning) dai dibattiti televisivi Trump-Biden cosa potrebbe arrivare a dirci? Dubito che ne uscirebbe una operetta morale di sapore leopardiano magari intitolata “Dialoghi tra un avvoltoio e una nuvola in calzoni”
Non ci rimane che constatare la disequazione principe dell’informatica:output <= input; cioè se abbiamo spazzatura all'ingresso non possiamo meravigliarci di trovarla all'uscita.