Art for the AI generation - Art and Artificial Intelligence Laboratory, Rutgers University of New Jersey

 

L’Ignoranza Artificiale (2)

(seguito)

di Vincenzo Rampolla

 

Il 23 novembre 2018 al Centro Mall milanese ha avuto luogo il WOW Business Summit Samsung, convention annuale sull’IA e sulle reti 5G di quinta generazione. Sul palco il Presidente di Samsung Italia, il Direttore Europa e una scia di guru e superesperti. Ospiti del Summit Di Maio, Ministro dello Sviluppo Economico e Casaleggio. Tra la folla anch’io, ignoto tra i più, registrato all’ultimo secondo. Apre il Presidente. Travolge la platea.

In tre anni, più di $22 miliardi sono stati destinati all’IA su $161 miliardi stanziati per lo sviluppo di tutte le attività del Gruppo, sette i Centri di Sviluppo di IA nel mondo.

Segue Casaleggio: L’obiettivo dell’impiego dell’IA non è il mero miglioramento dell’efficienza produttiva, bensì un’apertura verso nuove strade di generazione di valore.

Gli fa eco Di Maio: Nella Legge di Bilancio è previsto un fondo da €50 milioni per le sperimentazioni su IA e un fondo nazionale per l’innovazione con €1 miliardo che riunirà diversi soggetti che vogliono fare Venture Capital per il Governo, aperto agli investimenti delle aziende, per definire linee di incentivazione e sostegno a Startup innovative italiane e straniere.

Conclude Di Maio: Pensiamo a una sorta di hub per promuovere l’IA e l’innovazione in ogni Comune e in ogni città d’Italia. Folla, calca, eccitazione per i 6.250 euro per la promozione dell’IA per ognuno degli 8.000 Comuni d’Italia.

Voglia di porre al Ministro la domanda da giornalista irriverente: Ministro, secondo lei, per quale ragione è stato progettato il nostro cervello? Rintanato nella penombra, penso al cervello nato per fare ogni sorta di cose che gli esseri umani, e solo gli esseri umani, possono fare.

Il punto è che a volte il cervello sa fare cose molto complesse, ma ignora come ciò avvenga, ad esempio creare un’opera d’arte o far fuori i vicini di casa. Parliamo di intelligenza come di un oggetto, una cosa misurabile con un numero: l’età o il quoziente QI? Non è così.

Quante varietà di intelligenza ci sono? Che importa. E allora? Parliamo di IA quasi l'intelligenza fosse una cosa calcolabile. È possibile ovviamente immaginare di progettare un computer con intelligenza, intuizione e immaginazione, che sia creativo e faccia tutte le cose che diciamo essere intelligenti e tipicamente umane. Potendo, perché mai costruire un tale computer? Sarebbe utile? Ci muoviamo camminando. Gli animali corrono, saltano, strisciano e volano. Abbiamo inventato la locomozione artificiale con due ruote e un asse, metodo che nessuna creatura vivente ha sviluppato, eppure la locomozione artificiale su ruote e quella umana sulle gambe, hanno entrambe i loro vantaggi.

E allora, perché non inventare una macchina che cammina? Camminiamo così facilmente che c’è da chiedersi se avrebbe senso auto-eliminarci, costruire un automa che cammini come noi. A che pro? Servirsene, giocarci, farne un esercito da comandare?

Allo stesso modo, perché volere costruire un computer enormemente complesso, con un software avanzatissimo, capace di comporre ad esempio una sinfonia o di scrivere un racconto, una poesia? Non importa quanto riescano a fare i computer intelligenti, non importa quanto ci aiutino a progredire, saremo sempre noi e i computer, non ci sarà uno solo dei due e sempre noi saremo loro debitori.

La sola differenza è che loro spontaneamente a chi potranno esprimere la gratitudine per essere stati costruiti? L’uomo vuol fare e strafare, parla già di un’IA superiore, al di là delle possibilità della sua mente, qualcosa con elementi esclusivamente umani: autocoscienza, emozioni e capacità di decidere. Con questi ingredienti non solo potrà cambiare la sua identità biologica ma anche il pianeta.

Un vate luminare della neurochirurgia ha fatto una predizione: La società di domani sarà formattata dalle neurotecnologie, sostenute dalle nanotecnologie e dalle biotecnologie.

In altre parole è l’era della dimensione transumanista, con cromosomi e neuroni modificati da microcircuiti iniettati nel cervello per migliorare le prestazioni intellettuali e selezione genetica dei migliori embrioni.

Il neuro-business mette le prime radici, obiettivo: leggere il cervello, ritoccarlo, rafforzarlo, ripararlo, riprodurlo e trapiantarlo.

Secondo l’oracolo, il futuro appartiene all'umanità potenziata.

E l’essere umano normale? È predetta la sua fine, colpa della sua limitata aspettativa di vita e della vivace competizione tra gli stessi umani potenziati.

Nell’ipotesi di potere realizzare un tale livello di azione e con la crescita esponenziale della potenza di elaborazione, Roger Penrose, fisico, matematico, filosofo inglese, massimo teorico vivente di IA, si pone alcune domande fondamentali: può la semplice riproduzione per via informatica delle attività umane dette intelligenti dare origine a una coscienza artificiale?

La potenza attuale del computer, oggi lontana da quella del cervello umano, ne giustificherebbe l’impossibilità?

Per Penrose è il momento di prendere posizione su alcune condizioni essenziali, basi teoriche per la realizzazione umana di un’IA superiore ovvero di una coscienza artificiale computerizzata.

Prima condizione: la coscienza, quella che tutti noi abbiamo, deve essere in toto esprimibile e comprensibile in termini calcolabili (cioè riproducibili informaticamente).

Se la posizione è accettata, prendiamola buona in chiave di filosofia materialista e procediamo con la seconda condizione: il prodotto generato da questo tipo di coscienza deve a sua volta essere in toto esprimibile e comprensibile in termini calcolabili.

A questo punto Penrose stupisce con una dimostrazione formale geniale e dice: se un’operazione della mente umana è comprensibile in termini calcolabili, è impossibile dedurre una verità matematica da una proposizione di logica da essa formulata.

Scorrendo ogni riga della sua tesi, i passaggi logici e matematici portano alla prova finale, decisamente sorprendente: la mente umana non è comprensibile in termini calcolabili.

Il funzionamento del cervello non è calcolabile, ovvero non può essere riprodotto informaticamente, qualunque sia la potenza e l’intelligenza del computer.

Condivisa da Hawking e dal consesso scientifico mondiale, mai contraddetta né invalidata, la sua tesi tiene banco da vent’anni.

Penrose chiude così la sua tesi: Poiché il pensiero contiene elementi non calcolabili, un computer non può fare ciò che fa l’uomo. Se fosse possibile si arriverebbe al paradosso che la coscienza artificiale avrebbe la capacità di auto-definirsi, cioè di contenere una descrizione di sé stessa. Tutto chiaro?

Ci aiuta un esempio tratto dai test di IA in campo militare, sulla complessità del software di IA e di manutenzione del supercaccia americano F-35, dal corredo di 24 milioni di linee di istruzioni. L’aereo continua a volare poco e male. Tale stato persiste e provoca nei piloti uno scarso controllo della complessità delle manovre in fase di imprevisto attacco in volo.

Si parla di sopravvivenza: agire o crepare.

Nel test la coscienza puramente calcolabile del software di IA calcola la coscienza del pilota come non-comprensibile, perfino inaccessibile. In caso di morte in agguato, i comandi trasmessi dalla coscienza artificiale dell’aereo come unica via di scampo portano addirittura a una rotta di fuga, senza alternative: tagliare la corda.

Può l’F-35 in quanto aereo, decidere per sé una strategia con una chiave di sopravvivenza disgiunta/congiunta a quella del pilota, in quanto essere umano separato logicamente dall’aereo, ma parte integrante del medesimo?

Il paradosso è evidente: nel binomio aereo/pilota la vita o la morte per e contro se stesso.

Sappiamo che l'automazione oltre a sostituire un componente isolato di un sistema complesso, lo modifica e altera i ruoli, le attitudini, le emozioni, l'intero carattere e le abilità di chi partecipa, spesso in modo non programmato né previsto dai suoi stessi architetti.

Nella certezza che l’F-35 gestirà ogni problema e funzionerà perfettamente, il pilota ripone eccessiva fiducia nella validità dei dati ricevuti sugli schermi dall’IA. Si affranca dal suo ruolo e la sua consapevolezza di ciò che sta accadendo è a rischio. Ignora la realtà globale, ne vede solo la componente informativa.

Mutato in creatura - schermo, è incapace di affrontare la questione vitale: la mia coscienza si basa su ciò che conosco, in quanto definito e limitato, oppure sull’obiettivo? Quale obiettivo prevale? Il binomio aereo-pilota speculare al binomio pilota-aereo, inteso come sopravvivenza globale, oppure la cieca fiducia nelle istruzioni ricevute dall’IA?

Chi risponde alla domanda? Solo la mente dell’uomo. L’Homo sapiens, fondatore della Società della Conoscenza ha radicalmente trasformato l'idea di conoscenza, al punto di doverla rinominare Società dell’Ignoranza, quella dell’Homo ignarus, non rinunciatario né che finge di non conoscersi ma che non sa, è inconsapevole, non sa di non sapere.

È una Società resa sempre più cosciente della propria non-conoscenza e che più che rafforzarla sa di dovere andare avanti e di dovere imparare a conoscere la propria ignoranza e di doverla affrontare nelle sue nuove manifestazioni: apparenza, incertezza, insicurezza e rischio.

Vale il pensiero di Socrate: O si trova quello che si cerca, altrimenti non si crede di sapere quello che si ignora del tutto.

C'è incertezza sui rischi e sulle conseguenze delle nostre decisioni, ma anche incertezza sulle regole e sulla legittimità di ciò che si sta facendo.

Appaiono nuove forme di incertezza su ciò che ancora non conosciamo e ciò che non può essere conosciuto o non va conosciuto. Sappiamo costruire le conoscenze richieste per ogni problema che nasce? Spesso le conoscenze disponibili sono a malapena supportate da fatti certi e al massimo da ipotesi o valutazioni.

Che fa la scienza? Muta l'ignoranza in insicurezza e incertezza. È pronta a liberare la società dalla responsabilità di dover decidere in condizioni di insicurezza? Una società del rischio richiede una cultura del rischio, la scienza invece, spesso non è affidabile o abbastanza coerente da prendere decisioni indiscutibili e socialmente legittimabili.

Fino a che punto ignoriamo? Sempre più ignoro che cosa potrebbe accadere e ignoro l'area dei possibili risultati. Che strumento uso per misurare l’ignoranza?

Quanto so o sono capace di prevedere e immaginare con relativa certezza dell’oggi e del domani dell'IA? Mentre nella nuova Società l'informazione è regina privilegiata, la conoscenza-sapienza è caduta nell’oblio. Peggio, è stata cacciata.

Assisto agli effetti dei problemi derivati dalla disintegrazione della conoscenza.

I media non sono passivi canali di informazione, ma forniscono la sostanza del pensiero e ne modellano il processo. Sembra che la Rete stia frantumando la capacità di creatività e di concentrazione.

La mia mente ora si aspetta di avere le informazioni nel modo in cui la Rete le distribuisce: un flusso di particelle in moto vorticoso.

Più uso il Web, più devo lottare per rimanere concentrato su lunghi testi. Mentre cerco ciò che credo essere la conoscenza, in realtà sto cercando la convenienza. Sono cosciente che il mio modo di pensare è cambiato? Riesco a capire i testi e a mantenere attive le connessioni mentali quando leggo e sono concentrato senza distrazioni?

L'idea che la mente debba operare come un elaboratore di dati per l’informazione immediata è integrata nel meccanismo di Internet, modello di business spregiudicato nella Rete. Chiara la dominante economica: indurre il lettore alla distrazione, a leggere velocemente, leggere male, non pensare, non memorizzare, ignorare.

Navigare sul Web più velocemente, fare più link, visualizzare più pagine equivale a maggiori opportunità per Google, Amazon, Microsoft, Facebook, Apple e tutti gli altri, quelli che intercettano il mio profilo, per ingozzarmi di pubblicità e ingolfarmi la memoria; l'ultima cosa che loro vogliono è favorire ritmi di pensiero e di lettura piacevoli e concentrati.

Velocità, superficialità, ignoranza sono il mantra. Vedo in me la rimozione di una realtà interna, rimpiazzata da un nuovo tipo di auto-evoluzione.

Sotto una valanga di dati e di informazioni, non appena mi affido al computer per volere conoscere il mondo, il vortice dell’IA mi risucchia l’intelligenza, ultima cosa di mio che mi resta. Anche lei mi ignora.