Quali sono le innovazioni di maggiore impatto in questo momento e che cosa cambiano? Federico Faggin La digitalizzazione dell’informazione è il movimento che si è avviato con l’invenzione del computer alla fine della guerra e, con l’invenzione del microprocessore, ha portato un’accelerazione fantastica della velocità con cui la tecnologia è entrata in tutti gli aspetti della nostra vita.
Oggi è arrivata l’intelligenza artificiale, è proposta come una vera rivoluzione, anche se a questo proposito non ho la stessa esuberanza di molti: l’intelligenza artificiale ha certamente superato le difficoltà che esistevano da sempre nel risolvere problemi come il riconoscimento di patterns molto complessi o la traduzione simultanea delle lingue oppure la scrittura a mano e così via. Cose che erano molto limitate con le reti neurali, che peraltro io studiavo già trent’anni fa, e che oggi sono rese possibili dall’intelligenza artificiale, che certamente accelererà ancora il progresso. Tuttavia, la tecnologia di base, quella del silicio, sta arrivando verso la fine della corsa, quindi l’idea che questa accelerazione della tecnologia continui all’infinito comincia a essere limitata.
Oggi i calcolatori usano un mare di potenza e non conosciamo ancora alcun modo per ridurla. Per esempio i grandi sistemi del cloud computing dissipano ben 50 MB di potenza. Siamo arrivati a 5 Giga di velocità nei microprocessori, mentre vent’anni fa eravamo a 2,5. E non s’intravede il modo di arrivare a 6 o a 7. Quindi quest’idea di aumentare all’infinito la capacità di elaborazione (legge di Moore) comincia a vacillare. Le applicazioni della tecnologia continueranno ad aumentare, quindi l’impatto di questa tecnologia è enorme, ma non continuerà a crescere in maniera esponenziale.
Arriva poi la tecnologia nuova costituita dalle biotecnologie, con la scoperta della CRISPR (Clustered Regularly Interspaced Short Palindromic Repeats, brevi ripetizioni palindrome raggruppate e separate a intervalli regolari), un’innovativa tecnica di editing genetico che permette di cambiare elementi del DNA, cosa impossibile prima: una grande opportunità, ma anche un pericolo, perché la manipolazione genetica è molto più pericolosa dell’intelligenza artificiale. La vita è qualcosa di molto più ricco e importante dal punto di vista della capacità di adattarsi e creare strutture autonome. Noi non riusciamo a costruire robot autonomi, mentre la vita è autonoma per definizione e non è controllabile. Se scappa di mano, abbiamo problemi enormi.
Di questo pericolo non si parla molto, ma è molto più grave di quello che può comportare l’intelligenza artificiale.
David Orban La prima delle tre leggi stabilite da Arthur Clarke dice che quando un illustre anziano scienziato sostiene che qualcosa è possibile ha quasi certamente ragione, ma quando sostiene che qualcosa è impossibile ha quasi certamente torto. Nello spirito di un dibattito sano, andrò a contraddire con forza Federico Faggin, perché, così come noi non usiamo più i computer a tubi catodici, in futuro certamente non useremo il silicio o i microprocessori progettati e costruiti attraverso le tecnologie di oggi, perché avranno esaurito la loro traiettoria.
La corsa all’innovazione non è finita, è ancora all’inizio. In un mondo aperto, decine o centinaia di gruppi differenti cercano di risolvere i problemi, portano all’innovazione, che, attraverso le licenze, i brevetti e i metodi di produzione, si diffonde dappertutto e supera problemi che precedentemente sembravano insuperabili.
Ed è per questo che, giustamente, per esempio, abbiamo le notizie sui computer quantistici: quei fenomeni che, quarant’anni fa, potevano essere ignorati nella costruzione dei microprocessori, oggi non si possono più ignorare: per andare avanti, bisogna accoglierli per produrre quella capacità di calcolo di cui abbiamo bisogno.
Faggin Credo d’intendermi abbastanza di tecnologia per poter dire che il computer quantistico programmabile, anche secondo gli esperti più avanzati, potrà sostituire quello attuale soltanto fra venti o trent’anni.
Se parliamo delle applicazioni, invece, la possibilità di manipolare le persone attraverso l’intelligenza artificiale è enorme.
Tuttavia, ci sono cose bellissime che si possono fare con l’intelligenza artificiale, che certamente produrrà un’accelerazione in tutti i campi. Eppure, non vedo in questo momento una tecnologia che possa tenere il passo della legge di Moore.
Orban Devo citare ancora Arthur Clarke: la terza legge di Clarke dice che qualunque tecnologia sufficientemente avanzata è indistinguibile dalla magia. Questo non significa che sia magia, ma semplicemente che dobbiamo prepararci per saperla gestire al meglio. In effetti, l’Unione Europea ha stanziato un miliardo di euro per programmi di ricerca in direzione della Explainable Artificial Intelligence (spiegazione dell’intelligenza artificiale), cioè di “scatole nere” che spiegano come sono arrivati a una certa decisione.
Faggin I sistemi esperti erano quelli che richiedevano all’uomo di spiegare come arrivare a una decisione.
Questi sistemi esperti non hanno mai funzionato, per la stessa ragione per cui non è possibile con le reti neurali capire come esse arrivino a prendere una decisione. Tuttavia, con le reti neurali, l’uomo può capire, non completamente ma in buona parte, come vengono prese certe decisioni. Però deve esserci un uomo in grado di capire queste cose, perché la rete neurale non capisce, non è cosciente, si limita a elaborare.
Orban L’intelligenza artificiale è una macchina, un programma che impara, ma è anche un programma che impara come imparare, richiedendo pensiero strategico e coordinazione. Evolvere metodi, per analizzare, per gestire una società complessa, come quella che ci circonda, non può essere banalmente lasciato alla nostra lenta e inefficiente capacità di comprensione. Noi abbiamo già un’intelligenza artificiale che chiamiamo “democrazia rappresentativa” e ne siamo profondamente scontenti. Abbiamo anche robot che chiamiamo “fabbriche”. Queste fabbriche erano cieche e sorde, perché non avevano sensori e attuatori. La trasformazione digitale non serve soltanto per sostituire il fax con l’e-mail, sta nello svegliare queste “fabbriche”, perché possano cominciare a conversare con noi.
Faggin Una macchina può fare meglio di noi cose meccaniche, ma non cose che richiedono comprensione profonda e integrazione dei sentimenti o del libero arbitrio. Come possiamo fidarci ciecamente di una macchina autonoma? L’autonomia richiede ben più che vincere un gioco dove le regole sono esplicite. Il gioco della vita non ha regole esplicite. Il computer può imparare soltanto in presenza di regole esplicite. Ma come potrà barare, cambiare le carte in tavola o attaccare, come fa l’uomo? Come può una macchina agire autonomamente in un mondo di uomini che sono anche aggressivi e barano? Bisognerebbe conferire alla macchina la capacità di fare cose che non si dovrebbero mai lasciare all’arbitrio di una macchina, come attaccare o barare? Orban Io definisco il nostro come tempo della “scossa” (in inglese jolting time). In matematica la “scossa” è la prima derivata dell’accelerazione. Ci stiamo circondando di tecnologie la cui accelerazione è crescente. Infatti, abbiamo intelligenze artificiali che barano e bleffano meglio degli esseri umani: battono i campioni mondiali di poker. Abbiamo intelligenze artificiali che imparano senza le regole, perché le regole, in quei giochi che ho citato prima, non sono state date loro. Sono stati dati obiettivi e hanno derivato le regole attraverso il gioco.
Faggin Ma potranno le macchine, i computer essere coscienti come noi? Questo è il vero problema irrisolto. Ci penso da trent’anni e penso che il computer non potrà mai essere cosciente.
Se questo fosse possibile, sarebbe una cosa molto importante, perché la differenza tra uomo e macchina sta proprio nella coscienza. Orban crede che le macchine potranno essere coscienti, io non lo credo.
Orban L’osservazione che noi sviluppiamo e che ci consente di riconoscerci gli uni negli altri ci predispone a saltare al di là dell’esperienza tangibile e a credere che effettivamente anche le altre persone siano coscienti, così come noi sentiamo di esserlo. Noi non possiamo fare l’esperimento e quindi ci crediamo. La convivenza con sistemi sempre più sofisticati, le cui decisioni hanno conseguenze anche morali importanti, permetterà la crescita ricca di vite future e di società che fioriranno grazie a questi sistemi e renderanno la domanda ancora interessante per alcuni che continueranno a studiarla dal punto di vista scientifico e ingegneristico, ma la stragrande maggioranza delle persone smetterà di preoccuparsene.
Magari i bambini chiederanno ai loro mentori artificiali con cui cresceranno: “Ma tu pensi come me?”, e quei mentori risponderanno come risponderanno. Io ritengo che saremo circondati da varianti di migliaia o miliardi di diverse coscienze. Starà poi a noi decidere se vogliamo far parte di quel gioco che loro costruiranno.
Faggin Il fatto che io non possa dimostrare a un altro né un altro possa dimostrare a me di essere cosciente non implica l’assenza di coscienza. È un fatto reale che io so, dentro di me, so di esistere, di avere sensazioni che non sono segnali elettrici. La simulazione di una struttura fisica non è la realtà, la simulazione della vita non è vita. Prima di tutto la vita non è un sistema classico. Un organismo vivente non è una macchina classica, come un computer. È presentato come un computer, ma non è un computer. Il computer può dentro di sé creare una simulazione della vita, ma una cellula vivente crea dentro di sé una copia identica di sé, una cellula uguale che si divide in due. Se il computer fosse così, si potrebbero eliminare tutte le fabbriche. Basterebbe un computer che si riproduca e avremmo risolto il problema del manufactory. Da questo esempio vediamo che la vita non è un computer e noi siamo coscienti, perché esistiamo come organismo fisico, fondamentalmente quantistico, con una capacità di elaborazione e di informazione che fa impallidire la capacità dell’elaborazione dell’informazione di tutti i computer del mondo. Tutti i computer del mondo messi insieme non potrebbero simulare una cellula vivente. Questa è la realtà. Quindi ci raccontiamo delle storie sul fatto di non sapere distinguere tra virtuale e reale. È quello che sta succedendo con i nostri ragazzi, che non sanno più distinguere la fotografia dalla persona reale.
Orban Aeroplani e uccelli volano entrambi. Il fatto che tuttora non abbiamo capito alla perfezione come gli uccelli volano non è una dimostrazione che gli aeroplani non possano esistere.
Faggin Ma l’uccello è cosciente, mentre l’aeroplano no. Il mio messaggio è quello di abbracciare l’intelligenza artificiale e la robotica, ma in modo di usare e di creare macchine complementari all’uomo, non per sostituire l’uomo. È una gran perdita di tempo pensare che un domani arriverà una macchina per fare le cose che faccio io. Nella Silicon Valley oggi è diffusa l’idea che le macchine ci supereranno in tutto, ma che una macchina sia più veloce di me nel fare operazioni meccaniche non comporta che sia più intelligente di me. Occorre usare l’intelligenza artificiale con l’intelligenza umana. Credere che una macchina sia più potente di noi è un grande disservizio per l’umanità. Noi non siamo macchine. Siamo ridotti a essere macchine imperfette da questa visione della Silicon Valley che ci fa vedere un futuro che non è assolutamente raggiungibile.