Compatibile con l'uomo

Questo libro parla del tentativo, che gli esseri umani portano avanti da millenni, di sondare il mistero dell'intelligenza; e racconta gli sforzi compiuti nell'ultimo secolo per riuscire a creare una mente artificiale. Perché l'IA sta rapidamente diventando un elemento pervasivo del presente, e sarà la tecnologia dominante dell'immediato futuro. Ma dobbiamo prepararci all'eventualità che le macchine superino di gran lunga la nostra capacità di prendere decisioni nel mondo reale. Ottenere accesso a un'intelligenza tanto sterminata potrebbe essere l'evento piú importante della storia dell'umanità. Bisogna però fare in modo che non si tratti anche dell'ultimo evento della storia dell'umanità.
«Il libro piú importante che ho letto negli ultimi tempi. Spiega in maniera lucida come l'imminente era dell'intelligenza artificiale rischia di minacciare l'umanità. Ma propone anche delle soluzioni per evitare questo rischio e ci dà buone ragioni per avere speranza».
Daniel Kahneman

«Se state cercando un libro serio sull'intelligenza artificiale adatto a tutti questo è perfetto».
«Financial Times»

«Un importante campanello di allarme. Compatibile con l'uomo segna un passo avanti negli studi sull'intelligenza artificiale, perché sceglie di concentrarsi sulle sue implicazioni etiche».
«Nature»

Il concetto di intelligenza è centrale nella costruzione dell'identità umana, non è un caso che la nostra specie abbia deciso di chiamarsi Homo sapiens. E dopo piú di duemila anni siamo arrivati a una definizione dell'intelligenza che si può forse sintetizzare in questo modo: siamo intelligenti nella misura in cui ci possiamo aspettare che le nostre azioni raggiungano gli obiettivi che ci prefiggiamo. Alla luce di questa definizione tutte le altre caratteristiche della nostra sfera intellettuale - percezione, pensiero, apprendimento, inventiva e cosí via - possono essere ridotte al contributo che danno alla capacità di agire efficacemente. Si tratta di una definizione piuttosto funzionale, che presenta però dei rischi, soprattutto se estesa alle macchine. Dagli albori dell'IA, infatti, l'intelligenza sintetica è stata definita allo stesso modo: le macchine sono intelligenti nella misura in cui ci si può aspettare che le loro azioni raggiungano gli obiettivi che si prefiggono. E qui sta il problema: non esiste una garanzia certa che i loro obiettivi siano uguali ai nostri. E non esiste una garanzia che nel portarli in maniera piú efficiente possibile a termine non decidano di prendere il controllo. Per scongiurare questa ipotesi, ci spiega Russell con linguaggio chiaro e accessibile, dobbiamo abbandonare l'assunto per cui le macchine dovrebbero avere un obiettivo definito, cosicché si rimettano al volere degli esseri umani, chiedano autorizzazioni, agiscano con cautela e si lascino spegnere. Questo significa sostituire parte delle fondamenta e della sovrastruttura che, oggi, reggono l'intelligenza artificiale. È un lavoro lungo, ma è necessario farlo per costruire una nuova relazione tra esseri umani e macchine che, invece di proiettarci in una inquietante distopia, ci lasci immaginare un futuro in cui la vita sarà infinitamente piú facile e migliore grazie al benefico supporto della tecnologia.