Macchine pensanti di Andrea Valastro

Macchine pensanti
di Andrea Valastro
Introduzione
L’argomento è uno dei più controversi e anche, se vogliamo, dei più affascinanti. Esso coinvolge una
tale serie di discipline da ritenere difficile, se non impossibile, di poterle collegare con un fil rouge che le
riguardi tutte: matematica, antropologia, filosofia, ingegneria elettronica, informatica, teologia. La
domanda non è affatto recente e nemmeno ha avuto recentemente una risposta chiara e univoca: può una
macchina pensare?
Molti hanno posto la domanda e molti hanno provato a rispondere, tramite azioni concrete o
tramite ragionamenti astratti (Gedankesexperiment), ma nonostante gli sforzi profusi non sembra che si sia
giunti ad una risposta definitiva. Ci proponiamo, nel corso di questo lavoro, di dare una breve panoramica
del problema in generale e di sviscerarne alcuni aspetti in particolare allo scopo di formare una visione
complessiva del problema.
Nascita del problema
Il problema non nasce con l’era dell’elettronica, come si potrebbe essere portati a pensare. L’idea
di una creatura artificiale, di un manufatto umano, che possa far sue alcune (o tutte addirittura) delle
funzionalità proprie dell’essere umano risale ad epoche remote. Già nella cultura ebraica si può trovare il
mito del Golem, l’uomo artificiale, che ha il compito di proteggere il popolo eletto. Per quanto l’origine di
questo essere sia di natura esoterica, e non scientifica, esso comunque ha delle caratteristiche tipiche della
macchina. Ha un programma ben definito (una missione) e può essere attivato o disattivato tramite dei
comandi (la scrittura o la cancellazione di una parola sulla fronte o l’inserimento di una pallina nella
medesima. Nel secolo diciottesimo sembra che si faccia strada l’idea che una macchina possa dirsi pensante
se può, ad esempio, giocare decorosamente ad un gioco di una certa complessità. Il celebre Turco, un
automa del quale si dice che fosse in grado di giocare a scacchi (anche se l’idea appare decisamente
anacronistica in rapporto alle possibilità tecnologiche dell’epoca) e persino di battere i migliori giocatori
umani. Se volete sorprendere i vostri amici chiedete loro quando fu costruito il primo automa che
funzionasse più o meno come il Turco ma che non fosse una truffa (ovvero che non contenesse un nano). La
risposta è incredibile: 1914. In quell’anno l’ingegnere spagnolo Leonardo Torres y Quevedo presentò al
pubblico El Ajedrecista (lo scacchista), un automa che, tramite un complesso sistema di elettromagneti,
giocava con re e torre contro un re manovrato da un umano e vinceva sempre (se pure avrebbe ottenuto
una vergognosa patta in un torneo, perché l’algoritmo era lento e superava le cinquanta mosse
regolamentari).
Anche volendo credere che il celebre Turco fosse in grado di fare ciò non sembra di potere
affermare che ciò lo qualifichi come essere pensante. Se ammettessimo questo dovremmo includere nella
categoria anche gli odierni smartphone. Tra la fine del diciannovesimo secolo e l’inizio del ventesimo si fece
strada l’idea che una macchina pensante potesse essere semplicemente una macchina capace di compiere
calcoli matematici. Ancora una volta dobbiamo rigettare l’idea, a mano che non siamo disposti a
considerare pensanti le calcolatrici che si trovano nei fustini del detersivo o nelle uova pasquali. Una
definizione decisamente più accettabile, anche se non priva di ombre, risale alla metà del ventesimo secolo.
La definizione di Turing
Fu il celebre matematico inglese Alan Turing, reduce dal successo della sua macchina Colossus, che
diede la definizione verso il 1950. Se Colossus poteva “solo” provare e riprovare tutte le permutazioni di
ventisei lettere, allo scopo di decifrare i messaggi dell’esercito nazista durante la seconda guerra mondiale,
è anche chiaro che si trattava né più e né meno di un ammasso di cavi elettrici e di rotelle metalliche.
Turing propose la seguente definizione:
Una macchina può essere definita “pensante” se può spacciarsi per un essere umano con un essere
umano.
In concreto si tratta di prendere un certo campione di esseri umani, di medio livello culturale, e di
sottoporli al seguente test. Essi verranno messi in comunicazione con un interlocutore invisibile (per
telescrivente nel 1950, oggi in chat) del quale sanno che può essere un uomo o una macchina. Scopo del
gioco è:
-
Per coloro che fanno parte del campione capire, dopo un ragionevole lasso di tempo, se stanno
comunicando con un uomo o con una macchina.
Per gli esseri umani che stanno dietro lo schermo essere riconosciuti come umani e non
scambiati per macchine.
Per le macchine dietro lo schermo essere scambiate per esseri umani e non svelare la propria
natura.
E’ chiaro che gli esseri umani coinvolti dovranno essere in qualche modo motivati a perseguire il
proprio obbiettivo (ad esempio tramite una banale ricompensa in denaro). Allo stesso modo si deve
trattare di persone qualificate e dotate di una certa cultura di base. Anche un software abbastanza banale
potrebbe ingannare un bruto, ma non è quello lo scopo.
Limiti della definizione
Per quanto la definizione di Turing ruisulti un deciso passo in avanti rispetto all’idea del Turco e del
calcolatore essa, tuttavia, cela una serie di problematiche di non poca entità.
Anzitutto non è chiaro cosa si intende per persona qualificata. Non disponiamo di una definizione
rigorosa a meno di non volere ricorrere a vari esempi di docimologia, non ultimo un semplice test dell’IQ.
Ma la situazione diventa decisamente più difficile se facciamo una serie di esempi su quello che comporta
la definizione e su come possa cambiare il concetto finora accettato dell’idea di “pensiero”.
Esempio della stanza cinese
Un uomo, che non conosce affatto la lingua cinese, siede da solo in una stanza chiusa. L’unico modo
che ha di comunicare col mondo esterno è quello di ricevere o di inviare dei messaggi scritti (ad esempio su
dei foglietti). Un interlocutore esterno, cinese di nascita, inizia a scrivergli. L’uomo nella scatola dispone di
un enorme librone nel quale si trovano tutte le possibili frasi in cinese e, in corrispondenza di ognuna, le
possibili risposte. Costui è abilissimo e velocissimo a far scorrere le pagine e a cercare la risposta corretta ai
messaggi che il suo interlocutore cinese gli invia. Il risultato è che colui che sta fuori dalla stanza è convinto,
alla fine, di aver dialogato con un connazionale o comunque con qualcuno che conosce la sua lingua. Ciò
perché l’output dello scorritore di pagine e quello di un vero cinese sono esattamente la stessa cosa e, non
potendo in alcun modo aprire la stanza, non possiamo che basarci su questo per decidere cosa la stanza
effettivamente contiene. Ma l’uomo nella stanza non conosce il cinese.
Allo stesso modo è sufficiente che il computer si spacci in modo verosimile per un essere umano
allorchè si trova in chat con un umano vero? Si può dire che un insieme di fili possa davvero pensare?
E’ appena il caso di notare che la stessa domanda potrebbe, in teoria, essere posta su un qualsiasi
essere umano. In una visione solipsistica del mondo nessuno può avere nessuna certezza su cosa
effettivamente si verifica nella testa di un altro per l’ottimo motivo che ognuno è confinato nella propria e
mai ne uscirà.
Il modo di porre la domanda
Ma la situazione peggiora se pensiamo che ad una stessa domanda, se formulata in modo
logicamente equivalente ma appena differente, la stessa persona può dare risposte diverse se non opposte
addirittura. Si pensi al celebre dilemma etico dell’uomo grasso. Un carrello ferroviario sta per investire dieci
poveretti legati su un binario. Un uomo grasso assiste alla scena da un ponte. Spingendolo giù salveremmo i
dieci malcapitati deviando il carrello grazie alla mole dell’uomo ma sacrificandone la vita senza il suo
consenso.
La stessa persona può dare risposte diverse a questa domanda a seconda di come viene posta. Se,
ad esempio, diamo un nome all’uomo grasso la percentuale di coloro che lo sacrificherebbero scende di
moltissimo. La percentuale dipende addirittura dal nome che gli diamo: se lo chiamiamo Will (un nome da
bianco) quasi tutti si dichiarano a suo favore, se lo chiamiamo Dwayne (un nome che evoca l’appartenenza
al popolo di colore) la sorte del malcapitato, purtroppo, sembra essere segnata.
Allo stesso modo si possono ottenere risposte diverse per quanto riguarda la capacità di un
computer di “pensare”. Se un computer dimostra di battere il campione del mondo di scacchi molti
sarebbero disposti a classificarlo come pensante. Ma se invece di avere uno schermo (e magari una voce
sintetizzata) il computer fosse fatto di scatole di fiammiferi e perline colorate (come suggerito da Martin
Gardner e come si può vedere nella fiction del Liceo Redi “Forte quel prof”) quanti sarebbero disposti a
classificarlo come res cogitans? Il computer di “Wargames” saluta il suo creatore (come chiunque si
colleghi) chiamandolo Professor Falken, salvo poi rivolgere al medesimo le condoglianze per la sua
dipartita. Alcune persone erano disposte a credere nelle capacità del cosiddetto Turco, e forse a tributargli
l’onore di considerarlo un essere pensante, solo perché l’oggetto aveva fattezze umane.
A che punto siamo?
Eppure, in mancanza di meglio, possiamo adottare la definizione di Turing e vedere a che punto
siamo arrivati finora. Per quanto riguarda gli scacchi agli inizi degli anni novanta il sottoscritto ebbe modo di
osservare come la situazione non fosse ancora tale da gridare al miracolo. In occasione di una sfida uomomacchina il titolare del titolo di “pensatore” (l’umano) ottenne una dignitosa patta pur essendo un
candidato maestro. Il computer sembrò in seria difficoltà quando impiegò più di mezz’ora per decidere una
mossa (tanto da far pensare ad un guasto o ad un loop logico) ma l’umano rischiò la sconfitta per
esaurimento del tempo di gioco. Gli studenti di informatica che proposero la sfida ritenevano che un
computer potesse essere classificato come pensante se era in grado di eseguire i complessi calcoli
dell’analisi matematica che, ahiloro, funestavano la loro giovane età. Il sottoscritto riuscì, allora, nullo
negotio, a confondere il povero computer che, a fronte di domande appena fuori schema, riempiva lo
schermo di solitari asterischi e trattini.
Ma, giunti nel 2015, la situazione sembra essere decisamente diversa. Gli attuali software,
scaricabili su un semplice smartphone, farebbero a pezzi il campione umano che, allora, ottenne la patta. Il
programma Wolphram Alpha fa i calcoli dell’analisi senza sbagliare una virgola e molto meglio del
sottoscritto. Sul fronte del test di Turing nessun programma ha mai superato il test ma è anche vero che ci
siamo pericolosamente vicini. Il programma Cleverbot riesce a mantenere un accettabile livello di
conversazione per qualche minuto (ma cede miseramente dinanzi a domande di attualità) e in Australia le
autorità hanno assicurato ai rigori della giustizia un pedofilo “adescato” in rete da una ragazzina del tutto
virtuale (sia per le foto che per la chat). Se diamo per scontato che costui non ci tenesse a comparire
davanti al giudice è chiaro che, se avesse appena avuto sentore che qualcosa non andava, avrebbe
immediatamente interrotto il collegamento. Se non lo ha fatto è chiaro che il software lo ha ingannato (il
che ripropone il problema della qualità del campione umano cui affidare il test).
Se tanto mi dà tanto, così come in venticinque anni abbiamo perso la palma di giocatori di scacchi o
di calcolatori di integrali allo stesso modo nell’arco dei prossimi venticinque anni potremmo essere messi di
fronte a macchine “indistinguibili” dagli esseri umani. Già ora abbiamo robot che assistono pazienti o
anziani e se la Caterina dell’omonimo film di Sordi è ancora lontana non vuol dire che non stia avvicinandosi
(il che è preoccupante, per chi ha visto il film).
Prospettive ed incognite
Se il test di Turing dovesse essere definitivamente superato, pur se molto dopo i cinquant’anni
previsti da Turing stesso, ciò ci porrebbe di fronte a problemi logistici, etici, ontologici, legali e persino
religiosi che non sembrano alla portata dell’attuale maturità della razza umana. Se è vero che alcuni
ritengono ancora accettabile l’idea di uccidere per imporre la propria fede religiosa come si può pensare
che una simile rivoluzione possa aver luogo senza un impatto sociale. Un robot pensante ha dei diritti e se sì
quali? Meno di un umano o gli stessi? Può un essere pensante possederne un altro o si tratta di una forma
di schiavitù Se possiamo creare manufatti pensanti siamo divinità o no? Ci si può innamorare di un robot?
Un’eventuale rapporto affettivo tra un umano e una macchina merita riconoscimento legale?
Possono sembrare domande banali o a sensazione ma dando un’occhiata ai nostri adolescenti i
quali, anche a fronte di un’attuale assenza di macchine pensanti, tendono a trascorrere sempre più tempo
in collegamento con dei computer piuttosto che con altri umani, assumono una rilevanza non trascurabile.
Non sarebbe male se ci riflettessimo per tempo.
Sitografia
www.cleverbot.com
it.wikipedia.org/wiki/Alan Turing
it.wikipedia.org/wiki/Il Turco
www.youtube.com/watch?v=6E5NwagT17E
www.nightgaunt.org/testi/tangram/t11.htm
it.wikipedia.org/wiki/Golem
Bibliografia
Smullyan R.(1982) Donna o Tigre?), Zanichelli Bologna 1985, pp. 166-175. (Testo moderatamente
specialistico, adatto ad uno studente di Liceo)
Mendelson E.(1964) Introduzione alla Logica Matematica, Bollati Boringhieri Torino 1972, pp 236, 277-279
(Testo altamente specialistico, adatto ad un pubblico adulto e competente)
Filmografia
Io e Caterina (Italia, 1980) di A. Sordi con A. Sordi e C. Spaak.
The Imitation Game (Gran Bretagna, 2014) di Morten Tyldum con Benedict Cumberbatch, Keira Knightley.
Wargames (Stati Uniti, 1983) di John Badham con Matthew Broderick e Dabney Coleman.