Intelligenza Meccanica

Introduzione
di Gabriele Lolli
Nel 1943, mentre lavorava a progetti di crittografia di interesse militare per la Government Code and Cypher School a
Bletchley Park, Alan Turing confessava al collaboratore Donald
Bayley la sua ambizione di voler «costruire un cervello».' La
storia successiva del sogno di Turing - che se non ha costruito
un cervello ha avviato il progetto del primo calcolatore elettronico inglese, ha gettato le basi dell'informatica e ha tracciato
le linee di sviluppo dei successivi studi sull'intelligenza artificiale - è negli scritti che sono qui proposti al lettore, elaborati
in rapida successione dal 1945 al 1950 . L'antefatto, cioè la storia di come Turing sia arrivato alle soglie di un simile progetto,
sarà l'oggetto di queste brevi note introduttive.
Alan Mathison Turing (1912-1954) riuniva in sé una combinazione unica di competenze teoriche e di abilità e di passione
per la matematica applicata , la statistica e l'ingegneria, eguagliata in quel periodo straordinario solo da John von Neumann
sull'altra sponda dell'Atlantico. Nel 1943 aveva poco più di trent'anni, di cui alcuni spesi nell'anonimato del servizio bellico, ma
era già conosciuto - almeno tra coloro che contavano, da Gódel
a von Neumann - come autore di un articolo di logica di importanza storica. «Alcuni anni fa - scrive nel 1947 - condu' L e no ti z i e sulla vita e sul lavoro di Turing si trovano nella magistrale e appasHutchinson,
ona
t a bio g rafia di A . Hodges , Alan Turing. The Enigma of Intelligence,
si
1912-1954 , Bollati Borin.
Vita
di
Alan
Turing,
Storia
di
un
enigma
it.
London 1983; trad.
ghieri , Torino 1991.
8 GABRIELE LOLLI
cevo ricerche che oggi si potrebbero definire come un'indagine
sulle possibilità teoriche e sul limiti delle macchine calcolatrici
digitali. Presi in considerazione un tipo di macchina che aveva
un meccanismo centrale, e una memoria infinita che era contenuta su un nastro infinito. Qùesto tipo di macchina sembrava
sufficientemente generale. Una delle mie conclusioni fu che i
concetti di "processo secondo regole empiriche" e di "processo
meccanico" erano sinonimi». Con «regole empiriche» (rules of
thumb) Turing si riferisce a processi che non sono espressi da
leggi: un «processo secondo regole empiriche» è da intendersi
come un processo che può essere svolto seguendo alla lettera
una lista di istruzioni che dicono cosa fare caso per caso.
A Cambridge, nel 1936, Turing voleva dimostrare l'esistenza
di un problema indecidibile. Il problema della decisione, o Entscheidungsproblem, era un'indagine un po' esoterica, ma all'ordine del giorno tra i logici; proposto da Davíd Hilbert, consisteva nel dimostrare se la logica potesse essere decisa con una
funzione «calcolabile con mezzi finiti». Una prima difficoltà
sorge dal fatto che il concetto di funzione numerica «calcolabile con mezzi finiti» richiede una definizione più esplicita.
Turing2 si orienta verso la definizione di una macchina, a differenza degli altri logici impegnati oltre oceano nella stessa
impresa. Ma il modo in cui Turing descrive le macchine è peculiare: usa parole come «esplorazione» o «tavole di comportamento», e avverte il lettore di tenere presente come guida l'osservazione «che la memoria umana è finita».
La macchina di Turing ha un nastro infinito - potenzialmente infinito, all'occorrenza prolungabile - diviso in caselle,
ciascuna delle quali può contenere al massimo uno tra un insieme
finito di simboli; a ogni istante la macchina vede una casella,
e può trovarsi in uno tra un numero finito di stati. Se si trova
in uno stato e legge un simbolo, la macchina può sostituire il
simbolo con un altro di quelli disponibili, spostarsi a destra o
2 A. M. Turing, On computable numbers, with an application to the Entscheidungsproblem, Proc. London Math. Soc. (2), 42 (1937), 230-65.
INTRODUZIONE
9
a sinistra di una casella e cambiare stato, il tutto secondo certe
istruzioni, o «tavole di comportamento», che sono definite per
tutte le possibili eventualità. «La mia tesi - scrive Turing - è
che queste operazioni includono tutte quelle che sono usate nel
calcolo di un numero ».
Turing descrive poi la macchina universale: questa, se ha sul
nastro una rappresentazione della tavola di una qualsiasi macchina e un argomento adatto ad essa, esegue le stesse operazioni
che farebbe la macchina particolare su quell'argomento. La macchina universale interpreta la descrizione della macchina scritta
sul suo nastro, ed è programmata per eseguire ogni insieme di
istruzioni decodificate. Usando una tecnica ben nota di diagonalizzazione dei numeri reali calcolabili, Turing ricostruisce l'antinomia di Richard,' da cui esce osservando come la situazione
implichi non una contraddizione ma l'indecidibilità del problema
del printing, della scrittura di un simbolo determinato da parte
di una macchina. Ne segue poi l'indecidibilità del problema della
decisione per la logica, dimostrata anche da Church.
Gódel non era soddisfatto della sua definizione del concetto
di calcolabilità effettiva, né di quella data da Alonzo Church:
la nozione doveva servire a precisare i concetti logici, e invece
entrambe le definizioni erano basate sulla logica. L'analisi e la
proposta di Turing lo convincono che si sia ottenuta una definizione dell'idea di calcolabilità che, pur equivalente alle altre,
si presenta come assoluta, cioè indipendente da assunzioni e concetti logici.
La tesi di Turing consiste nell'affermazione che tutte le funzioni íntuitívamente calcolabili sono calcolabili medianté una
macchina di Túring.4 L'argomentazione più forte a favore della
tesi è basata sul fatto che i comportamenti delle macchine sono
' In termini intuitivi, l'antinomia di Jules Richard (1905) riguarda l'insieme dei
numeri reali (decimali illimitati) definibili, e un numero diverso da tutti questi, ottenuto esplicitamente per diagonalizzazione: ha l'n-esima cifra diversa da quella corrispondente dell'u-esimo numero. Il numero così definito dovrebbe essere perciò nello
stesso tempo definibile e diverso da tutti quelli definibili.
' Una tesi analoga riferita al suo formalismo è nota come tesi di Church.
INTRODUZIONE r r
ro
GABRIELE LOLLI
ricavati da un'analisi dell'operatore umano, quando calcola scrivendo simboli su fogli di carta : « Noi possiamo paragonare un
uomo nel processo di calcolare un numero a una macchina che
è capace solo di un numero finito di configurazioni, o stati».
Nell'articolo del 1937 l'analisi del calcolo manuale è sviluppata
in dettaglio . I fogli sono divisi in quadretti - su due dimensioni, ma questo non è ritenuto essenziale ; il numero dei simboli
è finito; la riflessione su questa condizione è rivelatrice . Turing,
parlando di «simboli », non si riferisce in termini comportamentistici agli alfabeti umani , ma osserva invece che , se fossero infiniti, sarebbero «arbitrariamente vicini»; questo perché egli «sa
vedere » la matematica nelle cose : considera i simboli come insiemi
di punti di un quadrato - come nella moderna arte della tipografia - e osserva che se si accettano come simboli solo gli insiemi misurabili , per essi è possibile definire una distanza, e giustificare l'osservazione precedente . Si potrebbe pensare a un'infinità discreta numerabile di simboli - come nelle lingue ideografiche - allo stesso modo in cui si considera un simbolo diverso
ogni numero razionale in forma decimale ; ma allora l'indistinguibilità si riproporrebbe come un problema psicologico di percezione: per decidere uguaglianza e differenza si dovrebbero spezzare i simboli in parti più corte , e ritornare a una base finita.
Il comportamento del calcolatore umano è determinato dai
simboli che osserva e dal suo «stato della mente»: «Supporremo.
anche che il numero di stati della mente che debbono essere
presi in considerazione sia finito . La ragione è simile a quelle
che ci hanno fatto ristringere il numero dei simboli. Se noi
ammettessimo un'infinità di stati della mente, alcuni di essi
saranno "arbitrariamente vicini" e confusi . Di nuovo, la restrizione non ha alcuna seria conseguenza sui calcoli , perché l'uso
di stati della mente più complicati può essere evitato scrivendo
più simboli sul nastro». Nel parlare di stati «complicati», Turing
pensa probabilmente alla percezione o alla memoria di fatti complessi . Cosa intenda esattamente con «stato della mente» non
è chiarito altrimenti che con le note di istruzione: sembra che
si riferisca all'attenzione , alla percezione e alla memoria di lavoro,
perché il contenuto della memoria a lungo termine può essere,
al contrario, estratto ed esplicitamente oggettivato.
Turing invita poi a immaginare le operazioni divise in «operazioni semplici», così elementari da non potersi concepire una loro
ulteriore suddivisione . Ciascuna operazione comporta la modifica del sistema fisico costituito dal calcolatore umano e dai suoi
supporti, la più semplice delle quali è ovviamente la modifica di
una casella. Ecco quindi la «dimostrazione» che la sua macchina
è in grado di svolgere gli stessi compiti di un calcolatore umano.
Si potrebbe riassumere il senso dell ' argomentazione di Turing
dicendo che egli voleva provare che «le procedure mentali nonpossono andare oltre le procedure meccaniche»; sono parole di
Gódel, il,quale, dapprima soddisfatto dall'analisi_della «procedura meccanica » offerta da Turing , tornerà n s 1972 sull' argomento per dichiarare di non condividere il significato che essa
sembra essere venuta ad avere nello studio della mente. Turíng
avrebbe trascurato il fatto che la mente si evolve, e che il numero
dei suoi stati, anche se finito ad ogni istante , può tendere all'infinito. L ' evoluzione si realizza , per quanto si vede dalla matematica , attraverso la progressiva miglior comprensione di termini astratti , che a sua volta si attua attraverso metodi sistematici, «che potrebbero far parte della procedura».' Gòdel sperava che in futuro si sarebbe potuto smentire il pregiudizio secondo
il quale non si può dare mente senza materia , magari dimostrando
che nel cervello non ci sono abbastanza cellule nervose per giu.......... .
stificare l ' ammontare della nostra attività mentale.
Questo è l'antefatto; la tappa successiva è invece una storia
di macchine reali, a cui Turing è sempre stato interessato proprio in quanto matematico. Già nel 1939 aveva pensato di adattare la «macchina di Liverpool» per il calcolo degli zeri della
funzione zeta di Riemann; la macchina di Liverpool era una mac-
5 Il rimprovero di G5del non è giustificato; proprio Turing aveva dato contributi
rilevanti al problema di come formalizzare la progressiva estensione delle teorie, nello
scritto Systems of logic based on ordinals, Proc. London Math. Soc. (2), 45 (1939), 161-228.
1 2 GABRIELE LOLLI
china analogica, usata per il calcolo delle maree, che simulava
le funzioni circolari tramite un meccanismo a ruote e le misurava con un nastro avvolgentesi su un'asta. Poi viene la guerra,
e a Bletchley Park si riunisce una squadra di matematici, ingegneri, umanisti e campioni di scacchi, impegnati nel controspionaggio: inizialmente nella decodifica di Enigma, la macchina usata
dai tedeschi per cifrare i messaggi navali, poi in altri compiti
vari di crittografia. Turing partecipa alla decifrazione di Enigma
con diversi contributi, il più interessante dei quali è l'idea di
guess a word (cercare di indovinare una parola) per poi verificarla, invece che passarle in rassegna tutte; è un'idea che si ritrova
oggi nel concetto di calcolo non deterministico.
L'ambiente di Bletchley Park è importante per la formazione
di Turing, che vi dà e riceve molto. Sono gli anni in cui si passa
dai circuiti elettrici a quelli elettronici; la macchina usata per
la decifrazione di Enigma, il Colossus, è la prima completamente
elettronica. Altri colleghi hanno idee feconde, come Donald
Michie, che riesce a modificare il Colossus in modo tale da rendere possibile la ricerca e la scelta automatica delle parole, che
prima erano fornite dall'esterno. Ma sono utili anche le discussioni che si tengono fuori dall'orario di lavoro, intorno a una
scacchiera, su argomenti che vanno dalle strategie dei giochi
all'apprendimento.
Nel 1942 Turing compie un viaggio negli Stati Uniti, dove
ai Bell Laboratories conosce Claude E. Shannon, il fondatore
della teoria dell'informazione, con cui racconta che si trova a
suo agio a discutere animatamente di cervelli. Sempre negli USA,
il gruppo dell'Università della Pennsylvania diretto da J. Presper Eckert jr e da John W. Mauchly, che aveva già costruito
il calcolatore tradizionale ENIAC, progetta per 1'EDVAC un sistema
di memoria a linee di ritardo acustiche e sperimenta la memorizzazione dei programmi. Nel 1945 si unisce al gruppo John
von Neumann, che si dedica alla parte del circuito logico e del
linguaggio di programmazione.
In America von Neumann è un personaggio che svolge un
ruolo analogo a quello di Turing; anche lui proviene da studi
INTRODUZIONE 13
di logica, dall'Università di Gottinga, ma è un matematico universale, con interessi pratici. Egli vuole mettere il calcolatore
alla prova soprattutto su problemi complessi: equazioni differenziali non lineari alle derivate parziali, problemi di dinamica
dei fluidi, di meteorologia, di fisica nucleare. Il primo compito
affidato al calcolatore costruito dall'Institute for Advanced Studies di Princeton su progetto di von Neumann, nel 1946, è un
problema di fisica nucleare per i laboratori di Los Alamos, che
lo impegna per sessanta giorni ininterrotti. Per il disegno logico
dei circuiti, von Neumann si basa sulle reti di McCulloch e Pitts,
il cui intento originario era però quello di ottenere un modello
della macchina universale di Turing;6 pur lavorando con altri
formalismi, von Neumann riconosce esplicitamente con i suoi
collaboratori che le idee fondamentali provengono dallo scritto
di Turing del 1937.'
Visti i progetti americani, gli inglesi decidono di seguirli.
Viene chiesto a Turing, che conosce e cita il rapporto sull'EDVAC
di elaborare una proposta: ne risulta il rapporto del 1945 sul
progetto dell'ACE (Automatic Computing Engine), che è proposto qui nella sua parte introduttiva. E uno scritto in cui si può
apprezzare la vasta competenza di Turing e il suo interesse per
ogni tipo di problema, non solo di carattere logico e ingegneri-
1 Fu proprio von Neumann a usare il modello formale dei circuiti dei calcolatori
come possibile modello del cervello. Egli cercò di porre le basi di una teoria degli automi
che fondesse la matematica discreta e quella continua. Negli automi gli interessava soprattutto il poter instaurare una complessità sufficiente alla loro autoriproduzione; ad affascinarlo erano i problemi della vita, più che della logica, del comportamento dei cervello nel senso dell'affidabilità e della sua speciale logica, diversa da quella sequenziale.
Alcuni suoi scritti sono tradotti nell'antologia La filosofia degli automi, a cura di
V. Somenzi e R. Cordeschi, Bollati Boringhieri, Torino 1986, 1994'. Le sue opere
complete sull'argomento sono in W. Aspray e A. Burks (a cura di), Papers of John von
Neumann on Computing and Computer Theory, MIT Press, Cambridge, Mass. 1987 ,,' Se si identifica un programma con la descrizione della macchina particolare che
lo implementa, l'idea di scrivere un programma nella memoria è la base del funzionamento della macchina universale; nelle parole di Turing: «Le tavole di istruzioni sono
l'equivalente nelle macchine calcolatrici pratiche universali delle descrizioni delle macchine nelle macchine calcolatrici logiche universali».
INTRODUZIONE 15
14 GABRIELE LOLLI
stico, ma anche pratico: costi , localizzazione , accesso a distanza,
obsolescenza tecnologica , il tutto con un piglio da manager ed
economista.
Non siamo qui interessati a ricostruire la storia del calcolatore , ' quanto la storia di come sia nata l'idea geniale che possa
essere intelligente . Proprio allo scopo di apprezzare meglio questa
idea è importante rendersi conto di quanto sia banalmente semplice la struttura di base del calcolatore - di quello reale, non
della macchina teorica. L ' epoca è quella dei pionieri , e tutto deve
essere giustificato e spiegato senza un retroterra a cui riferirsi.
Dopo, si capirà meglio l'importanza di quelle poche soluzioni
logiche e tecniche escogitate per ottenere la flessibilità necessaria a rendere semplice ciò che appare complesso in partenza,
e ad affrontare qualunque compito.
Naturalmente l'idea centrale è quella di includere all'interno,
nella memoria , i programmi stessi, anche se non è l'unica del
dà alla macsuo genere .' La memorizzazione dei programmi «
china la possibilità di costruirsi i suoi propri ordini». Secondo
Turing occorre fare sì che la macchina scelga tra due prosecuzioni alternative a seconda dei risultati ottenuti , tecnica in
seguito detta branching condizionale : le istruzioni diventano
metaistruzion1 che decidono a quale istruzione orientarsi. N on
è escluso che l'ispirazione gli venga anche dal suo lavoro come
crittografo : in crittografia , infatti, i messaggi inviati contengono
nella prima parte il proprio codice di interpretazione.
Una possibilità che si rivelerà molto feconda è quella di spezzare il calcolo in operazioni sussidiarie , che vengono memorizzate e riutilizzate quando servono nell'esecuzione di altri come Si veda al riguardo V. Pratt, Thinking Machines, Basil Blackwell, Oxford 1987,
e H. H. Goldstine , The Computer
trad, it. Macchine pensanti , Il Mulino, Bologna 1990 ;
Princeton
University
Press,
Princeton 1972.
from Pascal to von Neumann ,
9 Soluzioni analoghe erano state trovate anche dai ricercatori negli Stati Uniti,
dovuto a Eckert. Anche von
anche prima di Turing ; in particolare lo stored program ,
Neumann nel suo rapporto dà diversi contributi , come la fissazione della dimensione
la distinzione tra short code e
dei byte ( che Turing chiamava packets of information),
complete code, con cui si riferisce ai programmi macchina e a quelli in linguaggio più
(flow charts).
evoluto, l'invenzione del buffer e dei diagrammi di flusso
piti. Per le operazioni sussidiarie , note in seguito come subroutine, Turing concepisce l'idea di un automa a pi ia stackj per
cóntrollarne l'entrata e l'uscita, per mezzo di istruzioni chiamate BURY (seppellisci) e UNBURY (disseppellisci); l'introduzione
di una gerarchia di programmi memorizzati e il controllo della
loro esecuzione gerarchica sono un decisivo passo avanti nella
programmazione.
Un'altra idea geniale di Turing è quella dei vari livelli di scrittura delle istruzioni, in particolare di quella che chiama la popular
form, una rappresentazione simbolica che viene messa sulle
schede accanto a quella numerica per poterne facilmente interpretare il significato : è l'origine dei cosiddetti codici autosimbolici, tradotti dal calcòlatore in codici numerici eseguibili, e
'alla lunga dell' assembler e dei linguaggi ad alto livello. Turing
richiede che le istruzioni si presentino ripetute in tre forme:
in «forma macchina », come successioni di operazioni fisiche, in
« forma permanente », eseguibile su diverse macchine, e in popular
forni; deve anche essere data una descrizione del processo che
si vuole ottenere, cioè un «commento» al codice.
Nel rapporto sull'ACE Turing indica alcuni problemi di calcolo matematico su grande scala affrontabili con il calcolatore,
alcuni tradizionali, altri più originali di tipo combinatorio. La
macchina viene presentata inizialmente come capace di eseguire
gi.ialùnque compito che non richieda comprensione; verso la fine
'dello scritto, però, sottovoce e quasi contraddicendosi, Turing
si serve del gioco degli scacchi per iniziare a porsi il problema
dell'intelligenza, che sarà approfondito negli scritti successivi..
Nel frattempo il progetto dell'ACE, pur andando avanti, rallenta. Alla fine sarà affiancato da quello dell'Università di Manchester, istituzione nella quale Turing si trasferisce. Alan, pur
non abbandonando i problemi di informatica,` si dedica ora
con più impegno alla questione dell'intelligenza. I risultati di
F st 0 In particolare elabora in uno scritto del 1949, qui non incluso , la prima dimoCollected
razione di correttezza di un programma ; si veda Checking a large routine, in
Works of A.M. Turing: Mechanical Intelligente , a cura di D. C. Ince, North Holland,
LAmsterdam 1992, pp. 129-31.
16 GABRIELE LOLLI
queste riflessioni sono sorprendenti, come il lettore potrà vedere
nella lettura degli scritti qui presentati. Le idee di Turing anticipano e indirizzano tutta la ricerca successiva: nulla va perso o
è tralasciato.
Turing, va detto, non è abile con la penna: la sua sintassi
è povera e il lessico ripetitivo, ma la sua prosa è ricca di immagini semplici e illuminanti che vanno dritte al cuore del problema. In ognuno di questi scritti si vede come un'idea accennata alla fine del precedente venga sviluppata nel successivo.
Così accade anche per quel che riguardai compiti ritenuti possibili per la macchina, che dal secondo scritto in poi sono molto
più complessi e «spregiudicati»: compaiono il test di Turing,
le prime obiezioni all'idea di macchina pensante e l'idea di «educazione della macchina».
A proposito dell'intelligenza, Turing inizia lo scritto del 1948
in modo generico e metaforico, proponendosi di indagare «se
sia possibile per ciò che è meccanico manifestare un comportamento intelligente». Il suo linguaggio però diventa subito più
impegnativo e diretto: dopo due pagine parla di costruire «macchine intelligenti» e anche «macchine pensanti». Immagina di
costruire una macchina completa di televisione, microfoni, ruote,
servomeccanismi e «cervello elettronico», e di mandarla in giro
per le strade a «farsi un'esperienza» e imparare a sviluppare l'intelligenza; ma per Turing questo è un obiettivo non realizzabile - al contrario di quanto sembrano affermare talvolta i
costruttori di robot - se non altro perché sarebbe una mac
china enorme, e quindi un «pericolo per gli abitanti "normali" ».
Si propone allora «di vedere cosa possa essere fatto con un "cervello" che sia, più o meno, senza un corpo, provvisto al massimo di organi di vista, parola e udito» per il necessario contatto sociale. Secondo Turing un tale progetto deve concentrarsi
su pochi obiettivi: i giochi, l'apprendimento di linguaggi - il
più affascinante, ma troppo condizionato anche dagli organi di
senso e di locomozione -, la traduzione dei linguaggi, la crittografia, la matematica. Egli prevede anche che le macchine
INTRODUZIONE 17
saranno in grado di manipolare effettivamente le formule algebriche - il calcolo simbolico - se esisteranno speciali sistemi
logici adeguati. E da notare che quelli indicati da Turingr sono
proprio i settori principali in cui si è orientata la ricerca nel campo
dell'intelligenza artificiale, una denominazione, quest'ultima,
risalente solo al 1956.
Consapevole dell'esistenza di una preclusione pregiudiziale nei
confronti dell'intelligenza nelle macchine, riflessa nel linguaggio comune da espressioni come «comportarsi come una macchina», Turing si dedica a una preliminare refutazione delle obiezioni, sia quelle implicite nelle locuzioni popolari sia quelle più
tecniche e «sofisticate». Questa discussione, iniziata nel 1948,
e ripresa due anni dopo nell'ormai classico articolo su «Mind».
Il «gioco dell'imitazione» è intravisto già nel 1948 come antidoto o correttivo di reazioni emotive alla parola «intelligenza».
Turing afferma di aver eseguito un esperimento, probabilmente
con esiti interessanti, in cui ha costruito una «macchina di carta»
- un insieme di istruzioni scritte affidate a una persona dotata
di fogli, matita e gomma - per giocare a scacchi; se. una macchina del genere, operata da un esperto perché possa applicare
in fretta le istruzioni, viene fatta giocare contro un giocatore
mediocre, quest'ultimo può avere difficoltà a scoprire se il suo
avversario è un umano o una macchina.
L'articolo del 1950 inizia proprio con la descrizione precisa
di questo «gioco dell'imitazione»: vi sono tre persone, un uomo,
una donna e un interrogante, che attraverso le sue domande,
senza vedere gli altri, deve capire chi è l'uomo e chi è la donna.
Turing si chiede poi cosa succede se l'uomo è sostituito da una
macchina, o meglio se le probabilità di indovinare per l'interrogante medio siano significativamente diverse quando gioca la
macchina rispetto a quando gioca l'uomo: «Queste domande
sostituiscono quella originale: "Possono pensare le macchine?" ».
In seguito il gioco è stato chiamato test di Turing, anche se
di tale termine Turing non fa mai uso; non lo propone infatti
come un criterio discriminante o definitorio, ma solo come descrizione delle circostanze che potrebbero giustificare un nostro
18 GABRIELE LOLLI
modo di parlare. Il superamento del test non è un criterio necessario per l'attribuzione di intelligenza , né, forse, sufficiente; non
esiste neanche un modo chiaro per definire « superato » il test,
ma solo la possibilità di stabilire «giocate» più o meno buone,
nel senso di difficoltà di riconoscimento per l'interrogante più
o meno paragonabili al caso di un interlocutore umano. Dice
Turing (infra, p. 133):
Credo che entro circa cinquant ' anni sarà possibile programmare calcolatori
con una capacità di memorizzazione di circa 109, per far giocare loro il gioco
dell'imitazione così bene che un esaminatore medio non avrà più del 70-per
cento di probabilità di compiere l'identificazione esatta dopo cinque minut i
di interrogazione . Credo che la domanda iniziale : « Possono pensare le macchine? », sia troppo priva di senso per meritare una discussione . Ciò nonostante credo che alla fine del secolo l'uso delle parole e l ' opinione corrente
si saranno talmente mutate che chiunque potrà parlare di macchine pensanti
senza aspettarsi di essere contraddetto.
John R. Searle11 ha parlato del test di Turing come del criterio scientifico per stabilire il successo o il fallimento dell'ímpresa di creare menti scrivendo programmi, impresa che egli
chiama«intelligenza artificiale forte »,',e che si è proposto di confutare . Secondo questo criterio , se un calcolatore riesce a comportarsi in modo tale che un esperto nonsia in grado di distinguere le sue azioni da quelle di un essere umano che possegga
una certa capacità cognitiva , allora anche il calcolatore possiede
questa capacità. Questa versione è ben diversa dal gioco proposto da Turing, che non si riferisce a singole capacità, che non
richiede un esperto come interrogante, che non propone una
prova da superare da parte della macchina ma una prova da superare da parte degli interroganti rispetto alle macchine , e che non
afferma comunque, anche in caso di superamento della prova,
che il calcolatore abbia la capacità in questione. La confutazione
di Searle consiste nell'affermare che una macchina non si può
11 j. R. Searle, Minds, Brains and Programs , Behav. Brain Sc., 3 (1980 ), 417-58;
trad. it. con integrazioni del 1990, in J. R. Searle, La mente è un programma ?, in Mente
e macchina , « Quaderni Le Scienze », n. 66, giugno 1992 , pp. 5-10.
INTRODUZIONE 19
dire intelligente anche se supera il test; allo scopo , egli immagina un esperimento con una «macchina di carta », costituita
da un insieme di istruzioni per rispondere in cinese a frasi scritte
in cinese , senza però conoscere quella lingua. Secondo Searle,
anche se l'operatore riesce a rispondere in modo da indurre l'interrogante a riconoscerlo come cinese, non si può affermare che
egli abbia imparato tale lingua.
Le obiezioni mosse nei confronti di Searle sono varie; gli si
è anche detto di provare a realizzare l'esperimento , come faceva
Turing con i suoi: può darsi che nel giocare impari proprio il
cinese . Turing, che riteneva possibile insegnare alle macchine
a capire la logica simbolica, probabilmente risponderebbe che
la possibilità di giocare alla «camera cinese» è soltanto una prova
che chi ha tradotto in regole il cinese ha fatto un lavoro completo ,- e che il cinese è traducibile in regole.
Il gioco serve a Turing per discutere le obiezioni alla possibilità di costruire macchine pensanti , valutate in base all'accezione di «pensante » data dall'ipotesi che possano essere costruite
macchine in grado di giocare il gioco dell ' imitazione . In alcuni
casi egli anticipa obiezioni che in seguito avranno un grande successo, come quella basata sul teorema di Gbdel, che avrà tante
reincarnazioní.12 E la prima presentata in questi scritti; discutendola, Turing introduce l'idea che essere «intelligenti» implica
anche commettere errori . A proposito di errori , egli immagina
tra l'altro una macchina che sia dotata di un suo metodo per
trarre conclusioni per induzione scientifica , rivelandosi ancora
una volta un anticipatore : metodi per trarre conclusioni e congetturare ipotesi per induzione sono stati sviluppati a partire
dal 1981.13
12 Da John Lucas fino a Roger Penrose; si veda R. Penrose, The Emperor's New
Mind, Oxford University Press , Oxford 1989; trad. it. La mente nuova dell'imperatore,
Rizzoli, Milano 1992.
13 Sono i programmi BACON di Gary Bradshaw, Pat Langley e Herbert Simon; si
veda P . Langley, H. Simon , G. Bradshaw e J. Zytkow , Scientific Discovery: An Account
of the Creative Process, MIT Press, Cambridge, Mass. 1986.
INTRODUZIONE
20
21
GABRIELE LOLLI
Un altro argomento forte è quello della coscienza . Turing
osserva che è possibile appurare se un soggetto ha davvero capito
quello che fa solo attraverso domande che «girino intorno» all'argomento, che facciano collegamenti, propongano metafore, figure
allegoriche; egli immagina, ritenendolo evidentemente fattibile,
un dialogo a proposito di figure letterarie, di analogie e di paragoni che assomiglia molto a quelli che saranno realizzati nel 1966
nel programma ELIZA di Joseph Weizenbaum.14
La sorpresa maggiore che riserva la diffusione postuma dello
scritto del 1948 riguarda forse la concezione di architetture
diverse da quella della macchina di Turing. Una drastica variante
concepita da Turing (oltre a quella delle macchine non deterministiche) è quella delle macchine «non organizzate». Una macchina del genere è costituita da molte unità, ciascuna fornita
di terminali di ingresso e di uscita che le collegano tra di loro.
A ogni istante, lo stato di un'unità è determinato da una regola
che lo fa dipendere dagli stati delle unità collegate agli ingressi.
Macchine del genere «sono importanti perché sono forse il più
semplice modello di un sistema nervoso con una distribuzione
casuale di neuroni».
Il cervello è per Turing una macchina probabilmente continua,
ma molto simile a una discreta. A volte la sua presa di posizione
è più netta: «Il sistema nervoso non è certamente una macchina
a stati discreti. Un piccolo errore nell'informazione circa la
misura dell'impulso nervoso in arrivo a un neurone può fare una
grande differenza rispetto alla misura dell'impulso di uscita».
Turing è consapevole dell'«effetto farfalla»: «Lo spostamento
di un singolo elettrone per un miliardesimo di centimetro, a un
momento dato», potrebbe significare la differenza tra il fatto
che un uomo è ucciso oppure no da un valanga un anno dopo. Per
le macchine discrete la predizione è possibile, ma «a rigor di
termini, macchine del genere non esistono. Tutto, in realtà, si
muove in modo continuo. Ma esistono molte specie di macchine
language com1a J. Weizenbaum, ELIZA. A computer program for the study of natural
- 45 .
munication between man and machine , Comm. ACM, 9 (1966), 36
che possono essere convenientemente pensate come macchine
a stati finiti», e quando è possibile è meglio farlo. Nelle condizioni del gioco dell'imitazione l'interrogante può non accorgersi
della sostituzione di una macchina discreta con una continua,
«purché questa fornisca la risposta in forma verbale scritta».
Le macchine continue possono essere emulate da macchine
discrete, almeno nei compiti a risposta discreta.
Per Turing il linguaggio degli stati discreti è utile per una descrizione fisica che però non scenda fino al livello degli atomi, o
alla fisiologia. La sua analisi del calcolatore umano può essere vista come una descrizione dei processi mentali indipendente dalla
loro radicazione fisica, e quindi con la possibilità di incorporarli
nelle macchine. E così è stata vista, facendogli così attribuire la paternità della posizione «funzionalista» in filosofia della mente.`
Sulla struttura della corteccia cerebrale, Turing osserva che
esistono parti riservate a scopi definiti, «ma le attività più intellettuali del cervello sono troppo varie per essere gestite su una
simile base» di moduli strettamente determinati. Il parlare inglese o francese non è dovuto a diversità delle parti devolute
alla parola, «ma al fatto che i centri linguistici sono stati assoggettati a un diverso addestramento». E più avanti: «Noi crediamo che ci siano ampie zone del cervello, soprattutto nella
corteccia, la cui funzione è in larga misura indeterminata». Nel
neonato queste zone non hanno un grande ruolo, nell'adulto un
effetto forte e orientato: «Tutto questo suggerisce che la corteccia del neonato sia una macchina non organizzata, che può
essere organizzata con un opportuno addestramento tramite
interferenza».
Pur non prendendo alla lettera l'identificazione del cervello
con una macchina universale, l'analogia è abbastanza forte da
suggerire di descrivere il passaggio dall'infante all'adulto come
la trasformazione da una macchina non organizzata alla macchina universale. Sulla base della propria esperienza educativa,
15 Sul funzionalismo si veda O. C. Dennett, Brainstornu , MIT Press, Cambridge,
Mass. 1978; trad, it. Brainstorms , Adelphi, Milano 1991.
22 GABRIELE LOLLI
Turing esegue prove con macchine non organizzate sottoposte
a due tipi definiti di interferenza , uno stimolo di «piacere» e
uno stimolo di «dolore ». Egli descrive in dettaglio un particolare
sistema piacere-dolore; aggiungendo una memoria su cui le interferenze possono occorrere nella forma di scrittura dall'esterno,
riesce a trasformare una macchina non organizzata in una macchina universale . Non ritiene però il risultato soddisfacente, perché non corrisponde a quello realistico visibile nei bambini: la
macchina è stata fatta girare a lungo , e le «punizioni » sono state
troppo numerose . Ma sarebbe importante proseguire questi esperimenti, che al momento sono soltanto manuali, perché secondo
Turing le macchine non organizzate potranno presto essere simulate dalle macchine determinate , e i processi educativi tradotti
in programmi . Prendendo in considerazione architetture modificabili che apprendono dall'esperienza , il matematico inglese
anticipa dunque anche le idee del moderno connessionismo,1G
soprattutto quando pensa a macchine che, come gli uomini,
apprendono e seguono regole senza che sia possibile enunciarle.
Nello stesso tempo, per quel che riguarda le macchine esistenti, Turing sviluppa l'idea di un apprendimento basato sulla
comunicazione , cioè su un ' educazione più simile a quella «scolastica » rispetto al sistema « piacere-dolore ». (Sembra che, col
procedere delle sue ricerche , egli parli sempre più delle sue macchine con lo stesso affetto con cui potrebbe parlare di veri bambini). Una comunicazione diretta potrebbe essere realizzata con
qualche forma di linguaggio simbolico , e la macchina potrebbe
avere installato anche un sistema logico completo. Le comunicazioni esterne in forma dichiarativa potrebbero essere classificate come ordini, e il sistema potrebbe avere una premessa
secondo cui tutto quello che dice l'insegnante è vero. Ci potrebbero essere anche imperativi espressi nel sistema , non facenti
parte delle regole, che proibiscono certe azioni a meno che non
siano state permesse dall'insegnante , per default - altro argo6 Si veda D. E. Rumelhart e J. L. McClelland ( a cura di), Parallel Distributed Processing. Explorations in the Microstructure of Cognition , MIT Press, Cambridge, Mass.
1986; trad . it. parziale PDP. Microstruttura dei processi cognitivi, Il Mulino, Bologna 1991.
mento che diventerà un classico, insieme a quello delle euristiche da introdurre per governare l'applicazione delle regole logiche, in modo da fare diventare « buoni ragionatori».
Oltre alla disciplina, deve essere insegnata anche l'iniziativa.
Gli esempi in proposito non sono fantasiosi , ma sempre legati
a prospettive concrete di programmazione. Turing afferma di
essere riuscito a farsi un'idea di come sia possibile con processi
di apprendimento incorporare vecchie routine in nuove - come
quando si impara l'addizione , e poi la moltiplicazione è vista come un'addizione ripetuta - ma non è in grado di sperimentare
su larga scala. Sembra quasi di sentire l'impazienza del genio condannato ad attendere di poter usare le macchine da lui previste.
Un altro modo in cui si manifesta l'iniziativa è in problemi
del tipo « cèrcare un numero tale che... ». La soluzione più rozza
è quella di passare in rassegna tutti i casi, ma tale ricerca ha
spesso dimensioni impossibili , soprattutto quando i numeri codificano qualche altro tipo di entità , come i programmi . Un'alternativa alla ricerca diretta è quella di dotare la macchina di
un sistema logico, e cercare un teorema che affermi l'esistenza
del numero cercato. Turing ritiene, con lungimiranza, che nello
sviluppo dell ' intelligenza meccanica le «ricerche » avranno un
peso sempre maggiore. L'affermazione secondo la quale risolvere un problema consiste nella ricerca di una dimostrazione,
uno dei cardini dell'intelligenza artificiale logicísta, ha le sue
radici qui , così come l'idea stessa di dimostrazione automatica,
anticipata nella visione della «macchina che dimostra un teorema » basandosi sulla logica dei Principia Mathematica.
Ma non restava molto tempo a Turing per verificare il realizzarsi delle sue previsioni : costretto dalla giustizia inglese alla
prigione e a subire umilianti cure a base di ormoni per «curare»
la sua omosessualità , si uccide nel 1954, a soli 42 anni, dopo
essersi interessato ancora della meccanizzazione di strategie per
giochi e aver creato una teoria matematica della morfogenesi,"
e dopo averci , soprattutto , lasciato questa utopia razionale, controllata e profetica.
" Si veda il volume Morphogenesis (a cura di P. T. Saunders) dei Collected Works cit.
Fonti dei testi
1. Proposalfor the Development in the Mathematics Division
of an Automatic Computing Engine (ACE). Part I: Descriptive
Account; rapporto all'Executive Committee del National Physics Laboratory del 1945. Pubblicato in B. E. Carpenter e R. N.
Doran (a cura di), A. M. Turing's ACE Report of 1946 and Other
Papers, MIT Press, Cambridge, Mass. 1986, pp. 20-105; ora in
Collected Works of A. M. Turing: Mechanicallntelligence, a cura
di D. C. Ince, North Holland, Amsterdam 1992, pp. 1-27.
2. Lecture to the London Mathematical Society on 20 February
1947. Pubblicato in Carpenter e Doran, op. cit., pp. 106-24;
ora in Collected Works cit., pp. 87-105.
3. Intelligent Machinery, rapporto interno del National Physics Laboratory. Pubblicato in B. Meltzer e D. Michie (a cura
di), Machine Intelligence 5, Edinburgh University Press, Edinburgh 1969, pp. 3-23; ora in Collected Works cít., pp. 107-27.
4. Computing Machinery and Intelligence, Mind, 59 (1950),
433-60; ora in Collected Works cit., pp. 133-60. Traduzione
italiana di N. Dazzi, in V. Somenzi e R. Cordeschi (a cura di),
La filosofia degli automi, Bollati Boringhieri, Torino 1986,
19942, pp. 167-93.