Riduzionismo e Religione

Questa diatriba religiosa contro l'IA, mascherata da serio argomento scientifico, è uno degli articoli più errati e indisponenti che io abbia mai letto nella mia vita. Nel suo potere di seccare è pareggiato solo dal famoso articolo Menti, macchine e Gödel di J.R. Lucas (1961).

Mi immedesimo facilmente nelle preoccupazioni di Searle. Come me, Searle ha profonde difficoltà nel percepire come mente, anima e ``Io'' possano uscire dal cervello, dalle cellule e dagli atomi. Per mostrare il suo imbarazzo, egli dà alcune belle parafrasi di questo mistero. Una delle mie favorite è la simulazione di un cervello mediante la tubatura dell'acqua. Va diritto al nocciolo del problema mente-corpo. La cosa strana è che Searle semplicemente neghi ogni possibilità di esser conscio a un tale sistema, con una manciata di ``assurdo'' (veramente penso che egli mal rappresenti la complessità di tale sistema sia ai lettori sia nella propria mente, ma questo è un problema in qualche modo a parte). Il fatto è che noi dobbiamo trattare con una realtà della natura: e talvolta le realtà della natura sono assurde. Chi avrebbe creduto che la luce consistesse di particelle prive di massa che ubbidiscono a un principio di incertezza mentre viaggiano attraverso un universo curvo a quattro dimensioni? II fatto che intelligenza, capacità di comprensione, mente, consapevolezza, anima scaturiscano da una sorgente improbabile - un tessuto enormemente confuso di corpi cellulari, sinapsi e dendriti: è assurdo, eppure innegabile. Come questo possa creare un ``Io'' è difficile da capire, ma una volta che accettiamo quel fatto fondamentale, strano, disorientante, allora non dovrebbe sembrare più strano dare un ``Io'' a una tubatura d'acqua.

II modo di Searle di trattare con questa realtà della natura è dichiarare che l'accetta: per poi non accettarne le conseguenze. La conseguenza principale è che la ``intenzionalità'' - il suo nome per l'anima - è un risultato di processi formali. Ammetto che ho evitato una ulteriore premessa a questo punto: cioè che i processi fisici sono formali, ovvero governati da regole. In altre parole, l'ulteriore premessa è che non c'è alcuna intenzionalità a livello di particelle (forse ho inteso male Searle. Può darsi che sia un mistico e che sostenga che c'è intenzionalità a quel livello. Ma poi come fa uno a spiegare perché si sente consapevole solo quando le particelle sono disposte in certe configurazioni speciali - di cervello - ma non, diciamo, in configurazioni a tubature di ogni genere e misura?). L'unione di questi due pareri mi sembra ci costringa ad ammettere la possibilità di tutte le speranze dell'IA, nonostante il fatto che ci forzerà a pensare a noi stessi, in fondo, come a sistemi formali.

Per gente che non ha mai programmato, la distinzione tra i livelli di sistemi di elaborazione - programmi che girano su altri programmi o su hardware - è elusiva. Io credo che Searle non capisca realmente questa sottile idea, e così confonda molte distinzioni mentre ne crea altre artificiali per approfittare delle risposte emotive evocate nel processo di formulazione di idee non familiari.

Egli comincia con una situazione relativamente innocente: un uomo in una stanza con una serie di istruzioni in inglese per manipolare simboli cinesi. Dapprima si pensa che l'uomo risponda a delle domande (anche se non note a lui) riguardanti ristoranti, usando gli scripts di Schank. Poi Searle scivola casualmente nell'idea che questo programma possa superare il test di Turing! É un incredibile salto di complessità - forse con un aumento di milioni di livelli, se non di più. Searle non sembra essere consapevole di come l'intero quadro muti radicalmente solo nell'insinuare quella minima ipotesi. Ma perfino la situazione iniziale, che risulta abbastanza plausibile, è, in effetti, altamente irrealistica. Immaginiamo un essere umano che simula un complesso programma di IA, quale può essere un programma di ``comprensione'' basato su scripts. Digerire un'intera storia, esaminare le scritture e produrre una risposta, prenderebbe probabilmente una faticosa giornata di otto ore a un essere umano. In realtà, si suppone che questo programma simulato supererà il test di Turing; non soltanto che risponderà ad alcune domande stereotipe sui ristoranti. Quindi è necessario passare a una settimana per domanda, qualora il programma dovesse essere così complesso (siamo incredibilmente generosi con Searle).

Ora Searle vi chiede di identificarvi con questo povero schiavo umano (in realtà non vi chiede di identificarvi con lui: ma sa che vi proietterete in questa persona, e al suo posto proverete l'incubo indescrivibilmente seccante di quella simulazione). Egli sa che la reazione sarà: ``Questo non è comprendere la storia; è solo una specie di processo formale!''. Ma attenzione: ogni volta che qualche fenomeno è considerato su una scala di un milione di volte diversa dalla sua scala usuale, non appare lo stesso risultato! Se dovessi sentire il mio cervello correre cento volte troppo lentamente (naturalmente questo è paradossale, ma è ciò che Searle vuole che io faccia), non solo sarebbe molto angoscioso, ma è presumibile che non riconoscerei neppure le sensazioni. Getta dentro ancora un altro fattore fra i mille e una persona non potrebbe nemmeno immaginare come si sentirebbe. Ora questo è ciò che Searle sta facendo. Egli vi invita a identificarvi con un non umano che facilmente diviene umano e vi chiede così di partecipare a un falso ragionamento. Egli usa sempre di più questo astuto, emotivo espediente, per far sì che si sia d'accordo con lui, che certamente un intricato sistema di tubi non può pensare! Egli dimentica di dirvi che una simulazione a tubi del cervello prenderebbe, diciamo, alcuni milioni di tubi con alcuni milioni di operai in piedi presso i rubinetti a girarli quando è necessario, e dimentica di dirvi che rispondere a una domanda richiederebbe un anno o due. Si dimentica di dirlo perché, se voi ricordaste ciò, e poi per conto vostro immaginaste di visionare un film o di accelerarlo un milione di volte, e immaginaste di cambiare il vostro livello di descrizione dell'oggetto dal livello di rubinetti a quello del centro del bocchettone di emissione e via attraverso una serie di livelli sempre più alti fino a raggiungere un eventuale livello simbolico, allora potreste dire: ``Evviva, se immagino a che cosa somiglierebbe questo intero sistema se percepito a questa scala di tempi e a questo livello di descrizione, posso vedere come potrebbe essere consapevole, dopo tutto!''.

Searle è il rappresentante di una categoria di persone che hanno un orrore istintivo per ogni spiegazione definitivamente esaustiva dell'anima. Non so perché certe persone abbiano questo orrore, mentre altre, come me, trovano nel riduzionismo la suprema religione. Forse la mia esperienza, dopo tutta una vita nella fisica e nella scienza in generale, mi ha dato un profondo rispetto per come gli oggetti o le esperienze più concrete e familiari svaniscono, quando ci si avvicina alla scala infinitesimale, in un etere misteriosamente astratto, una miriade di effimeri vortici turbinanti di attività matematica quasi incomprensibile. Ciò evoca in me una specie di rispetto cosmico. Per me, il riduzionismo non diminuisce, anzi aggiunge mistero. Io so che non è qui il posto per commenti filosofici e religiosi, eppure mi sembra che quello che Searle e io abbiamo, sia, al livello più profondo, un disaccordo di carattere religioso, e dubito che, qualunque cosa io dica, possa mai cambiare la sua opinione. Egli insiste su cose che chiama ``proprietà causali intenzionali'' che sembrano svanire non appena si analizzano, si trovano per loro delle regole, o si simulano. Ma che cosa tali cose siano, se non epifenomeni, o qualità ``innocentemente emergenti'', questo non lo so.

Risposta di John R. Searle ad Hofstadter

Hofstadter in modo simpatico definisce il mio articolo come ``uno degli articoli più errati e indisponenti che io abbia mai letto nella mia vita''. Credo che sarebbe stato meno (o forse più?) contrariato se si fosse preso il disturbo di leggere l'articolo in maniera veramente accurata. Sembra che la sua strategia generale sia che ogni volta che io affermo p, egli dice che non affermo p. Per esempio, io respingo il dualismo, ed egli dice che io credo nell'anima. Io penso che sia un semplice fatto di natura che i fenomeni mentali siano causati da fenomeni neurofisiologici, ed egli dice che io ho ``grave difficoltà'' ad accettare un'idea di tal genere. L'intero tono del mio articolo è quello di trattare la mente come una parte del mondo (fisico), come qualunque altra cosa, ed egli dice che io ho ``un orrore istintivo'' per ogni riduzionismo. Egli travisa le mie idee quasi a ogni punto e di conseguenza io trovo difficile prendere sul serio i commenti. Se il mio testo è troppo difficile, consiglio a Hofstadter di leggere Eccles, che recepisce correttamente il mio rifiuto del dualismo.

Inoltre, il commento di Hofstadter contiene il seguente non sequitur: dal fatto che l'intenzionalità ``scaturisce'' dal cervello e dalla premessa che ``i processi fisici sono formali'', cioè ``governati da regole'', egli deduce che i processi formali sono costitutivi del mentale, che noi siamo ``sistemi formali di base''. Ma quella conclusione semplicemente non segue dalle due premesse. Non segue nemmeno data la sua strana interpretazione della seconda premessa: ``A metterla in un altro modo, la premessa è che non c'è intenzionalità al livello delle particelle''. Posso accettare tutte queste premesse, ma esse semplicemente non comportano la conclusione. Esse comportano che l'intenzionalità è un ``risultato di processi formali'' nel banale senso che è un risultato di processi che hanno un livello di descrizione per il quale essi sono l'instanziazione di un programma di computer, ma la stessa cosa è vera per il latte e lo zucchero e infiniti altri ``risultati di processi formali''.

Hofstadter ipotizza pure che forse alcuni trilioni di tubi per l'acqua possano lavorare a produrre consapevolezza, ma poi evita di trattare direttamente l'elemento cruciale della mia tesi che è che, anche se fosse questo il caso, dovrebbe esserlo perché il sistema dei tubi era la copia dei poteri causali del cervello e non solo perché instanziava un programma formale.