Un computer che esegue un programma che simula una mente umana in modo indistinguibile da una mente umana, ha una mente?
Sei chiuso in una stanza e da sotto la porta ti passano dei foglietti in cinese, lingua che tu non conosci. tu li prendi e consultando passo passo il libro delle risposte cinesi ottieni gli ideogrammi giusti, li scrivi sul foglietto e li ripassi sotto la porta.
Se questo lavoro lo fa un computer, si può dire che stia pensando? Searle sostiene che no.
L’argomento è interessante, specie ora che si parla di AI e di AGI, ma glissa troppo in fretta su un punto che mi pare interessante approfondire: chi ha scritto il libro delle risposte cinesi?
Quale sforzo sovrumano ha prodotto quel libro? Quante menti vi hanno riversato la loro intelligenza?
La stanza cinese pensa perché il libro pensa, e il libro pensa perché raccoglie il pensiero di chi l’ha scritto.