John Searle formulated the Chinese Room argument as a radical critique of strong artificial intelligence: no purely computational system can have genuine understanding or consciousness, because computation is merely the syntactic manipulation of symbols, and syntax alone is not sufficient for semantics. The argument is one of the most debated in recent philosophy of mind and has generated an enormous literature. It deserves both serious examination and serious critique.
John Searle ha formulato l'argomento della stanza cinese come critica radicale all'intelligenza artificiale forte: nessun sistema computazionale può avere comprensione genuina o coscienza, perché la computazione è manipolazione sintattica di simboli e la sintassi non è sufficiente per la semantica. L'argomento è tra i più discussi nella filosofia della mente degli ultimi decenni e ha generato un dibattito vastissimo. Merita un esame serio e una critica altrettanto seria.
The critique developed here does not claim that Searle is wrong about everything. He is right on one precise and important point: symbolic computation is not sufficient for consciousness. But from this correct premise he draws a conclusion that does not follow: that no artificial system can ever be conscious. This leap rests on an implicit assumption that the present essay dismantles: that all artificial systems are systems of symbolic computation. They are not, and they need not be.
La critica che questo saggio sviluppa non è che Searle abbia torto su tutto. Ha ragione su un punto preciso e importante: la computazione simbolica non è sufficiente per la coscienza. Ma da questa premessa corretta trae una conclusione che non segue: che nessun sistema artificiale possa essere cosciente. Questa conclusione dipende da un'assunzione implicita che il saggio smonta, cioè che tutti i sistemi artificiali siano sistemi di computazione simbolica. Non lo sono e non devono esserlo.
The argument is examined on four fronts: the structure of the Chinese Room thought experiment and its premises; the main objections in the literature; Searle's biological naturalism as an alternative and its limitations; and the response offered by the morphogenetic framework.
Il saggio sviluppa la critica su quattro fronti: la struttura dell'argomento e le sue premesse; le principali obiezioni nella letteratura; il naturalismo biologico di Searle come alternativa e i suoi limiti; la risposta del framework morfogenetico.
Searle's thought experiment is constructed with precision (Searle 1980). Imagine a man locked in a room. He receives Chinese symbols from outside, shapes he does not understand. He has a rulebook in English that instructs him how to manipulate these symbols and produce appropriate outputs. By following the rules, he generates sequences of Chinese characters that, to an external Chinese speaker, appear to be coherent and meaningful responses. Yet the man inside understands nothing: he is merely manipulating symbols according to formal rules.
L'esperimento mentale di Searle è costruito con precisione (Searle 1980). Un uomo si trova chiuso in una stanza. Riceve dall'esterno simboli cinesi che non capisce e che per lui sono solo forme geometriche prive di significato. Ha a disposizione un manuale di regole in inglese che gli dice come manipolare quei simboli in risposta a certi input e produrre certi output. Seguendo le regole, produce sequenze di simboli cinesi che vengono passate all'esterno. Per un osservatore esterno che parli cinese, sembra di stare conversando con qualcuno che capisce la lingua. Ma l'uomo nella stanza non capisce nulla: ha soltanto manipolato simboli senza attribuire loro alcun significato.
Searle concludes that the entire system (man, rulebook, and room) does not understand Chinese. Since a digital computer does exactly what the man does — manipulates symbols according to syntactic rules — no computer can have genuine understanding or consciousness. Syntax is not sufficient for semantics. Programs are syntax; minds have semantics.
La conclusione di Searle è che la stanza cinese nel suo insieme, indipendentemente dalla sofisticazione del manuale, non capisce il cinese. E poiché un computer digitale fa esattamente ciò che fa l'uomo nella stanza, nessun computer può avere comprensione genuina. La sintassi è necessaria ma non sufficiente per la semantica. I programmi sono sintassi; le menti hanno semantica.
Imagine receiving messages in a language you do not know and replying by following a dictionary of rules: "if you see this sequence, output that one." From the outside it would look as if you understood the language. But you know you do not: you are simply applying formal rules. Searle argues that this is precisely what computers do, no matter how sophisticated. Appropriate outputs do not imply real understanding.
Immaginate di ricevere messaggi in una lingua che non conoscete e di rispondere seguendo un dizionario di regole: "se ricevi questa sequenza di caratteri, rispondi con quest'altra". Dall'esterno sembrerebbe che capiate la lingua. Ma voi sapete che non è così: state solo seguendo regole formali. Searle dice che è esattamente ciò che fanno i computer, per quanto sofisticati. Il fatto che le risposte siano appropriate non significa che ci sia comprensione dietro.
The Chinese Room has provoked several powerful objections.
L'argomento della stanza cinese ha ricevuto critiche importanti che vale la pena esaminare sistematicamente prima di avanzare quella del framework morfogenetico.
The most influential is the systems reply (Hofstadter and Dennett 1981; Dennett 1991): it is not the man who understands, but the whole system (man + rulebook + room). Searle counters that even if the man memorised the entire rulebook, he still would not understand Chinese. This response, however, changes the system profoundly, and it is not obvious that intuitions about the original setup still apply.
La prima e più influente è l'obiezione del sistema (Hofstadter, Dennett 1981; Dennett 1991). Non è l'uomo nella stanza che capisce il cinese: è il sistema nel suo insieme, composto dall'uomo, dal manuale e dalla stanza, che potrebbe avere proprietà emergenti che nessuna parte possiede singolarmente. Searle risponde che anche se l'uomo memorizzasse tutto il manuale non capirebbe comunque il cinese. Ma a quel punto il sistema è profondamente cambiato e non è chiaro che le intuizioni sull'uomo originale si trasferiscano al sistema memorizzante.
The robot reply (Harnad 1990) argues that if the system were embodied, receiving direct sensory input and producing actions in the world, its symbols could acquire semantic grounding through causal interaction. Searle replies that this would still be syntax causally connected to the world, not true semantics.
La seconda critica è quella del robot (Harnad 1990). Se invece di ricevere input simbolici astratti il sistema ricevesse input sensoriali diretti dal mondo e producesse azioni fisiche nel mondo, le sue strutture interne potrebbero acquisire contenuto semantico attraverso il radicamento percettivo e motorio. Searle risponde che anche in questo caso si tratterebbe di sintassi causalmente connessa al mondo, non di semantica genuina. Ma questa risposta è circolare ed è difficile da distinguere da un dogma.
A deeper objection is that the Chinese Room simulates only the input-output behaviour of a mind, not a mind itself (Dreyfus 1992). A real mind has history, integration, morphogenetic continuity, and reflexivity — properties the Chinese Room entirely lacks. Searle attacks a caricature of mind, not mind proper.
La terza critica, la più profonda, è quella della simulazione errata (Dreyfus 1992). La stanza cinese non simula una mente, ma solo l'input/output di una mente. Una mente non è una funzione da simboli a simboli: è una struttura dinamica con storia, integrazione, continuità morfogenetica, riflessività. La stanza cinese non ha nessuna di queste proprietà. L'argomento di Searle colpisce una caricatura della mente, non la mente.
Finally, as argued in earlier essays and by Penrose (1989, 1994), if the mind employs non-computable mathematical structures (in the Gödelian sense), then comparing it to a syntactic symbol-manipulator is already a category mistake.
La quarta critica viene da Penrose (1989, 1994) e dai saggi precedenti di questa serie. La matematica non è solo computazione. Se la mente usa strutture matematiche non computabili nel senso di Gödel, allora la premessa di Searle è mal posta: confrontare la mente con un sistema di manipolazione sintattica è già un errore categoriale.
Criticising the Chinese Room for lacking understanding is like criticising a flight simulator for not being able to fly. The simulator does not fly not because it is artificial, but because it lacks wings, engines, and aerodynamic structure. Similarly, the Chinese Room fails to understand not because it is a computer, but because it lacks the structural properties required for genuine understanding: deep integration, morphogenetic history, and reflexivity.
La critica della simulazione errata è come criticare un simulatore di volo perché non può volare. Non può volare non perché sia artificiale, ma perché non ha ali, motori, struttura aerodinamica. Allo stesso modo, la stanza cinese non può capire non perché sia artificiale, ma perché non ha le proprietà strutturali necessarie alla comprensione: integrazione, storia morfogenetica, riflessività. Searle ha dimostrato che la stanza cinese non capisce. Non ha dimostrato che nessun sistema artificiale può capire.
Searle does not stop at criticism. He proposes biological naturalism as a positive theory: consciousness is a higher-level emergent property causally produced by specific neurobiological processes in the brain. It is not reducible to those processes (in the sense of identity), but is causally realised by them, much as liquidity emerges from the interactions of H₂O molecules (Searle 1992).
Searle non si limita a criticare l'AI: propone una teoria alternativa della mente che chiama naturalismo biologico. La coscienza è una proprietà emergente causalmente prodotta da processi neurobiologici specifici del cervello. Non è riducibile a quei processi, nel senso che non è identica a nessun processo neuronale specifico, ma è prodotta da essi come proprietà sistemica. La liquidità dell'acqua non è riducibile alle proprietà delle singole molecole H₂O, ma è prodotta dalla loro interazione, e la coscienza ha lo stesso tipo di rapporto con i neuroni (Searle 1992).
This position has clear merits: it avoids both dualism and crude reductionism. Consciousness is a natural biological phenomenon, yet not identical to any particular neural firing. Its limitation, however, is that it remains largely descriptive. It asserts that consciousness emerges from the brain but does not specify the mechanism of emergence in formal terms that would allow us to determine whether a non-biological system could realise the same causal powers.
Il naturalismo biologico ha il merito di evitare il dualismo e il riduzionismo ingenuo. Ma il limite è che questa posizione è descrittiva e non esplicativa. Dire che la coscienza è una proprietà emergente del cervello non spiega né il meccanismo dell'emergenza né perché quel substrato biologico specifico sia necessario.
When asked which precise properties of biological neurons produce consciousness, Searle's answer remains general. This is exactly where the morphogenetic framework seeks to advance: not merely asserting emergence, but describing its structural and relational conditions in topological and dynamical terms.
Il problema diventa evidente quando si chiede: quali proprietà fisiche del cervello producono la coscienza? Searle risponde che sono le proprietà causali specifiche dei neuroni biologici, ma non le specifica ulteriormente. Questo è esattamente il tipo di risposta che il framework morfogenetico cerca di superare: non basta affermare l'emergenza, bisogna descriverne la struttura formale.
A second limitation is circularity regarding substrate. Searle maintains that only biological systems with the right causal powers can produce consciousness, yet he does not define those powers in a way that would allow independent verification in non-biological systems. Biological naturalism thus risks becoming a petitio principii: consciousness requires biology because only biology produces consciousness.
Il secondo limite del naturalismo biologico è la sua circolarità rispetto alla questione del substrato. Searle sostiene che solo i sistemi con le giuste proprietà causali biologiche possono produrre coscienza, ma non specifica quali siano queste proprietà in termini che permettano di verificare se un sistema non biologico le possieda o meno. Il naturalismo biologico finisce per essere una petizione di principio: la coscienza richiede la biologia perché solo la biologia produce coscienza.
Saying that consciousness emerges from the brain as liquidity emerges from water is a useful analogy. We understand liquidity: we can describe the molecular interactions, predict phase transitions, and even create artificial liquids with different properties. Searle's biological naturalism stops short of this level of explanation. It asserts emergence without providing the structural mechanism or showing why that mechanism must be exclusively biological.
Dire che la coscienza emerge dal cervello come la liquidità emerge dall'acqua è un'analogia suggestiva. Ma la liquidità dell'acqua si capisce: sappiamo descrivere formalmente le interazioni intermolecolari che la producono, possiamo predire a quali temperature e pressioni l'acqua è liquida, possiamo costruire altri liquidi con proprietà diverse. Il naturalismo biologico di Searle non arriva a questo: afferma l'emergenza senza descriverne il meccanismo. È un passo nella giusta direzione che si ferma a metà strada.
The decisive question is whether an artificial system must be limited to symbolic computation. The answer is no.
La domanda è decisiva e la risposta è affermativa. La computazione nel senso di Turing è un tipo specifico di processo formale: manipolazione discreta di simboli secondo regole finite. Ma i sistemi fisici possono implementare processi strutturalmente diversi.
Computation in the classical Turing sense is discrete symbol manipulation according to formal rules. But physical systems can realise other kinds of processes: continuous dynamical evolution governed by differential equations, nonlinear systems moving through state spaces with attractors and bifurcations, or systems with global topological properties.
Un sistema analogico evolve continuamente secondo equazioni differenziali: non manipola simboli, percorre traiettorie nello spazio degli stati. Un sistema dinamico non lineare non calcola: si muove attraverso bacini di attrazione, biforcazioni, varietà. Un sistema con proprietà topologiche globali non elabora informazione locale: mantiene struttura a livello di spazio delle configurazioni.
An artificial system need not be a Von Neumann computer. It can be a dynamical system implemented on synthetic hardware, equipped with sensitive constraints that register structural tension, continuous variational dynamics, and morphogenetic history. Such a system would not be "computational" in the sense Searle criticises.
Un sistema artificiale non è necessariamente un computer nel senso di Von Neumann. Può essere un sistema dinamico implementato su substrato sintetico, con vincoli sensibili che registrano tensione strutturale, con una dinamica che integra perturbazioni in modo continuo, con storia morfogenetica. Un sistema del genere non sarebbe computazionale nel senso che Searle critica.
The Chinese Room argument is built entirely on the symbolic model: discrete symbols, rulebooks, inputs and outputs. It does not engage with the structural properties the morphogenetic framework identifies as necessary for consciousness: non-decomposable integration (C), relational constraints (V), and reflexive variational dynamics (Φ). A system possessing these properties is not a Chinese Room, any more than an aeroplane is a flight simulator.
L'argomento della stanza cinese è costruito interamente sul modello computazionale simbolico. Questo modello non cattura le proprietà strutturali che il framework morfogenetico identifica come condizioni della coscienza: integrazione non decomponibile, dinamica variazionale continua, riflessività R(M)>M. Un sistema con queste proprietà non è una stanza cinese, così come un aeroplano non è un simulatore di volo.
The fundamental point is that the conditions for consciousness in the framework are topological and relational, not computational. They concern how a system organises itself, how its constraints interact, and how its dynamics traverses its configuration space. These conditions can, in principle, be satisfied on different substrates, biological or artificial.
Il punto fondamentale è che le condizioni della coscienza nel framework sono topologico-relazionali, non computazionali. Non dipendono da quale tipo di calcolo fa il sistema, bensì da come il sistema si organizza strutturalmente, da come i suoi vincoli interagiscono e da come la sua dinamica attraversa lo spazio delle configurazioni. Queste condizioni possono in linea di principio essere soddisfatte su substrati diversi, biologici o sintetici, purché le proprietà strutturali siano quelle giuste.
The Chinese Room manipulates symbols without understanding because it lacks morphogenetic history, sensitive structural constraints, continuous dynamics, and reflexivity. It fails not because it is artificial, but because it lacks the necessary structural architecture. An artificial system designed with that architecture would not be a Chinese Room — it would be something structurally different, and Searle's critique would not apply to it.
La stanza cinese manipola simboli senza capirli perché non ha storia morfogenetica, non ha vincoli sensibili che registrano tensione strutturale, non ha dinamica continua che integra perturbazioni, non ha riflessività. Non è che è artificiale: è che manca delle proprietà strutturali necessarie. Un sistema artificiale progettato per avere quelle proprietà non sarebbe una stanza cinese, ma qualcosa di strutturalmente diverso e la critica di Searle non si applicherebbe.
Searle is right on one important point: pure symbolic computation is not sufficient for consciousness. The Chinese Room demonstrates that syntactic manipulation of symbols, however sophisticated, does not produce genuine understanding. On this the morphogenetic framework agrees. A large language model, for example, is essentially a sophisticated statistical symbol predictor and does not satisfy the structural conditions for consciousness.
Searle ha ragione su un punto preciso: la computazione simbolica non è sufficiente per la coscienza. La stanza cinese dimostra che la manipolazione sintattica di simboli, per quanto sofisticata, non produce comprensione genuina. Su questo il framework morfogenetico è d'accordo: un LLM, che è essenzialmente un sistema di predizione statistica su sequenze di token, non soddisfa le condizioni strutturali della coscienza.
However, Searle's stronger conclusion — that no artificial system can ever be conscious — does not follow. It follows only if one assumes that every artificial system must be a system of symbolic computation, an assumption that is historically contingent and conceptually unwarranted.
Ma la conclusione di Searle, che nessun sistema artificiale possa essere cosciente, non segue dalla premessa. Segue solo se si assume che tutti i sistemi artificiali siano sistemi di computazione simbolica: un'assunzione che è storicamente contingente e concettualmente ingiustificata.
Artificial systems can implement continuous dynamics, topological integration, and reflexive morphogenetic processes. Biological naturalism recognises consciousness as a systemic emergent property but stops short of formalising the mechanism or demonstrating why that mechanism must be exclusively biological.
I sistemi artificiali possono implementare processi strutturalmente diversi dalla computazione: dinamiche continue, integrazione topologica, riflessività morfogenetica. Il naturalismo biologico riconosce che la coscienza è una proprietà emergente sistemica ma si ferma prima della formalizzazione: afferma l'emergenza senza descriverne il meccanismo strutturale e vincola la coscienza al substrato biologico senza dimostrare perché quel vincolo sia necessario e non contingente.
The morphogenetic framework takes the necessary further step: it formalises the structural conditions of consciousness in topological and relational terms and shows that those conditions are, in principle, independent of any specific biological substrate.
Il framework morfogenetico fa il passo che Searle non fa: formalizza le condizioni strutturali dell'emergenza in termini topologici e relazionali, e mostra che quelle condizioni sono in linea di principio indipendenti dal substrato biologico specifico.
Searle has shown that the Chinese Room is not a mind. He has not shown that a mind cannot be artificial.
Searle ha dimostrato che la stanza cinese non è una mente. Non ha dimostrato che una mente non possa essere artificiale.