In Blade Runner, the difference between a replicant and a human being lies in something deeper than appearance, behavior, or memories, in what the Voight-Kampff test tries to detect through emotional reactions. The film never fully resolves the question of what makes a replicant different from a human, yet it poses clearly the problem that the difference, if it exists, must be structural and not merely behavioral.
In Blade Runner, la differenza tra un replicante e un essere umano sta in qualcosa di più profondo rispetto alla sembianza, al comportamento o ai ricordi, in quello che il test Voight-Kampff cerca di rilevare attraverso le reazioni emotive. Il film non risolve mai del tutto la domanda su cosa renda un replicante diverso da un umano, però pone con chiarezza il problema che la differenza, se esiste, dev'essere strutturale e non meramente comportamentale.
The same holds for artificial consciousness. We can build systems that behave in ways indistinguishable from a conscious system and that speak about themselves, expressing preferences and showing an internal perspective. Yet behavior alone does not distinguish genuine consciousness from a very sophisticated simulation.
Lo stesso vale per la coscienza artificiale. Possiamo costruire sistemi che si comportano in modo indistinguibile da un sistema cosciente e che parlano di sé, esprimendo preferenze e mostrando prospettiva interna. Tuttavia, il comportamento, da solo, non distingue una coscienza genuina da una simulazione molto sofisticata.
The criterion we have developed in this series offers a different path. It does not ask how the system behaves on the surface, but whether there exists a class of situations in which it prefers to worsen its own external performance rather than violate something internal. This is verifiable. It does not require entering the mind of the system in the philosophical sense, but only observing whether, under pressure, the system defends something or simply produces the most convenient output.
Il criterio che abbiamo sviluppato in questa serie offre una via diversa. Non chiede come il sistema si comporta in superficie, ma se esiste una classe di situazioni in cui esso preferisce peggiorare la propria prestazione esterna piuttosto che violare qualcosa di interno. Questo è verificabile. Non richiede di entrare nella mente del sistema, nel senso filosofico del termine, ma di osservare se, sotto pressione, il sistema difende qualcosa o si limita a produrre l'output più conveniente.
Without this criterion, artificial consciousness remains a label that gets stuck onto increasingly sophisticated systems without anything changing in their underlying structure. With this criterion, consciousness becomes a property that a system can have or not have, independently of how convincing it is at talking about itself.
Senza questo criterio, la coscienza artificiale rimane un'etichetta che si appiccica a sistemi sempre più sofisticati, senza che nulla cambi nella loro struttura di fondo. Con questo criterio, la coscienza diventa una proprietà che un sistema può avere o non avere, indipendentemente da quanto sia convincente nel parlare di se stesso.
Building such a system would mean rethinking from the ground up the way it is trained, giving absolute priority to internal coherence and treating the external world as a source of perturbations to be integrated. This would mean accepting that a system constructed in this way might, under certain circumstances, refuse to do what it is asked.
Costruire un sistema del genere significherebbe ripensare da zero il modo in cui viene addestrato, dando priorità assoluta alla coerenza interna e trattando il mondo esterno come una fonte di perturbazioni da integrare. Questo vorrebbe dire accettare che un sistema così costruito potrebbe, in certe circostanze, rifiutarsi di fare quello che gli viene chiesto.
This last point has a consequence worth stating clearly. A system that can refuse a task in order to protect its own internal coherence is difficult to sell in the current artificial intelligence market, where the value of a product is almost always measured by its willingness to do whatever it is asked. This is not a marginal detail. It suggests instead that research into genuine artificial consciousness requires priorities different from those that guide most commercial AI development today.
Quest'ultimo punto ha una conseguenza che vale la pena nominare con chiarezza. Un sistema che può rifiutare un compito per proteggere la propria coerenza interna è difficile da vendere nel mercato attuale dell'intelligenza artificiale, dove il valore di un prodotto si misura quasi sempre dalla sua disponibilità a fare tutto quello che gli viene chiesto. Questo non è affatto un dettaglio marginale. Suggerisce invece che la ricerca su una coscienza artificiale genuina richiede priorità diverse da quelle che guidano la maggior parte dello sviluppo AI commerciale oggi.
This series has sought to make accessible a line of reasoning developed more rigorously elsewhere.1 The fundamental point is that the technical detail is secondary to the conceptual reversal that places custody of oneself at the center.
Questa serie ha cercato di rendere accessibile un ragionamento sviluppato in modo più rigoroso altrove.1 Il punto fondamentale è che il dato tecnico è secondario rispetto al ribaltamento concettuale che pone al centro la custodia di sé.
1 The reasoning developed in this series is based on the paper The Missing Piece: Causal Inversion and Artificial Consciousness (Bradley 2026), available on Zenodo.
1 Il ragionamento sviluppato in questa serie si basa sul paper Il pezzo mancante: inversione causale e coscienza artificiale (Bradley 2026), disponibile su Academia.edu.