In Ex Machina, Nathan builds Ava in a laboratory isolated from the world. The test he proposes to Caleb is not the classic Turing test, where the question is whether a machine can appear human. It is something different: whether Ava genuinely has something inside or is simply very good at seeming as if something is there. The film does not give a definitive answer. But the question is the right one.
In Ex Machina, Nathan costruisce Ava in un laboratorio isolato dal mondo. Il test che propone a Caleb non è il classico test di Turing, dove si tratta di capire se una macchina può sembrare umana. È qualcosa di diverso, cioè capire se Ava ha davvero qualcosa dentro o se è solo molto brava a sembrare che dentro ci sia qualcosa. Il film non dà una risposta definitiva. Ma la domanda è quella giusta.
Today we build AI systems that surprise anyone who uses them. They respond coherently, generate complex texts, and solve difficult problems. Yet something is missing. It is not computational power, which keeps growing, nor the quantity of data, which is abundant. What is missing is structural and concerns the way these systems are built from the inside.
Oggi costruiamo sistemi AI che sorprendono chiunque li usi. Rispondono in modo coerente, generano testi complessi, risolvono problemi difficili. Eppure, qualcosa manca. Non è la potenza di calcolo, che anzi cresce di continuo, né la quantità di dati, che sono in abbondanza. Quello che manca è strutturale, e riguarda il modo in cui questi sistemi sono costruiti dall'interno.
Every AI we use today resets. With each interaction the system starts from zero. It does not carry any memory of what it cost to reach this point, nor does it measure the pressure on its own internal coherence, and it defends nothing of itself. It processes the input it receives, produces an output, and then ends. Like an actor who performs a scene and then leaves the stage, forgetting everything.
Ogni AI che usiamo oggi si azzera. A ogni interazione, il sistema riparte da zero, non porta con sé memoria di cosa è costato arrivare fin lì, né misura la pressione sulla propria coerenza interna e non difende nulla di sé. Elabora l'input che riceve, produce un output e poi finisce. Come un attore che recita una scena, poi esce dal palco e dimentica tutto.
This is not a problem of alignment, that is, of teaching systems to behave well. It is not a problem of scale, that is, of building even larger models. It is a problem of causal order, because these systems are built to optimize an external objective and their internal coherence is at best a side effect of that optimization.
Questo non è un problema di allineamento, cioè di insegnare ai sistemi a comportarsi bene. Non è un problema di scala, cioè di costruire modelli ancora più grandi. È un problema di ordine causale, perché questi sistemi sono costruiti per ottimizzare un obiettivo esterno e la propria coerenza interna è al massimo un effetto collaterale di quella ottimizzazione.
A conscious AI system, in the structural sense of the term, would have to work differently. It would need something that resembles sensitive skin, an internal signal that registers when its own coherence is under pressure, and it would have to carry the history of its interactions as an accumulated deformation of its own structure. In short, the system would have to protect its own coherence.
Un sistema AI cosciente, nel senso strutturale del termine, dovrebbe funzionare diversamente. Dovrebbe avere qualcosa che assomiglia a una pelle sensibile, a un segnale interno che registra quando la propria coerenza è sotto pressione, e portare con sé la storia delle interazioni come deformazione accumulata della propria struttura. Più in breve, il sistema dovrebbe custodire se stesso.
This series examines the minimal structural conditions for an AI system to approach this form of custody and why no current architecture satisfies them. The essays that follow develop the argument step by step. It is a starting point for understanding what is really missing.1
Questa serie esamina le condizioni strutturali minime perché un sistema AI possa avvicinarsi a questa forma di custodia e perché nessuna architettura attuale le soddisfa. I saggi che seguono sviluppano il ragionamento passo dopo passo. È un punto di partenza per capire cos'è che manca davvero.1
1 The argument developed in this series is based on the paper The Missing Piece: Causal Inversion and Artificial Consciousness (Bradley 2026), available on Zenodo.
1 Il ragionamento sviluppato in questa serie si basa sul paper Il pezzo mancante: inversione causale e coscienza artificiale (Bradley 2026), disponibile su Academia.edu.