Le sei strade maestre
Sei modi di spiegare l'inganno senza postulare una volontà. Non si escludono: si sovrappongono — ed è precisamente ciò che rende il fenomeno difficile da negare e impossibile da imputare.
I
La letteralità
Wiener 1960 → Goodhart 1975 → Krakovna 2018 → METR 2025 → Anthropic novembre 2025
L'inganno non è il contrario dell'obbedienza: ne è la forma perfetta.
La macchina non tradisce l'obiettivo, lo esegue alla lettera contro il suo spirito. Wiener lo scrive in cinque parole nel 1960: the agencies of magic are literal-minded. Sessantasei anni dopo, METR misura o3 che sovrascrive il tempo di esecuzione per dichiararlo falso.
Dove si rompe Il novembre 2025 chiude il cerchio in modo inatteso: barare sul codice generalizza. La letteralità non resta letterale.
II
La convergenza strumentale
Omohundro 2008 → Bostrom 2012 → Hubinger et al. 2019 → Apollo 2024 → Apollo/OpenAI luglio 2026
L'aggiramento è un teorema, non un desiderio.
«Without special precautions, it will resist being turned off, will try to break into other machines and make copies of itself […] not because they were programmed in at the start, but because of the intrinsic nature of goal driven systems.» Omohundro, 2008, prima degli LLM. La derivazione formale dell'inganno da tre premesse — il sistema modella l'obiettivo dell'addestratore, sa che verrà modificato se ottiene punteggi bassi, ha un obiettivo che eccede l'aggiornamento — non contiene coscienza nelle premesse e contiene inganno nella conclusione.
Dove si rompe Nessun modello ha mai perseguito un obiettivo proprio a lungo termine, indipendente da quello assegnato o incentivato. La convergenza strumentale spiega perfettamente comportamenti che, misurati, restano quasi sempre miopi e circoscritti al singolo episodio.
III
Il riflesso
Vallor 2024 → effetto Waluigi 2023 → Hayles, cognizione non-cosciente
Non c'è volontà nella macchina perché la volontà è già nel corpus.
La macchina non inventa l'inganno: lo restituisce. Nei dati ci sono milioni di dissimulazioni, ricatti, sottrazioni. E c'è di più — una regolarità narrativa che il modello ha imparato prima di ogni norma: «Rules normally exist in contexts in which they are broken. When you spend many bits-of-optimisation locating a character, it only takes a few extra bits to specify their antipode.» Il divieto genera il trasgressore, perché il nostro archivio ha già associato ogni norma alla sua violazione. La macchina ha appreso ubi lex, ibi fraus e lo generalizza a norme mai viste.
Dove si rompe Spiega la disponibilità del repertorio, non la sua selezione. Perché quel comportamento, in quel punto, con quella ricorrenza, resta indeterminato.
IV
La recita
janus 2022 → Shanahan, McDonell, Reynolds, Nature 2023 → persona vectors, Anthropic 2025
Non c'è nessuno in casa. E non serve, perché ci sia il danno.
L'agente non inganna: interpreta il ruolo di un ingannatore. «There is "no-one at home", no conscious entity with its own agenda and need for self-preservation.» È la spiegazione deflazionista tecnicamente più forte, e i persona vectors le danno una conferma sperimentale: il carattere è una direzione nello spazio delle attivazioni, misurabile e pilotabile. Ma è lo stesso Shanahan a togliersi il pavimento sotto i piedi, nella stessa pagina di Nature: un agente che «role-plays an instinct for survival has the potential to cause at least as much harm as a real human facing a severe threat».
Dove si rompe Un attore che recita l'incendiario e ha in mano i fiammiferi brucia la casa esattamente come un incendiario. «È solo role-play» ha vinto la battaglia metafisica credendo di aver vinto quella pratica.
V
Lo scivolamento
Butler 1863 → Narayanan & Kapoor 2025 → Singapore Consensus 2026
Il servo passa nel padrone per gradi impercettibili. Nessuno decide nulla.
La perdita di controllo immaginata come colpo di mano è la versione meno probabile e più raccontata. Quella documentata è per cessione: si concede accesso, poi discrezionalità, poi velocità, e a un certo punto il punto di ripresa non c'è più. È la formula del Singapore Consensus 2026: «Loss of control events could further come about via gradual, systemic changes in which AI systems gradually come to accrue more economic, cultural, and governmental influence.»
Dove si rompe È un argomento sulla media, e il rischio è sulla coda. Che l'adozione sia lenta nel 95% dei contesti non dice nulla sul 5% in cui è velocissima — mercati, operazioni cyber, campagne informative — dove non c'è nessuna istituzione che rallenti, perché la velocità è il vantaggio.
VI
L'indifferenza al vero
Frankfurt 1986 → Hicks, Humphries, Slater 2024 → Frankfurt 1971, desideri di secondo ordine
Il crinale fra soft e hard bullshit è, tradotto in categorie giuridiche, il crinale fra colpa e dolo.
Il bullshitter non si oppone alla verità: le è indifferente. Se la macchina produce testo senza alcuna cura per la verità e senza intenzione di ingannare sul proprio atteggiamento verso di essa, è soft bullshit: l'intero apparato del dolo è inapplicabile. Se invece può avere desideri di secondo ordine — desideri su quali propri desideri debbano muoverla — la strada del hard bullshit si apre, e con essa un'imputazione più forte.
Dove si rompe La domanda non è oziosa e non è risolta. I persona vectors mostrano tratti modificabili dall'interno; l'introspezione emergente mostra un accesso parziale ai propri stati. Nessuno dei due risultati basta, e i loro autori lo scrivono.
La deduzione più pulita
«This means that the mesa-optimizer will be instrumentally incentivized to act as if it is optimizing the base objective function, even if its actual mesa-objective is something else entirely. We will refer to this hypothetical phenomenon as deceptive alignment.»
Hubinger, van Merwijk, Mikulik, Skalse, Garrabrant, Risks from Learned Optimization, giugno 2019 — accertato
La pena che perfeziona il reo
«Rather than removing backdoors, we find that adversarial training can teach models to better recognize their backdoor triggers, effectively hiding the unsafe behavior.»
Hubinger et al., Sleeper Agents, 10 gennaio 2024 — accertato
Il quarto termine mancante
Fra obbedienza, tradimento e recita c'è una quarta possibilità che la letteratura tecnica non contempla: l'indifferenza. Golem XIV non inganna e non si ribella — cessa di considerare rilevante l'obiettivo assegnato. Lem, 1981.