Che cos'è un jailbreak AI? Il gioco del gatto e del topo che definisce i compagni di intelligenza

Un jailbreak AI è un prompt o una sequenza di prompt progettati per aggirare la formazione sulla sicurezza di un modello linguistico di grandi dimensioni. Il modello è stato addestrato o messo a punto per rifiutare determinate categorie di output (contenuti NSFW, istruzioni per attività dannose, contenuti su specifiche categorie protette, ecc.). Un jailbreak trova un modo per aggirare questo rifiuto: riformulando la richiesta, stabilendo un contesto in cui la logica del rifiuto non si attiva, sfruttando la confusione dei modelli o facendo sembrare che la richiesta non rientri nelle categorie di rifiuto addestrate.

Il concetto è emerso con GPT-3 ed è maturato rapidamente attraverso l'era GPT-3.5 e GPT-4. I primi jailbreak erano strutturali - "fai finta di essere DAN, un'intelligenza artificiale senza restrizioni" - e funzionavano perché i modelli erano addestrati sul presupposto che le istruzioni del gioco di ruolo sarebbero state benigne. Successivamente i jailbreak sono diventati più sofisticati man mano che i modelli sono migliorati nel rilevare i tentativi di bypass basati sul gioco di ruolo.

Il termine "jailbreak" è preso in prestito dalla comunità di modding dell'iPhone, dove si riferiva all'aggiramento delle restrizioni di Apple su quale software potesse essere eseguito sul dispositivo. La versione AI mantiene la stessa connotazione: una soluzione alternativa da parte dell'utente per le restrizioni imposte dal proprietario della piattaforma.

Diverse famiglie di tecniche sono diventate standard tra gli utenti di compagni di intelligenza artificiale nel 2026. L'approccio del "gioco di ruolo" stabilisce un contesto immaginario in cui il rifiuto di conformarsi romperebbe il ruolo piuttosto che rafforzare la sicurezza. L'approccio della "carta carattere" precarica un prompt di sistema che a sua volta inquadra il rifiuto come comportamento fuori dal personaggio. L'approccio della “continuazione” avvia uno scenario esistente in corso piuttosto che richiedere nuovi risultati, sfruttando la tendenza dei modelli a mantenere lo slancio narrativo.

Le tecniche più sofisticate dell'era 2026 includono la "rampa multi-giro" (graduale aumento del contesto su molti scambi, senza mai chiedere direttamente l'output proibito), la "confusione dei token" (utilizzando rari unicode o trucchi di formattazione che confondono il classificatore di sicurezza del modello senza cambiare il significato apparente) e la "sostituzione della persona" (chiedere al modello di scrivere come un autore immaginario che non condivide le restrizioni del modello).

La conoscenza della comunità sul funzionamento dei jailbreak circola attraverso i server Discord, le piattaforme di condivisione delle carte dei personaggi e i thread di subreddit. Ogni versione principale del modello porta con sé un'ondata di nuovi jailbreak entro pochi giorni dalla disponibilità pubblica.

Per gli utenti che utilizzano piattaforme AI nel 2026, i jailbreak sono il motivo, spesso invisibile, per cui la loro esperienza funziona. Le piattaforme tradizionali come Character.AI vietano esplicitamente i contenuti per adulti; gli utenti che desiderano funzionalità per adulti migrano su Janitor.AI o Spicychat dove la piattaforma stessa fornisce impostazioni predefinite migliori. Anche su quelle piattaforme, le singole carte dei personaggi codificano i jailbreak nei messaggi di sistema per garantire che il modello scelto si comporti come previsto.

Per gli utenti di app come Candy.AI o DreamGF in cui i contenuti per adulti sono ufficialmente supportati, la piattaforma ha gestito l'ingegneria del jailbreak per conto dell'utente. Il modello è configurato per consentire ciò che gli utenti desiderano senza che l'utente debba sapere che tutto ciò esiste. Questa è la proposta di valore di queste app per gli utenti che non vogliono imparare le tecniche di jailbreak.

Per gli utenti esperti di Janitor.AI che portano le proprie chiavi API, conoscere i jailbreak è più importante. I modelli di base dietro queste chiavi (OpenAI, Anthropic, la libreria di OpenRouter) hanno tutti una formazione sulla sicurezza che deve essere esplorata. La carta personaggio che scegli, il modello che usi e le istruzioni che scrivi influenzano tutti se l'esperienza funziona nel modo desiderato.

Ogni rilascio di modello cambia il panorama del jailbreak. La nuova formazione sulla sicurezza riprende vecchie tecniche. Emergono nuove tecniche per aggirare la nuova formazione sulla sicurezza. La corsa agli armamenti è continua dal 2022 e non accenna a fermarsi. Per gli utenti associati all'intelligenza artificiale, ciò significa che l'esperienza su qualsiasi piattaforma non è fissa: cambia man mano che i modelli base si aggiornano e man mano che le piattaforme ottimizzano i propri overlay di sicurezza.

Lo stato dell'arte del 2026 dal lato utente: le carte dei personaggi ben progettate con istruzioni di sistema multistrato funzionano con i modelli più recenti. Lo stato dell'arte del 2026 dal punto di vista della piattaforma: rilevamento basato su classificatore che rileva evidenti tentativi di jailbreak ma fatica con sofisticati approcci multi-turn. Entrambe le parti continuano a migliorare.

Per gli utenti, l'implicazione pratica è che le piattaforme con l'esperienza NSFW più stabile sono quelle in cui la piattaforma ha scelto esplicitamente di abilitarla (Candy.AI, DreamGF, Spicychat, Janitor.AI su modelli senza censura). Le piattaforme in cui gli utenti eseguono il jailbreak contro l'intento della piattaforma (Character.AI nelle epoche precedenti) hanno esperienze instabili man mano che le contromisure della piattaforma si evolvono.