A luglio vi avevo raccontato come ho costruito la Media Factory di SeptimaDomus: una pipeline che genera Reel a 3 centesimi l'uno e che, nel primo mese, aveva portato la pagina Facebook a 3,3 milioni di visualizzazioni.
Oggi la pagina ha superato i 22 milioni di visualizzazioni, solo su Facebook, sempre con 0€ di budget pubblicitario.
Numeri del genere fanno piacere, ma cambiano anche le regole del gioco. In questo aggiornamento vi racconto cosa ho dovuto aggiungere al sistema proprio a causa del successo: una serie di guardrail per controllare ogni contenuto generato dall'AI prima che arrivi al pubblico.
Perché il successo cambia le priorità
Con poche migliaia di visualizzazioni, un contenuto sbagliato è un incidente. Con decine di milioni, è un problema di reputazione che può costare la pagina intera.
Un modello linguistico non è deterministico. Anche con un prompt ben costruito, prima o poi può produrre una frase fuori luogo, una promessa che non si può mantenere o un'affermazione che non dovrebbe mai comparire in un contenuto di astrologia rivolto al grande pubblico.
C'è poi un secondo aspetto. Più un progetto diventa visibile, più attira attenzioni indesiderate. Un sistema che genera e pubblica contenuti in automatico è un bersaglio interessante: se qualcuno riuscisse a manipolare le istruzioni che il modello riceve (la classica prompt injection), potrebbe usare la mia pagina come megafono. Dovevo assumere che prima o poi qualcuno ci avrebbe provato.
Due livelli di controllo, due modi diversi di sbagliare
Ogni testo generato dall'AI ora attraversa due filtri indipendenti prima di poter diventare un Reel.
Il primo livello è deterministico. È un ampio insieme di regole che intercetta formulazioni che non devono mai comparire nell'output. È veloce, non costa nulla e dà sempre la stessa risposta: se una frase vietata c'è, viene bloccata. Il suo limite è che vede solo ciò che conosce: basta una parafrasi per aggirarlo.
Il secondo livello è semantico. Un classificatore basato su AI valuta il significato del contenuto e decide se è sicuro da pubblicare. Capisce le parafrasi e il contesto, ma essendo probabilistico può sbagliare in modi meno prevedibili.
Presi da soli, entrambi hanno dei buchi. Messi in sequenza, si coprono a vicenda: le regole fermano con certezza i casi noti, il classificatore intercetta quelli che le regole non immaginano. È il principio della defense in depth: nessun controllo è perfetto, quindi se ne mettono più di uno, diversi tra loro.
Se anche uno solo dei due livelli scatta, il contenuto viene scartato e il sistema ne genera una nuova versione, entro un numero limitato di tentativi. Nessun testo bocciato arriva mai alla pubblicazione.
Anche i messaggi automatici passano dal filtro
I Reel non sono l'unico punto in cui l'AI parla a nome mio. Anche i messaggi automatici sui social sono protetti da controlli dedicati.
È il punto più esposto di tutto il sistema, perché è lì che il testo generato incontra direttamente gli utenti. Un video sbagliato è un errore; una risposta sbagliata a una persona reale può diventare uno screenshot virale. Per questo vale la stessa regola: niente esce senza essere stato controllato.
Perché questa volta non entro nei dettagli
Nel primo articolo vi ho mostrato il codice sotto il cofano. Questa volta resto volutamente in superficie: niente regole, niente soglie, niente numeri sui tentativi.
Non è che la sicurezza del sistema dipenda dal segreto. Un buon controllo deve funzionare anche se l'attaccante sa che esiste, ed è così che li ho progettati. Ma conoscere le regole esatte, le soglie e i limiti permette a chi vuole aggirarli di calibrare i propri tentativi. Non c'è motivo di regalare una mappa.
È un consiglio che vale anche per voi: raccontate pure cosa fate per proteggere un sistema AI, ma tenete per voi il come.
Un'AI per controllare un'AI
C'è un dettaglio che trovo divertente: buona parte delle regole del primo livello l'ho fatta scrivere a Claude Code.
Creare e mantenere a mano un catalogo così ampio sarebbe stato un lavoro lunghissimo e pieno di errori. Il mio compito è stato quello del Tech Lead di cui parlavo nel primo articolo: decidere cosa bloccare, definire i casi da coprire e verificare che il risultato facesse esattamente quello che doveva.
Il concetto resta lo stesso: l'AI è un junior instancabile, ma le decisioni su cosa è accettabile e cosa no restano umane.
Conclusioni
Portare l'AI in produzione non significa solo farle generare contenuti. Significa decidere cosa succede quando sbaglia, perché prima o poi sbaglierà.
Con 22 milioni di visualizzazioni, i guardrail non sono più un'opzione: sono la parte del sistema che mi permette di dormire tranquillo mentre la Media Factory lavora.
Se la vostra azienda sta pensando di integrare l'AI generativa nei propri processi e volete farlo in modo sicuro, contattatemi: ne parliamo volentieri.
Il risultato, come sempre, lo trovate su SeptimaDomus.
Nota sulla trasparenza: questo articolo è stato redatto con il supporto dell'intelligenza artificiale e revisionato dall'autore, che ne verifica i contenuti e se ne assume la responsabilità.