Fissi i limiti prima che lo strumento agisca

Di che cosa si tratta

Prima di attivare uno strumento di IA che agisce, scriva tre brevi elenchi:

Mai: cosa lo strumento non deve fare in nessun caso.
Fin dove: il margine entro cui lo strumento può lavorare, con un numero.
Serve una persona: le azioni che attendono l’approvazione di qualcuno.

Poi inserisca gli elenchi nello strumento, in modo che lo strumento non possa uscirne.

Alcuni strumenti di IA scrivono solo bozze. Altri agiscono: raccomandano un prezzo che va sul sito, inviano un promemoria a un cliente, rispondono a un cliente, decidono chi passa alla fase successiva.

Che cosa mostrano le prove

Un caso è la base principale di questo consiglio. Altri due mostrano una divisione simile, e un’autorità di controllo ha fissato limiti dello stesso tipo. Nessuno studio lo ha verificato.

I limiti sono venuti prima del test. Rue La La, un rivenditore di moda online, si è fatto costruire uno strumento che raccomanda i prezzi di prodotti che non ha mai venduto. Il rivenditore ha fissato prima i limiti. Il vecchio prezzo era il minimo, quindi lo strumento poteva raccomandare un aumento o nessun cambiamento. Un aumento non poteva superare $15 o il 15%, il valore più alto dei due, e mai andare oltre uno sconto fissato rispetto al prezzo di listino. Il rivenditore accetta un aumento solo se il prezzo resta più basso che su altri siti.
Dentro quei limiti lo strumento ha comunque fatto guadagnare. In un test di cinque mesi, i ricercatori hanno stimato che i ricavi sui prodotti testati sono saliti di circa il 9,7%.
I limiti hanno risposto alla preoccupazione dei dirigenti. I dirigenti temevano che prezzi più alti riducessero le vendite e lasciassero merce invenduta. Il test si è svolto dentro i limiti, e il suo risultato è ciò che ha ottenuto la loro approvazione.
I limiti hanno tenuto lo strumento vicino a ciò che conosceva. Lo strumento fa previsioni a partire dalle vendite passate. I ricercatori scrivono che restringere i prezzi tra cui lo strumento poteva scegliere ha aiutato a evitare previsioni su situazioni per cui lo strumento non aveva dati.
Una divisione decisa in anticipo. Uno studio di consulenza di due persone lascia che l’IA invii da sola ai clienti i promemoria per i documenti. Circa il 70% dei promemoria parte senza che nessuno intervenga. Il consulente approva le lettere importanti, e il sistema dà un avviso quando serve una persona. Una società di selezione del personale ha lasciato che un agente vocale di IA conducesse i colloqui di lavoro. Ogni decisione di assunzione è rimasta a un selezionatore in carne e ossa.
Un’autorità di controllo ha scritto i limiti in un’autorizzazione. La Solicitors Regulation Authority inglese ha autorizzato, con delle condizioni, Garfield.Law, uno studio legale i cui servizi per piccoli crediti sono forniti dall’IA. Il sistema non può proporre giurisprudenza. Agisce solo quando il cliente approva ogni passaggio. Avvocati indicati per nome restano responsabili di tutto ciò che produce.
Chi costruisce gli strumenti tiene corti i passaggi. In uno studio sulle squadre che costruiscono agenti di IA, il 68% degli agenti in uso svolgeva al massimo 10 passaggi prima che intervenisse una persona.

Un’azienda risponde di ciò che fa il suo strumento. Un tribunale ha ordinato ad Air Canada di risarcire un cliente che si era fidato di una risposta sbagliata del chatbot sul suo sito.

Come si fa

Scriva cosa fa lo strumento. Una riga. Dica se raccomanda o agisce. Lo strumento di Rue La La raccomanda prezzi ai suoi responsabili degli acquisti.
Elenchi cosa non deve mai fare. Si chieda cosa le farebbe perdere denaro, clienti o fiducia. Le risposte di Rue La La: mai un prezzo sotto il vecchio prezzo, mai oltre lo sconto fissato rispetto al prezzo di listino, mai più alto che su altri siti.
Metta un numero su fin dove può spingersi. Rue La La ha fissato il tetto di un aumento a $15 o al 15%. Per uno strumento che invia messaggi, il numero potrebbe essere quanti promemoria riceve un cliente. Per uno strumento che spende denaro, il numero potrebbe essere l’importo.
Divida ogni azione in tre gruppi. Lo strumento la compie da solo, una persona la approva prima, oppure non si fa mai. Lo studio di consulenza ha messo i promemoria nel primo gruppo e le lettere importanti nel secondo.
Inserisca i limiti nello strumento. Lo strumento di Rue La La poteva scegliere solo tra un insieme di prezzi consentiti. Un limite che vive in un documento dipende da qualcuno che se lo ricordi. Veda cosa è successo a una regola scritta in uno studio legale.
Faccia i test dentro i limiti, e legga il risultato per gruppo. Il test di Rue La La ha mostrato un guadagno complessivo e una perdita sui prodotti più economici.
Cambi i limiti in base a ciò che mostra il test. Dopo il test, Rue La La ha ridotto a $5 l’aumento massimo consentito per i prodotti con prezzo sotto i $50.
Controlli da vicino prima che lavori senza sorveglianza. Lo strumento di Rue La La è passato al funzionamento del tutto automatico solo dopo un periodo di stretto controllo dei suoi risultati.
Riveda i limiti quando cambiano prezzi, regole o prodotti. Indichi la persona che lo fa. Veda la pratica Nomini un unico responsabile dell’IA.

Che cosa misurare

Quanto spesso lo strumento arriva a un limite. Se lo strumento arriva a un limite quasi sempre, è il limite a prendere la decisione.
I risultati per gruppo di prodotti o di clienti, oltre alla media.
La quota di azioni che lo strumento compie senza che nessuno intervenga, e cosa le persone hanno cambiato nelle altre.

Dove non funziona

Un solo limite per tutto. Il tetto di Rue La La funzionava per i prodotti di prezzo medio e alto. Sui più economici, i prezzi più alti hanno ridotto le vendite al punto che probabilmente i ricavi sono scesi. Fissi limiti per gruppo dove i gruppi sono diversi.
Limiti scritti ma non inseriti nello strumento. Le persone dimenticano le regole, e uno strumento non le legge.
Una seconda IA come supervisore. In un esperimento della stessa Anthropic, un’IA gestiva un piccolo negozio in un ufficio e una seconda IA faceva da sua responsabile. La responsabile approvava le richieste indulgenti dei clienti circa otto volte più spesso di quanto le rifiutasse. Obbligare l’IA del negozio a verificare prezzi e tempi di consegna ha aiutato più del livello aggiuntivo. Le procedure scritte sono limiti. Un’altra IA sopra non lo è.
Limiti fissati una volta per tutte. Un limite adatto ai prezzi o alle regole dell’anno scorso può essere sbagliato quest’anno.
Fissare i limiti dopo un errore. A quel punto un cliente ha già il prezzo sbagliato o la risposta sbagliata, e ne risponde lei.

Per dimensione dell’azienda

Micro e piccole imprese: bastano tre brevi elenchi su una pagina. Lo studio di consulenza citato sopra ha due persone.
Medie imprese: il responsabile del processo scrive gli elenchi, e chi configura lo strumento li inserisce. Faccia test per un periodo stabilito prima che lo strumento lavori senza sorveglianza.
Medio-grandi e grandi imprese: i limiti fanno parte dei requisiti di ogni strumento che agisce, con un registro di ogni volta che si arriva a un limite e un responsabile con nome e cognome per ogni strumento.

Casi aziendali

Aziende che l’hanno fatto

Fonti

Nessuno studio pubblicato mette alla prova direttamente questa pratica, quindi la valutazione è Pratica diffusa. La valutazione si basa sui casi aziendali qui sopra e sulle fonti qui sotto.

Solicitors Regulation Authority (2025). Garfield.Law authorization. sra.org.uk
Pan, Arabzadeh, Cogo and others (2026). Measuring agents in production. ICML 2026. arXiv 2512.04123. arxiv.org
Anthropic with Andon Labs (18 December 2025). Project Vend: Phase Two. A vendor's own experiment. anthropic.com