Fije los límites antes de que la herramienta actúe

Qué es

Antes de poner en marcha una herramienta de IA que actúa, escriba tres listas breves:

Nunca: lo que la herramienta no debe hacer en ningún caso.
Hasta dónde: el margen en el que puede trabajar la herramienta, con una cifra.
Necesita a una persona: las acciones que esperan la aprobación de alguien.

Después integre las listas en la herramienta, para que la herramienta no pueda salirse de ellas.

Algunas herramientas de IA solo redactan. Otras actúan: recomiendan un precio que se publica en el sitio web, envían un recordatorio a un cliente, responden a un cliente, deciden quién pasa a la siguiente fase.

Qué muestra la evidencia

Un caso es la base principal de este consejo. Otros dos muestran un reparto parecido, y un regulador ha fijado límites del mismo tipo. Ningún estudio lo ha puesto a prueba.

Los límites llegaron antes de la prueba. Rue La La, un comercio de moda en línea, encargó una herramienta que recomienda precios para productos que nunca había vendido. El comercio fijó primero los límites. El precio anterior era el mínimo, así que la herramienta podía recomendar una subida o ningún cambio. Una subida no podía superar 15 dólares o el 15 %, lo que fuera mayor, y nunca podía pasar de un descuento fijado sobre el precio de catálogo. El comercio acepta una subida solo si el precio sigue siendo más bajo que en otros sitios web.
Dentro de esos límites, la herramienta siguió ganando dinero. En una prueba de cinco meses, los investigadores estimaron que los ingresos de los productos probados aumentaron alrededor de un 9,7 %.
Los límites respondieron a la preocupación de los directivos. Los directivos temían que precios más altos redujeran las ventas y dejaran existencias sin vender. La prueba se hizo dentro de los límites, y su resultado fue lo que consiguió su aprobación.
Los límites mantuvieron a la herramienta cerca de lo que conocía. La herramienta predice a partir de ventas anteriores. Los investigadores escriben que restringir los precios que podía elegir la herramienta ayudó a evitar predicciones para situaciones de las que la herramienta no tenía datos.
Un reparto decidido de antemano. Una empresa de asesoramiento de dos personas deja que la IA envíe sin ayuda recordatorios de documentos a sus clientes. Alrededor del 70 % de los recordatorios salen sin que nadie intervenga. El asesor aprueba las cartas importantes, y el sistema da una alerta cuando hace falta una persona. Una empresa de selección de personal dejó que un agente de voz con IA hiciera entrevistas de trabajo. Cada decisión de contratación siguió en manos de un seleccionador humano.
Un regulador escribió los límites en una autorización. La Solicitors Regulation Authority de Inglaterra autorizó, con condiciones, a Garfield.Law, un despacho de abogados cuyos servicios para pequeñas reclamaciones de deudas presta la IA. El sistema no puede proponer jurisprudencia. Solo actúa cuando el cliente aprueba cada paso. Unos abogados con nombre siguen respondiendo de todo lo que produce.
Quienes los crean mantienen cortos los pasos. En un estudio de equipos que crean agentes de IA, el 68 % de los agentes en funcionamiento real hacía como máximo 10 pasos antes de que interviniera una persona.

Una empresa responde de lo que hace su herramienta. Un tribunal ordenó a Air Canada pagar a un cliente que se fio de una respuesta equivocada del chatbot de su sitio web.

Cómo hacerlo

Escriba qué hace la herramienta. Una línea. Diga si recomienda o actúa. La herramienta de Rue La La recomienda precios a sus compradores de producto.
Haga la lista de lo que no debe hacer nunca. Pregúntese qué le haría perder dinero, clientes o confianza. Las respuestas de Rue La La: nunca un precio por debajo del anterior, nunca por encima del descuento fijado sobre el precio de catálogo, nunca por encima de otros sitios web.
Ponga una cifra a hasta dónde puede llegar. Rue La La puso a una subida un tope de 15 dólares o el 15 %. En una herramienta que envía mensajes, la cifra puede ser cuántos recordatorios recibe un cliente. En una herramienta que gasta dinero, la cifra puede ser el importe.
Clasifique cada acción en tres grupos. La herramienta la hace sin ayuda, una persona la aprueba antes, o no se hace nunca. La empresa de asesoramiento puso los recordatorios en el primer grupo y las cartas importantes en el segundo.
Integre los límites en la herramienta. La herramienta de Rue La La solo podía elegir entre un conjunto de precios permitidos. Un límite que vive en un documento depende de que alguien lo recuerde. Vea qué le pasó a una regla escrita en un despacho de abogados.
Haga pruebas dentro de los límites, y lea el resultado por grupos. La prueba de Rue La La mostró una ganancia en conjunto y una pérdida en sus productos más baratos.
Cambie los límites según lo que muestre la prueba. Después de la prueba, Rue La La bajó a 5 dólares la mayor subida permitida para los productos de menos de 50 dólares.
Vigílela de cerca antes de dejarla funcionar sola. La herramienta de Rue La La pasó a ser totalmente automática solo después de un periodo de seguimiento atento de sus resultados.
Revise los límites cuando cambien los precios, las políticas o los productos. Nombre a la persona que lo hace. Vea nombre a un único responsable de la IA.

Qué medir

Con qué frecuencia llega la herramienta a un límite. Si llega a un límite casi siempre, es el límite el que toma la decisión.
Los resultados por grupo de productos o de clientes, además de la media.
La proporción de acciones que la herramienta hace sin que nadie intervenga, y qué cambiaron las personas en el resto.

Dónde falla

Un solo límite para todo. El tope de Rue La La funcionó con los productos de precio medio y alto. En los más baratos, los precios más altos redujeron tanto las ventas que los ingresos probablemente bajaron. Fije límites por grupo donde los grupos sean distintos.
Límites escritos pero no integrados. Las personas olvidan las reglas, y una herramienta no las lee.
Una segunda IA como supervisora. En el propio experimento de Anthropic, una IA llevaba una pequeña tienda en una oficina y una segunda IA hacía de su responsable. La responsable aprobaba peticiones indulgentes de los clientes unas ocho veces más a menudo de lo que las rechazaba. Obligar a la IA de la tienda a comprobar precios y plazos de entrega ayudó más que la capa adicional. Los procedimientos escritos son límites. Otra IA por encima, no.
Límites fijados una sola vez. Un límite que encajaba con los precios o la política del año pasado puede estar mal este año.
Fijar límites después de un fallo. Para entonces un cliente ya tiene el precio o la respuesta equivocados, y usted responde de ello.

Según el tamaño de la empresa

Micro y pequeña: bastan tres listas breves en una página. La empresa de asesoramiento de arriba tiene dos personas.
Mediana: la persona responsable del proceso escribe las listas, y quien configura la herramienta las integra. Haga pruebas durante un periodo fijado antes de dejar que la herramienta funcione sola.
Mediana-grande y gran empresa: los límites forman parte de la especificación de cualquier herramienta que actúa, con un registro de cada vez que se alcanza un límite y un responsable con nombre para cada herramienta.

Casos de empresas

Empresas que lo hicieron

Fuentes

Ningún estudio publicado pone a prueba directamente esta práctica, así que se califica como Práctica habitual. La calificación se basa en los casos de empresas de arriba y en las fuentes de abajo.

Solicitors Regulation Authority (2025). Garfield.Law authorization. sra.org.uk
Pan, Arabzadeh, Cogo and others (2026). Measuring agents in production. ICML 2026. arXiv 2512.04123. arxiv.org
Anthropic with Andon Labs (18 December 2025). Project Vend: Phase Two. A vendor's own experiment. anthropic.com