Ustal granice, zanim narzędzie zacznie działać

Na czym to polega

Zanim włączysz narzędzie AI, które działa samo, napisz trzy krótkie listy:

Nigdy: czego narzędzie nie może zrobić w żadnym przypadku.
Jak daleko: zakres, w jakim narzędzie może działać, z konkretną liczbą.
Wymaga człowieka: działania, które czekają na czyjąś zgodę.

Potem wbuduj te listy w narzędzie, tak by nie mogło wyjść poza nie.

Niektóre narzędzia AI tylko przygotowują wersje robocze. Inne działają: zalecają cenę, która trafia na stronę, wysyłają przypomnienie klientowi, odpowiadają klientom, decydują, kto przechodzi do następnego etapu.

Co pokazują dowody

Główną podstawą tej rady jest jeden przypadek. Dwa inne pokazują podobny podział, a regulator ustalił granice tego samego rodzaju. Żadne badanie jej nie sprawdziło.

Granice były przed testem. Rue La La, internetowy sklep z modą, zleciła zbudowanie narzędzia, które zaleca ceny produktów, jakich sklep nigdy wcześniej nie sprzedawał. Sklep najpierw ustalił granice. Dotychczasowa cena była minimum, więc narzędzie mogło zalecić podwyżkę albo brak zmiany. Podwyżka mogła wynieść najwyżej $15 lub 15%, zależnie od tego, co większe, i nigdy nie mogła przekroczyć ustalonego rabatu od ceny katalogowej. Sklep przyjmuje podwyżkę tylko wtedy, gdy cena nadal jest niższa niż na innych stronach.
W tych granicach narzędzie nadal przynosiło pieniądze. W pięciomiesięcznym teście badacze oszacowali, że przychody z testowanych produktów wzrosły o około 9,7%.
Granice odpowiadały na obawy menedżerów. Menedżerowie bali się, że wyższe ceny zmniejszą sprzedaż i zostawią niesprzedany towar. Test przeprowadzono w ramach granic, a jego wynik przekonał menedżerów.
Granice trzymały narzędzie blisko tego, co znało. Narzędzie przewiduje na podstawie dawnej sprzedaży. Badacze piszą, że ograniczenie cen, które narzędzie mogło wybierać, pomogło uniknąć prognoz dla sytuacji, o których narzędzie nie miało danych.
Podział ustalony z góry. Dwuosobowa firma doradcza pozwala AI samodzielnie wysyłać klientom przypomnienia o dokumentach. Około 70% przypomnień wychodzi bez niczyjej ingerencji. Ważne pisma zatwierdza doradca, a system ostrzega, gdy potrzebny jest człowiek. Firma rekrutacyjna powierzyła prowadzenie rozmów kwalifikacyjnych głosowemu agentowi AI. Każda decyzja o zatrudnieniu pozostała w rękach rekrutera.
Regulator wpisał granice do zezwolenia. Angielski Solicitors Regulation Authority dopuścił z warunkami działalność Garfield.Law, kancelarii, której usługi w sprawach o drobne należności świadczy AI. System nie może proponować orzecznictwa. Działa tylko wtedy, gdy klient zatwierdzi każdy krok. Wskazani z nazwiska radcy (solicitors) pozostają odpowiedzialni za wszystko, co wytwarza.
Twórcy pilnują, by ciągi kroków były krótkie. W badaniu zespołów, które budują agentów AI, 68% agentów używanych w praktyce wykonywało najwyżej 10 kroków, zanim włączał się człowiek.

Firma odpowiada za to, co robi jej narzędzie. Trybunał nakazał Air Canada zapłatę klientowi, który polegał na błędnej odpowiedzi chatbota z jej strony internetowej.

Jak to zrobić

Zapisz, co robi narzędzie. Jedna linijka. Napisz, czy zaleca, czy działa. Narzędzie Rue La La zaleca ceny osobom odpowiedzialnym za asortyment.
Wypisz, czego nie może zrobić nigdy. Zapytaj, co kosztowałoby cię pieniądze, klientów lub zaufanie. Odpowiedzi Rue La La: nigdy cena niższa niż dotychczasowa, nigdy wyższa niż ustalony rabat od ceny katalogowej, nigdy wyższa niż na innych stronach.
Określ liczbą, jak daleko narzędzie może się posunąć. Rue La La ograniczyła podwyżkę do $15 lub 15%. W narzędziu, które wysyła wiadomości, tą liczbą może być liczba przypomnień, jakie dostaje klient. W narzędziu, które wydaje pieniądze, może nią być kwota.
Przypisz każde działanie do jednej z trzech grup. Narzędzie robi to samo, człowiek najpierw to zatwierdza albo nigdy się tego nie robi. Firma doradcza umieściła przypomnienia w pierwszej grupie, a ważne pisma w drugiej.
Wbuduj granice w narzędzie. Narzędzie Rue La La mogło wybierać tylko spośród ustalonego zestawu dopuszczalnych cen. Granica zapisana w dokumencie zależy od tego, czy ktoś o niej pamięta. Zobacz, co stało się z pisemną zasadą w kancelarii prawnej.
Testuj w ramach granic i czytaj wynik w podziale na grupy. Test Rue La La pokazał zysk ogółem i stratę na najtańszych produktach.
Zmieniaj granice na podstawie tego, co pokazał test. Po teście Rue La La obniżyła największą dopuszczalną podwyżkę do $5 dla produktów w cenie poniżej $50.
Obserwuj z bliska, zanim narzędzie zacznie działać bez nadzoru. Narzędzie Rue La La przeszło w tryb w pełni automatyczny dopiero po okresie ścisłego monitorowania jego wyników.
Przeglądaj granice, gdy zmieniają się ceny, zasady lub produkty. Wskaż osobę, która to robi. Zob. wyznacz jedną osobę odpowiedzialną za AI.

Co mierzyć

Jak często narzędzie dochodzi do granicy. Jeśli dochodzi do niej przez większość czasu, to granica podejmuje decyzję.
Wyniki w podziale na grupy produktów lub klientów, a nie tylko średnią.
Odsetek działań, które narzędzie wykonuje bez niczyjej ingerencji, i to, co ludzie zmienili w pozostałych.

Gdzie to zawodzi

Jedna granica dla wszystkiego. Limit Rue La La sprawdził się przy produktach w średniej i wysokiej cenie. Przy najtańszych wyższe ceny obniżyły sprzedaż na tyle, że przychody prawdopodobnie spadły. Ustalaj granice dla grup tam, gdzie grupy się różnią.
Granice zapisane, ale niewbudowane. Ludzie zapominają zasady, a narzędzie ich nie czyta.
Druga AI jako nadzorca. We własnym eksperymencie Anthropic AI prowadziła mały sklep w biurze, a druga AI pełniła rolę jej kierownika. Kierownik zgadzał się na pobłażliwe prośby klientów mniej więcej osiem razy częściej, niż im odmawiał. Wymaganie, by AI sklepu sprawdzała ceny i terminy dostaw, pomogło bardziej niż dodatkowy szczebel. Spisane procedury to granice. Kolejna AI nad nią już nie.
Granice ustalone raz. Granica, która pasowała do zeszłorocznych cen lub zasad, w tym roku może być błędna.
Ustalanie granic po porażce. Wtedy klient ma już złą cenę albo złą odpowiedź, a ty za to odpowiadasz.

Według wielkości firmy

Mikro i małe: wystarczą trzy krótkie listy na jednej stronie. Opisana wyżej firma doradcza ma dwie osoby.
Średnie: osoba odpowiedzialna za proces pisze listy, a osoba, która konfiguruje narzędzie, je wbudowuje. Przed pracą bez nadzoru testuj przez ustalony okres.
Średnio-duże i duże: granice są częścią specyfikacji każdego narzędzia, które działa samo, z rejestrem każdego dojścia do granicy i wskazaną osobą odpowiedzialną za każde narzędzie.

Przypadki firm

Firmy, które to zrobiły

Źródła

Żadne opublikowane badanie nie sprawdza tej praktyki bezpośrednio, dlatego ma ocenę „Powszechna praktyka”. Ocena opiera się na przypadkach firm opisanych wyżej i na źródłach podanych niżej.

Solicitors Regulation Authority (2025). Garfield.Law authorization. sra.org.uk
Pan, Arabzadeh, Cogo and others (2026). Measuring agents in production. ICML 2026. arXiv 2512.04123. arxiv.org
Anthropic with Andon Labs (18 December 2025). Project Vend: Phase Two. A vendor's own experiment. anthropic.com