Zatwierdzanie działań agentów AI: rozdzielenie obowiązków, dowody i podpisane zgody
Jak zatwierdzać płatności, zwroty, wdrożenia i zmiany uprawnień zlecane przez agentów AI: zasada czterech oczu, dowody, podpisane zgody i ścieżka audytu.
Aktualizacja · 11 min czytania
W skrócie
- Agent, który przelewa pieniądze, zmienia produkcję albo nadaje dostęp, działa w imieniu organizacji, więc potrzebuje tych samych kontroli co człowiek na tym stanowisku: zatwierdza ktoś inny, a zapis pokazuje kto i dlaczego.
- Każde zatwierdzenie trzeba związać z dokładnie tym działaniem: podpisana, jednorazowa zgoda obejmuje skrót parametrów, wygasa i jest sprawdzana przez system wykonujący, zanim ten cokolwiek zrobi.
- Dla większości organizacji to kwestia ładu organizacyjnego, a nie konkretnego przepisu: rozdzielenie obowiązków i niepodważalny zapis obowiązują niezależnie od branży czy miejsca działania.
- Jeżeli działanie agenta samo jest decyzją wobec osoby, wywołującą skutki prawne lub podobnie istotną, nadzór człowieka liczy się tylko wtedy, gdy jest rzeczywisty: symboliczne kliknięcie, które niczego nie zmienia, nie jest nadzorem.
Agent AI, który opłaca faktury, zwraca płatności, wdraża kod albo zmienia, kto ma do czego dostęp, działa w imieniu Twojej organizacji. Potrzebuje więc tych samych kontroli, które obowiązują człowieka wykonującego tę samą pracę: działanie zatwierdza ktoś inny niż ten, kto o nie wnioskuje, zatwierdzenie dotyczy dokładnie tego, co zostanie wykonane, a zapis pokazuje, kto zdecydował, na podstawie jakich dowodów i kiedy. W większości organizacji to kwestia kontroli wewnętrznej i dobrego ładu organizacyjnego, a nie obowiązku wynikającego z jednego konkretnego przepisu.
Po co zatwierdzenie przez człowieka przed działaniem agenta?
Trzy powody są aktualne niezależnie od tego, czy jakiś przepis w ogóle ma zastosowanie.
- Błąd łatwo popełnić, trudno odwrócić. Model może źle odczytać fakturę, działać na nieaktualnym kontekście albo wykonać polecenie podrzucone w dokumencie, który miał tylko przetworzyć. Wysłanych pieniędzy, usuniętych danych i zmienionej produkcji nie cofa się łatwo.
- Ktoś musi za to odpowiadać. Gdy audytor albo klient zapyta, kto zatwierdził działanie i dlaczego, odpowiedź „zrobił to agent” nie wystarczy. Organizacja potrzebuje wskazanej osoby i uzasadnienia.
- Delegowanie wymaga granic. Ludzie w finansach i w IT pracują w ramach limitów akceptacji i procesów zmian. Agent, który je omija, robi wyrwę w kontrolach, na których organizacja już polega.
Nie każde działanie wymaga człowieka. Ustal progi według ryzyka: drobne zwroty mieszczące się w regulaminie mogą być zatwierdzane automatycznie, większe przez jedną osobę, największe przez dwie osoby po kolei. Ważne, by reguła była spisana z góry, stosowana za każdym razem i domyślnie odmowna: działanie, którego nie obejmuje żadna reguła, jest odrzucane, a nie wykonywane.
Co dla agentów oznaczają rozdzielenie obowiązków i zasada czterech oczu?
Rozdzielenie obowiązków oznacza, że żadna osoba ani żaden system nie kontroluje działania od początku do końca. Kto o działanie wnioskuje, ten go nie zatwierdza, a kto zatwierdza, nie wykonuje go bez kontroli. Zasada czterech oczu to jego najprostsza postać: istotne działanie wymaga drugiej osoby.
W przypadku agentów:
- agent jest wnioskodawcą i nigdy nie zatwierdza własnego wniosku;
- osoba, która uruchomiła lub skonfigurowała wniosek agenta, nie powinna go zatwierdzać;
- jeśli potrzebne są dwa zatwierdzenia, dają je dwie różne osoby, a jedna osoba liczy się raz we wszystkich etapach;
- system, który wykonuje działanie, na przykład skrypt płatności albo pipeline wdrożeniowy, działa tylko na podstawie ważnego zatwierdzenia i sam nie może zatwierdzać.
Niewiele ram ładu organizacyjnego nazywa zasadę czterech oczu wprost, ale wiele organizacji już dziś wymaga jej dla istotnych działań jako elementu projektu kontroli wewnętrznej. Agent, który sam wnioskuje i w praktyce sam zatwierdza, zamyka tę lukę tylko na papierze; ta sama kontrola, jaką miałby człowiek na tym samym stanowisku, zamyka ją naprawdę.
Co powinien zobaczyć zatwierdzający?
Zatwierdzenie jest warte tyle, ile informacji dostał zatwierdzający. Każdy wniosek powinien zawierać:
- uzasadnienie napisane przez agenta i pokazane jako twierdzenie agenta, a nie fakt;
- parametry działania dokładnie w takiej postaci, w jakiej zostaną wykonane: kwotę, walutę, odbiorcę i rachunek albo usługę, środowisko i commit;
- kontekst: fakturę, zamówienie, pull request, zgłoszenie;
- wnioskodawcę: nazwę agenta i model, przebieg, użyte poświadczenia oraz osobę lub system, który go uruchomił;
- regułę, która zadziałała: dlaczego ten wniosek wymaga właśnie tych osób.
Jakie dowody powinno zawierać zatwierdzenie?
Dobierz dowody do ryzyka. Rutynowe zatwierdzenie może być jednym kliknięciem. Większe powinno zawierać pisemne uzasadnienie. Przy najwyższym ryzyku wymagaj dokumentu lub zdjęcia: podpisanej faktury, danych płatności dostawcy potwierdzonych telefonicznie, oceny ryzyka zmiany. Każdy plik zapisz razem ze skrótem kryptograficznym, by później wykazać, że plik, który masz, to ten sam, który dołączył zatwierdzający.
Jak związać zatwierdzenie z dokładnie tym działaniem?
Najsłabszym punktem większości procesów akceptacji jest luka między zatwierdzeniem a wykonaniem. Ktoś zatwierdza przelew 1200 EUR do dostawcy, a system wykonuje inną kwotę albo płaci na inny rachunek, przez pomyłkę lub w wyniku manipulacji. Lukę zamykają cztery cechy:
- Podpisana zgoda. Po zatwierdzeniu wniosku system akceptacji wydaje token podpisany swoim kluczem prywatnym, który wskazuje wniosek, rodzaj działania, zatwierdzających i skrót dokładnie tych parametrów, które zatwierdzono.
- Weryfikacja po stronie wykonawcy. Przed działaniem system, który wykonuje płatność lub wdrożenie, sprawdza podpis opublikowanym kluczem publicznym i sam liczy skrót parametrów, które zamierza wykonać. Jeśli różni się choćby jedno pole, odmawia.
- Jednorazowość. Wykonawca zgłasza, że wykorzystał zgodę, a drugie użycie jest odrzucane, więc jedno zatwierdzenie nie zapłaci dwa razy.
- Termin ważności. Wnioski bez odpowiedzi wygasają, a zgody tracą ważność krótko po zatwierdzeniu. Zatwierdzenie z poniedziałku, oparte na poniedziałkowych faktach, nie powinno upoważniać do piątkowego przelewu.
System akceptacji nie powinien nigdy przechowywać danych dostępowych do płatności ani kluczy wdrożeniowych. Decyduje, czy działanie może się odbyć, i to potwierdza; wykonawca, który ma klucze, sprawdza to potwierdzenie.
Co powinna zawierać ścieżka audytu?
Zapisuj każde zdarzenie: wniosek z parametrami i uzasadnieniem, odpowiedź każdego zatwierdzającego z komentarzem i skrótami dowodów, wydanie zgody, zgłoszenie wykonania oraz każde odrzucenie, wycofanie lub wygaśnięcie. Zapis powinien ujawniać manipulacje, na przykład przez umieszczanie w każdym wpisie skrótu poprzedniego, tak by usunięcie lub zmiana wpisu przerywały łańcuch. Przechowuj go tak długo, jak wymagają tego obowiązki związane z działaniem, na przykład przepisy o rachunkowości, podatkach lub wymogi nadzorcze.
Kiedy to wykracza poza wewnętrzną politykę?
Dla większości organizacji zatwierdzenie przez człowieka przed działaniem agenta to kontrola wewnętrzna, a nie konkretny obowiązek prawny. Jeden przypadek zmienia to w wymóg ochrony danych: jeżeli działanie agenta samo jest decyzją wobec osoby, wywołującą skutki prawne lub w podobny sposób istotnie na nią wpływającą, na przykład przyjęciem albo odrzuceniem jej wniosku, art. 22 ogólnego rozporządzenia o ochronie danych ogranicza decyzje podejmowane bez rzeczywistego udziału człowieka. Udział człowieka wyjmuje taką decyzję spod przetwarzania „wyłącznie zautomatyzowanego” tylko wtedy, gdy jest rzeczywisty: według wytycznych Grupy Roboczej Art. 29, zatwierdzonych przez Europejską Radę Ochrony Danych, nadzór nie może być symboliczny i musi go sprawować ktoś, kto ma uprawnienia i kompetencje do zmiany decyzji.
Lista kontrolna, zanim dasz agentowi klucze
- Spisz działania, które może wykonać każdy agent, i systemy, do których ma dostęp.
- Dla każdego działania zapisz regułę: kto zatwierdza, przy jakich progach, z jakimi dowodami i co się dzieje, gdy żadna reguła nie pasuje (odmowa).
- Daj każdemu agentowi własną tożsamość i poświadczenia, nigdy konto człowieka ani konto współdzielone.
- Trzymaj poświadczenia po stronie wykonawcy, a nie agenta czy systemu akceptacji, i niech wykonawca sprawdza podpisaną, jednorazową, wygasającą zgodę względem parametrów działania.
- Prowadź zapis wniosków, zatwierdzeń, dowodów i wykonań, który ujawnia manipulacje.
- Przed pierwszym uruchomieniem na produkcji odnieś cały przepływ do własnych procedur zarządzania zmianą i kontroli dostępu w organizacji.
Szablony DueReason dla płatności zlecanych przez agentów i dla wdrożeń produkcyjnych wychodzą od tego modelu: progi według kwoty lub środowiska, dział finansów z fakturą, a potem zarząd przy dużych płatnościach, lider zespołu, a potem bezpieczeństwo przy produkcji, oraz podpisana zgoda związana z parametrami, którą wykonawca sprawdza przed działaniem.
Pytania
- Czy wystarczy, że człowiek kliknie „zatwierdź” przed każdym działaniem?
- Tylko jeśli widzi to, co zostanie wykonane, nie jest wnioskodawcą i może odmówić. Zatwierdzenie opisu, po którym wykonuje się coś innego, niewiele dowodzi; zwiąż zatwierdzenie ze skrótem dokładnych parametrów i niech wykonawca to sprawdza.
- Czy drobne działania można zatwierdzać automatycznie?
- Tak, jeżeli przewiduje to spisana reguła, na przykład dla zwrotów poniżej ustalonej kwoty. To decyzja organizacji podjęta z góry, a nie agenta. Działania zatwierdzone automatycznie zapisuj w tym samym rejestrze co pozostałe.
- Czy przy każdym wdrożeniu na produkcję potrzeba dwóch zatwierdzających?
- Domyślnie nie ma ustalonej liczby; dobierz liczbę zatwierdzających do ryzyka zmiany. Ważne, by osoba zatwierdzająca była niezależna od tego, kto o zmianę wnioskował i kto ją wdrożył, oraz by decyzja była zapisana.
- Co, jeśli nikt nie może zatwierdzić, a sprawa jest pilna?
- Z góry ustal ścieżkę awaryjną: kto może zatwierdzić, co się zapisuje i jak działanie jest sprawdzane później. Pośpiech może zmienić ścieżkę, ale nigdy nie może pominąć zapisu.
Weryfikowalne zatwierdzenie między agentem a Twoimi pieniędzmi
DueReason pyta właściwe osoby we właściwej kolejności, zbiera ich dowody i przekazuje systemowi wykonującemu podpisaną, jednorazową zgodę związaną z dokładnymi parametrami, więc zmieniona kwota lub rachunek zostaną odrzucone.
Przeczytaj dokumentację APIŹródła
- Rozporządzenie (UE) 2016/679, ogólne rozporządzenie o ochronie danych (EUR-Lex)
- Grupa Robocza Art. 29, Wytyczne w sprawie zautomatyzowanego podejmowania decyzji i profilowania, WP251rev.01 (Komisja Europejska)
Poradnik wyjaśnia przepisy tak, jak je rozumiemy; nie jest poradą prawną. Sprawdź tekst urzędowy i prawo krajowe, które może dodać obowiązki.