Agent AI w firmie: co może zrobić sam, a co wymaga akceptacji
Rola, dane, narzędzia, poziomy ryzyka i kontrola człowieka w praktycznym projekcie agenta AI.
Agent zaczyna się od roli, nie od pełnego dostępu
Agent AI nie powinien rozpoczynać pracy z dostępem do całej firmy. Najpierw otrzymuje jedno zadanie, określone źródła, dozwolone narzędzia i właściciela. Innych uprawnień wymaga wyszukanie dokumentu, innych przygotowanie projektu wiadomości, a jeszcze innych zmiana rekordu lub wysłanie informacji do klienta.
Karta agenta powinna opisywać cel, dane wejściowe, oczekiwany wynik, dostęp, narzędzia, ograniczenia, sposób eskalacji i zapis aktywności. Dzięki temu można ocenić zachowanie w odniesieniu do konkretnej pracy, zamiast pytać ogólnie, czy agent jest „inteligentny”.
Trzy poziomy działania
Działania o niskim ryzyku mogą obejmować odczyt dozwolonej informacji, klasyfikację lub przygotowanie wersji roboczej. Średnie ryzyko może wymagać sprawdzenia polityki, kompletności danych albo potwierdzenia przez właściciela procesu. Działania finansowe, nieodwracalne, administracyjne lub widoczne dla klienta powinny mieć osobną autoryzację.
Model językowy nie może sam zdecydować, że przysługuje mu szerszy dostęp. Autoryzacja, limity i krytyczne walidacje powinny działać niezależnie od jego odpowiedzi. To rozdzielenie jest ważne również wtedy, gdy agent korzysta z kilku narzędzi lub przekazuje pracę innemu agentowi.
Co testować przed uruchomieniem
Testy powinny obejmować poprawne przykłady, brakujące dane, sprzeczne źródła, próbę użycia niedozwolonego narzędzia oraz treści próbujące zmienić instrukcje agenta. Trzeba również sprawdzić limity ponowień, koszt, czas odpowiedzi i zachowanie po awarii integracji.
Dla działań o większym wpływie potrzebny jest podgląd planowanej operacji, ważna akceptacja powiązana z jej parametrami oraz ślad pokazujący regułę, osobę zatwierdzającą i wynik wykonania. Użytkownik powinien móc zatrzymać pracę, a system - bezpiecznie obsłużyć przerwanie.
Kontrola nie kończy się po wdrożeniu
Po uruchomieniu obserwujemy jakość wyniku, użyte źródła, działania narzędzi, odmowy, eskalacje, koszt i nietypowe wzorce. Zmiana modelu, promptu, pamięci, narzędzia lub zasad dostępu wymaga ponownego uruchomienia odpowiednich testów.
Celem nie jest pełna autonomia. Celem jest przewidywalny podział pracy: agent przygotowuje lub wykonuje to, co zostało jawnie dopuszczone, reguły egzekwują granice, a człowiek otrzymuje sytuacje wymagające odpowiedzialnej decyzji.
Źródła
Powiązane materiały
Co monitorować po wdrożeniu AI ↗
Czy Twoja firma jest gotowa na AI? 12 pytań przed pierwszym wdrożeniem ↗
Przełóż ten temat na sytuację Twojej firmy.
Pierwsza rozmowa jest bezpłatna. Ustalimy proces, obecne systemy i decyzję, którą trzeba podjąć.
Porozmawiajmy ↗