Nie wszystko powinno robić AI. Co automatyzować deterministycznie?
Jak rozdzielić reguły, obliczenia, automatyzację, AI i decyzje człowieka, aby system był przewidywalny i użyteczny.
AI nie jest domyślną odpowiedzią na każdy problem
W rozmowach o automatyzacji łatwo uznać, że najnowszy model powinien sterować całym procesem. Tymczasem znaczna część pracy firmy nie wymaga interpretacji ani generowania treści. Wymaga poprawnego wykonania ustalonej reguły: sprawdzenia limitu, obliczenia wartości, nadania uprawnienia, zmiany statusu lub zapisania zdarzenia.
Jeżeli rezultat można opisać jednoznacznym warunkiem, zastosowanie modelu językowego zazwyczaj zwiększa koszt i liczbę możliwych zachowań. Reguła jest tańsza, szybsza, łatwiejsza do przetestowania i daje ten sam wynik dla tych samych danych. To szczególnie ważne w finansach, dostępie do danych, rozliczeniach i procesach wymagających audytu.
Dojrzały system nie wybiera między automatyzacją a AI. Buduje przewidywalny rdzeń i dodaje modele wyłącznie tam, gdzie przynoszą one wartość: przy pracy z językiem, dokumentami, obrazem, niejednoznacznym zapytaniem albo dużą liczbą rozproszonych informacji.
Co oznacza działanie deterministyczne
Działanie deterministyczne ma zdefiniowane dane wejściowe, regułę i oczekiwany rezultat. Jeśli faktura przekracza ustalony limit, system kieruje ją do dodatkowej akceptacji. Jeśli data płatności minęła, tworzy zadanie i powiadomienie. Jeśli użytkownik nie ma odpowiedniej roli, nie otrzymuje dostępu.
Takie zachowanie można odtworzyć, przetestować oraz wyjaśnić. Wiadomo, która reguła została użyta, jakie dane ją uruchomiły i jaki był wynik. Nie oznacza to, że proces jest prosty. Reguł może być wiele, mogą zależeć od kraju, produktu, klienta lub poziomu ryzyka. Nadal jednak pozostają jawne i kontrolowane.
Deterministyczny rdzeń obejmuje zwykle obliczenia, walidacje, uprawnienia, limity, kolejność etapów, zapis historii i wykonanie zatwierdzonych operacji. Model nie powinien samodzielnie zmieniać tych zasad na podstawie wygenerowanej interpretacji.
Gdzie AI rzeczywiście wnosi wartość
AI jest przydatna tam, gdzie informacja nie ma jednolitej struktury. Może rozpoznać intencję w wiadomości, odnaleźć fragment procedury odpowiadający pytaniu, przygotować podsumowanie dokumentu, sklasyfikować zgłoszenie albo utworzyć roboczą wersję odpowiedzi.
Model dobrze wspiera pracę, gdy trzeba połączyć kontekst z wielu tekstowych źródeł lub przygotować kilka hipotez. Jego wynik powinien jednak pozostać propozycją, jeśli zadanie dotyczy istotnej decyzji. Warto wyraźnie oznaczyć różnicę między danymi źródłowymi, obliczeniem, odpowiedzią modelu i decyzją zatwierdzoną przez człowieka.
Najbardziej użyteczny zakres jest często węższy, niż sugeruje demonstracja narzędzia. Model nie musi znać całej firmy. Może otrzymać jedno zadanie, ograniczony kontekst, dozwolone źródła i format odpowiedzi, który następnie sprawdzi deterministyczna warstwa systemu.
Przykład: od zapytania klienta do gotowej oferty
Proces zaczyna się od wiadomości klienta. AI rozpoznaje, że jest to zapytanie ofertowe, wydobywa nazwę produktu, ilość i termin. System deterministyczny sprawdza, czy wymagane pola są kompletne. Następnie integracja pobiera dane klienta z CRM oraz aktualne ceny i dostępność z ERP.
Reguły handlowe sprawdzają rabat, limit kredytowy i minimalną marżę. Dopiero na podstawie zatwierdzonych danych AI przygotowuje czytelną propozycję wiadomości. Handlowiec widzi źródła, warunki i ewentualne ostrzeżenia, a następnie akceptuje lub poprawia treść.
Po zatwierdzeniu zwykła automatyzacja zapisuje ofertę, aktualizuje CRM i wysyła wiadomość. AI wykonała interpretację oraz przygotowała tekst. Nie obliczała ceny, nie nadawała sobie dostępu, nie omijała limitów i nie wysyłała odpowiedzi bez uzgodnionego punktu kontroli.
Architektura warstwowa zamiast jednego wszechwiedzącego modelu
Praktyczny system można podzielić na pięć warstw. Pierwsza odpowiada za źródła i dostęp do danych. Druga za reguły, walidacje oraz obliczenia. Trzecia wykorzystuje AI do interpretacji lub generowania propozycji. Czwarta obsługuje akceptację człowieka, a piąta wykonuje działanie i zapisuje ślad audytowy.
Taki podział ogranicza zakres błędu. Jeżeli model niewłaściwie odczyta intencję, system może zatrzymać proces z powodu brakujących pól. Jeżeli propozycja zawiera niezgodną cenę, reguła marży ją odrzuci. Jeżeli działanie wymaga zgody, nie zostanie wykonane bez aktywnej akceptacji.
Warstwy można rozwijać niezależnie. Zmiana modelu nie musi zmieniać reguł finansowych. Aktualizacja cennika nie wymaga modyfikacji promptu. Nowy kanał kontaktu może korzystać z tego samego mechanizmu walidacji i akceptacji.
Odmowa i eskalacja są prawidłowym wynikiem
System nie powinien generować odpowiedzi za wszelką cenę. Jeżeli dane są niepełne, źródła są sprzeczne albo pewność klasyfikacji jest niska, prawidłowym działaniem może być zatrzymanie procesu i poproszenie o uzupełnienie informacji.
Eskalacja wymaga właściciela. Trzeba ustalić, kto otrzyma sprawę, jakie dane zobaczy i co może zatwierdzić. W przeciwnym razie wyjątki trafiają do wspólnej kolejki i pozostają bez decyzji, a automatyzacja jedynie przenosi problem w inne miejsce.
Ważna jest także możliwość wycofania działania i powrotu do wersji wcześniejszej. Im większy wpływ operacji, tym silniejsza powinna być kontrola przed wykonaniem, a nie tylko alarm po fakcie.
Pięć pytań przed użyciem modelu
Przed dodaniem AI warto zapytać: czy wynik da się opisać regułą, czy wymagane dane są ustrukturyzowane, czy odpowiedź musi być identyczna dla tych samych danych, jakie są konsekwencje błędu oraz czy człowiek ma oceniać wynik. Jeżeli zadanie wymaga identyczności, pełnej odtwarzalności lub precyzyjnego obliczenia, pierwszym wyborem powinna być logika deterministyczna.
Jeżeli potrzebne jest rozumienie języka, interpretacja dokumentu lub przygotowanie wariantów, AI może być właściwym komponentem. Nie musi jednak otrzymywać prawa do wykonania końcowej operacji. To osobna decyzja architektoniczna i biznesowa.
Mierz wynik całego procesu, nie liczbę odpowiedzi AI
Liczba zapytań do modelu nie pokazuje, czy proces stał się lepszy. Warto mierzyć czas od rozpoczęcia do zakończenia sprawy, liczbę ręcznych poprawek, odsetek eskalacji, koszt realizacji, błędy oraz wynik istotny dla klienta lub firmy.
Może się okazać, że najlepsze rozwiązanie wykonuje mniej operacji AI, ale daje szybszy i bardziej przewidywalny rezultat. Optymalizacja nie polega na zwiększaniu obecności modelu. Polega na właściwym podziale pracy między dane, reguły, automatyzację, AI i człowieka.
Przykład: finanse i controlling
W procesie finansowym dane transakcyjne, kursy, plan kont i formuły wskaźników powinny być obsługiwane deterministycznie. Marża, saldo, odchylenie od budżetu i prognoza oparta na uzgodnionej formule nie powinny zależeć od sposobu sformułowania pytania do modelu.
AI może natomiast przygotować opis zmian, wskazać obszary wymagające analizy i pomóc użytkownikowi odnaleźć dokumenty źródłowe. Jeśli przychód spadł, model może zebrać kontekst dotyczący klientów, produktów i okresów. Nie powinien jednak zmieniać definicji wskaźnika ani zastępować uzgodnionego źródła danych.
Najbardziej użyteczny widok pokazuje obok siebie liczbę, jej źródło, deterministyczne wyliczenie, porównanie z planem oraz komentarz przygotowany przez AI. Użytkownik widzi wtedy różnicę między faktem, obliczeniem i interpretacją.
Przykład: obsługa klienta
AI może zrozumieć treść zgłoszenia, rozpoznać temat, przygotować podsumowanie i zaproponować odpowiedź. Reguły powinny sprawdzić status klienta, warunki umowy, termin, dozwolony zwrot i osobę uprawnioną do podjęcia decyzji.
Jeżeli sprawa mieści się w jasno opisanym zakresie, automatyzacja może uzupełnić pola, przypisać kolejkę i przygotować komplet informacji. Jeśli pojawia się reklamacja o wysokiej wartości, groźba prawna albo nietypowy wyjątek, system przekazuje sprawę człowiekowi wraz z kontekstem, zamiast samodzielnie kończyć rozmowę.
Takie rozdzielenie skraca czas obsługi bez ukrywania odpowiedzialności. Pracownik nie zaczyna od przeszukiwania kilku systemów, ale nadal kontroluje decyzję, która może mieć konsekwencje finansowe lub reputacyjne.
Jak testować system złożony z reguł i AI
Testy deterministyczne sprawdzają konkretne wartości wejściowe, warunki i wyniki. Dla warstwy AI potrzebny jest reprezentatywny zestaw przykładów, kryteria jakości oraz przypadki trudne: niepełne dane, sprzeczne źródła, nietypowy język i pytania spoza zakresu.
Należy testować również granice między warstwami. Czy model może przekazać do narzędzia nieprawidłowy argument? Czy system odrzuci cenę poniżej limitu? Czy brak zgody zatrzyma wysłanie wiadomości? Czy awaria integracji spowoduje bezpieczne przerwanie, czy częściowe wykonanie procesu?
Po każdej istotnej zmianie modelu, promptu, źródła, narzędzia lub reguły należy uruchomić odpowiednią część testów ponownie. System jest całością. Poprawa jakości tekstu nie może odbywać się kosztem kontroli działania.
Najczęstsze pytania o AI i automatyzację
Czy zwykła automatyzacja jest mniej nowoczesna niż AI? Nie. Jeśli zadanie ma jasną regułę, deterministyczna automatyzacja jest często najlepszym rozwiązaniem. Nowoczesność systemu nie wynika z liczby modeli, lecz z jakości procesu i wyniku.
Czy agent może wykonywać działania samodzielnie? Tak, ale tylko w zakresie jawnie dozwolonym przez uprawnienia, reguły i poziom ryzyka. Model nie powinien sam rozszerzać własnej roli ani omijać punktu akceptacji.
Czy można później wymienić model? Warstwowa architektura właśnie to ułatwia. Dane, reguły i wykonanie pozostają oddzielone od komponentu odpowiedzialnego za interpretację. Dzięki temu zmiana dostawcy nie wymaga przebudowy całego procesu.
AI jako wyspecjalizowana warstwa, nie cały system
Najbezpieczniejsza architektura ma deterministyczny rdzeń, kontrolowane użycie AI i jasno opisane punkty decyzji. Reguły egzekwują warunki, integracje dostarczają dane, model interpretuje wybrany fragment, a człowiek zatwierdza działania o istotnych konsekwencjach.
Nie chodzi o ograniczanie możliwości AI. Chodzi o wykorzystanie jej tam, gdzie jest najlepsza, bez oddawania jej zadań, które można wykonać prościej, taniej i bardziej przewidywalnie.
Źródła
Powiązane materiały
Agent AI w firmie: co może zrobić sam, a co wymaga akceptacji ↗
Czy Twoja firma jest gotowa na AI? 12 pytań przed pierwszym wdrożeniem ↗
Bezpieczeństwo danych w AI: dlaczego model nie powinien widzieć wszystkiego ↗
Przełóż ten temat na sytuację Twojej firmy.
Pierwsza rozmowa jest bezpłatna. Ustalimy proces, obecne systemy i decyzję, którą trzeba podjąć.
Porozmawiajmy ↗