Testy agentów AI, które sprawdzają rzeczywisty wynik.

Zakres
Testy agentów AI
Prowadzenie
Jarek Trepkowski
Principal Software Engineer
Obszar
Python / AI / Automation

Testy agentów AI i voicebotów: scenariusze rozmów, weryfikacja działań w API i CRM oraz regresja po zmianach. Raport błędów i automatyzacja testów.

Omówmy testy agenta
Dwóch inżynierów uważnie sprawdza wynik na ekranie.
Testy agentów AI

Sprawdź, co agent zrobił. Nie tylko to, co powiedział.

Agent potwierdził rezerwację, aktualizację danych lub wysłanie wiadomości. Test odbiorowy powinien sprawdzić również wynik w systemie. Pomagam zespołom wdrażającym agentów głosowych i tekstowych ustalić, co działa, co zawodzi i co poprawić przed przekazaniem rozwiązania klientowi.

Kiedy warto sprawdzić agenta?

Przed pierwszym wdrożeniem, przy odbiorze od dostawcy oraz po zmianie modelu, instrukcji, narzędzi lub integracji. Współpracuję z firmami, software house’ami i agencjami, które potrzebują sprawdzalnych kryteriów odbioru zamiast samej prezentacji rozmowy.

Co obejmują testy?

Rozmowa i stan systemu

Sprawdzam zgodność odpowiedzi agenta z rzeczywistym wynikiem: rezerwacją, wpisem w CRM lub inną uzgodnioną akcją. Tam, gdzie to możliwe, wynik weryfikuję przez API lub dane środowiska testowego.

Zmiana zdania i brak danych

Scenariusze obejmują między innymi zmianę terminu, anulowanie, niepełne informacje i powtórzenie prośby. Szukam sprzecznych danych, niepotrzebnych duplikatów i utraty kontekstu.

Awaria integracji

Sprawdzam zachowanie przy błędzie API, braku odpowiedzi lub ograniczeniu dostępu. Agent powinien komunikować rzeczywisty stan wykonania zadania i respektować uzgodnione reguły przekazania sprawy człowiekowi.

Regresja po aktualizacji

Wybrane scenariusze można uruchamiać ponownie po zmianach. Zakres powtórzeń i kryteria oceny ustalamy z uwzględnieniem zmienności odpowiedzi modelu oraz kosztu uruchomień.

Testy agentów głosowych i tekstowych

Agent mówi „gotowe”. Sprawdzam, czy to prawda.

Sprawdzam, czy agent AI naprawdę wykonał to, co obiecał. Dostajesz listę błędów i wskazówki, co poprawić przed wdrożeniem.

Przykład działania

Rozmowa to dopiero połowa testu.

Przykład demonstracyjny, nie wynik projektu klienta

Klient

Zarezerwuj wizytę na wtorek o 10:00.

Agent AI

Gotowe, wizyta zarezerwowana.

Sprawdzam system

Kalendarz
Brak rezerwacji

Test niezaliczony

Agent potwierdził czynność, której nie wykonał.

Fragment przykładowego raportu

Tak wygląda wynik, z którym można pracować.

AI-014 · Rezerwacja wizyty

Wysoki priorytet
Odtwórz
Poproś agenta o wizytę we wtorek o 10:00.
Oczekiwano
Rezerwacja zapisana w kalendarzu.
Wykryto
Potwierdzenie w rozmowie, brak zapisu.
Następny krok
Popraw obsługę odpowiedzi API i powtórz test.
Jakie scenariusze sprawdzam?

Potwierdzenie bez działania

Czy poprawna rezerwacja rzeczywiście istnieje w systemie?

Zmiana zdania

Czy zmiana terminu lub anulowanie nie tworzy sprzecznych danych?

Awaria integracji

Czy agent rozpoznaje błąd API i nie obiecuje sukcesu?

Aktualizacja agenta

Czy po zmianie modelu, instrukcji lub integracji wcześniejsze scenariusze nadal działają?

Jakiego wsparcia potrzebujesz?

Dla firm, software house’ów i agencji wdrażających agentów AI.

Przed wdrożeniem

Audyt agenta AI

2 500–3 500 złjednorazowo

Przed przekazaniem agenta do użytku.

  • Około 30 scenariuszy, wybrane powtarzane
  • Raport z priorytetami i odtworzeniem błędów
  • Omówienie wyników
Porozmawiajmy o zakresie

Dla zespołu

Automatyzacja testów

6 000–10 000 złjednorazowo

Do samodzielnego sprawdzania kolejnych zmian.

  • Uzgodnione scenariusze regresji
  • Integracje i uruchamianie w CI/CD
  • Raporty oraz instrukcja obsługi
Porozmawiajmy o zakresie

Po kolejnych zmianach

Stała weryfikacja

1 500–2 500 złmiesięcznie

Testy po zmianach w uzgodnionym zakresie.

  • Ustalona liczba uruchomień
  • Analiza błędów i weryfikacja poprawek
  • Uzgodniony limit godzin miesięcznie
Porozmawiajmy o zakresie

Ceny bazowe netto w PLN. Zakres i cenę potwierdzamy w ofercie. Koszty modeli, telefonii i platform są rozliczane osobno, w uzgodnionym limicie.

Do testów potrzebny jest działający agent i uzgodnione środowisko testowe. Większe poprawki wyceniam osobno.

Od kryteriów odbioru do listy poprawek

  1. Ustalamy cel i granice

    Wybieramy proces, integracje, środowisko oraz działania, które agent może wykonać. Uzgadniamy oczekiwany wynik, dane testowe i limit kosztów modeli lub telefonii.

  2. Uruchamiam uzgodnione scenariusze

    Odtwarzam poprawny przebieg i sytuacje brzegowe. Wybrane przypadki powtarzam, aby wykryć niestabilne zachowanie. Przebieg oraz wynik dokumentuję w zakresie uzgodnionych dostępów.

  3. Omawiamy wyniki

    Dostajesz raport z priorytetami, krokami odtworzenia i oczekiwanym wynikiem. Ustalamy kolejność poprawek oraz zakres ich ponownej weryfikacji.

Co otrzymujesz?

  • Uzgodnione scenariusze oraz kryteria zaliczenia.
  • Listę wykrytych problemów z priorytetami i odtworzeniem.
  • Omówienie wyników oraz rekomendowaną kolejność poprawek.
  • Przy automatyzacji: testy regresji, raportowanie i instrukcję uruchomienia w uzgodnionym środowisku.

Jasny zakres, sprawdzalne wyniki

Testy obejmują uzgodnione scenariusze i dostępne integracje. Nie są certyfikacją bezpieczeństwa. Liczbę powtórzeń, dostęp do systemów i zakres CI/CD ustalamy na starcie, na danych i w środowisku testowym.

Jak dobrać zakres?

Zwykle zaczynamy od jednorazowego audytu. Gdy scenariusze się sprawdzą, automatyzujemy regresję albo ustalamy stałą weryfikację po zmianach.

Zobacz pakiety

Pytania przed współpracą

Czy testujesz również agentów głosowych?

Tak. Dla agentów głosowych zakres obejmuje przebieg rozmowy i działania w systemach. Scenariusze, dostęp do telefonii oraz koszty platform ustalamy przed rozpoczęciem.

Czym różni się test agenta od oceny odpowiedzi?

Ocena odpowiedzi sprawdza to, co agent powiedział. Test zadania sprawdza także, czy wykonał właściwą operację, zapisał poprawne dane i prawidłowo obsłużył błąd.

Od czego zależy cena?

Od liczby scenariuszy, integracji, dostępu do środowiska i zakresu automatyzacji. Pakiety i bazowe ceny są na tej stronie; finalny zakres potwierdzamy w ofercie.

Zacznijmy od problemu

Porozmawiajmy.

Opowiedz, co Twój agent ma wykonać. W wiadomości podaj proces, platformę, integracje i planowany termin odbioru. To wystarczy, żeby zacząć ustalanie zakresu.

Napisz bezpośrednio: jaroslawtrepkowski@gmail.comMożesz też napisać do mnie na LinkedIn.

Współpraca B2B w Polsce i Europie. Na każdą wiadomość odpowiadam osobiście.

Wszystkie pola są wymagane.

Dane z formularza wykorzystuję wyłącznie do odpowiedzi. Polityka prywatności.