Czyja jest fabryka agentów, jeśli działa u dostawcy

Najcenniejszą częścią fabryki agentów nie jest model, tylko to, czego fabryka nauczy się o waszej firmie, i ta część powinna zostać u was bez względu na to, czyj model wykonuje pracę.
Prezentacja dostawcy trwa czterdzieści minut. Wirtualny członek zespołu, start w dwa tygodnie, gotowe połączenia z systemem zakupowym i pocztą. Zarząd zadaje dobre pytania o cenę, o bezpieczeństwo, o to, kto ma dostęp do danych. Nikt nie pyta, co zostanie w firmie, gdy umowa się skończy. A to jest pytanie, od którego za dwa lata będzie zależało najwięcej.
Skąd bierze się ten problem
Dopóki agenci działają na laptopach pojedynczych osób, sprawa wygląda niewinnie. Każdy używa innego narzędzia i daje mu szeroki dostęp do poczty i dysku. Instrukcje nie są nigdzie spisane. Rozmowy z agentami, czyli najdokładniejszy zapis tego, jak naprawdę pracuje zespół, znikają po zamknięciu okna. Tak wygląda dziś większość firm, o czym pisaliśmy w tekście o ludziach, którzy już używają AI.
Fabryka agentów porządkuje ten chaos. Zbiera pracę w jedną pętlę, z jednym zestawem uprawnień, z metrykami i z pamięcią. Właśnie dlatego pytanie, gdzie ta pętla działa i do kogo należy, staje się decyzją zarządu, a nie wyborem narzędzia przez zespół. Dlaczego takie pętle wyjdą poza IT, opisaliśmy w tekście o fabrykach agentów w zakupach i obsłudze klienta.
Co właściwie posiadacie, kiedy macie fabrykę
Fabryka nie jest jednym programem. To kilka warstw, a każda może należeć do was albo do dostawcy.
| Warstwa | Co to jest | Co tracicie, jeśli należy do dostawcy | Minimum, które warto mieć u siebie |
|---|---|---|---|
| Definicja pętli | etapy, agenci, wyzwalacze, reguły przejścia | nie odtworzycie pętli gdzie indziej | zapis w waszym repozytorium, z historią zmian |
| Instrukcje agentów | jak agent ma oceniać zapotrzebowanie, reklamację, ofertę w waszej firmie | wiedzę z miesięcy poprawek | pliki czytelne bez narzędzia dostawcy |
| Uprawnienia | do czego agent ma dostęp i co może zmienić | kontrolę nad tym, kto widzi wasze dane | jeden spis uprawnień, którym zarządzacie wy |
| Pamięć i historia przebiegów | decyzje i wyniki każdej sprawy | najdokładniejszy opis procesów, jaki firma kiedykolwiek miała | przechowywanie w waszej chmurze albo serwerowni |
| Oceny | jak mierzycie jakość, koszt i czas | możliwość porównania dostawców na własnych sprawach | własny zestaw spraw testowych i wyników |
| Model | który model wykonuje pracę | swobodę zmiany, gdy zmieni się cena albo jakość | wymiana modelu bez przepisywania instrukcji |
| Moc obliczeniowa | gdzie fizycznie dzieje się praca | kontrolę nad tym, dokąd trafiają dane | świadomy wybór: chmura z umową bez przechowywania zapytań, własna albo mieszana |
Model jest w tej tabeli przedostatni. Modele tanieją i zmieniają się co kilka miesięcy. Instrukcje, pamięć i oceny zyskują na wartości z każdym tygodniem pracy fabryki. Gdyby trzeba było wybrać jedną warstwę do zabrania ze sobą, wybierzcie pamięć i instrukcje.
Trzy drogi i ich cena
Gotowa fabryka jako usługa. Najszybszy start. Ceną jest to, że definicja pracy, pamięć i oceny leżą u dostawcy, a dostosowanie kończy się tam, gdzie kończą się ustawienia w panelu.
Własna fabryka od zera. Pierwszy agent działa po tygodniu. Po pół roku najlepsi ludzie utrzymują skrypty i kolejki zamiast zajmować się procesem, a każdy nowy etap pętli to osobny projekt.
Otwarta infrastruktura u was. Dostawca daje warstwę sterowania: kolejkę pracy, panel, metryki, uruchamianie agentów. Definicja, instrukcje, pamięć i dane zostają w waszym repozytorium i w waszej chmurze. Możecie używać różnych modeli, także otwartych, i porównywać je na własnych sprawach. Ceną jest to, że ktoś u was musi tę infrastrukturę rozumieć i za nią odpowiadać.
Nie ma tu odpowiedzi dobrej dla wszystkich. VUCALE niczego nie odsprzedaje, więc może to powiedzieć bez zastrzeżeń: czasem właściwa jest platforma komercyjna, którą firma już ma, czasem suwerenny stos open source, a najczęściej mieszanka. Rekomendacja, za którą stoi marża partnerska, ma odpowiedź, zanim usłyszy pytanie. Pisaliśmy o tym w tekście o firmie, która odsprzedaje.
Gdzie suwerenność staje się kosztownym hobby
Suwerenność da się przedobrzyć.
Firma, która zatrudnia osiemdziesiąt osób, nie potrzebuje własnych serwerów z kartami graficznymi, żeby fabryka była jej. Sprzęt kupiony po to, żeby dane nie wyjeżdżały, którego nikt w firmie nie umie utrzymać, kończy się tym, że ludzie wracają do agentów na laptopach, tylko drożej. Dla większości firm wystarczy, że definicje, instrukcje i pamięć są u nich, umowa z dostawcą modelu wyklucza trenowanie na ich danych i przechowywanie zapytań, a architektura pozwala w ciągu tygodnia przełączyć się na inny model.
Druga pułapka to model otwarty jako cel sam w sobie. Bywa tańszy i da się go uruchomić u siebie, ale na części spraw będzie słabszy. Fabryka ma sens wtedy, gdy na każdym etapie możecie wybrać model, który pasuje do zadania: tańszy do sortowania, mocniejszy do przygotowania decyzji.
Wyjście trzeba wpisać na początku
Koszt wyjścia jest najniższy przed podpisaniem umowy. Potem już tylko rośnie. Dlatego pytania o wyjście należą do zakupu, nie do przeglądu po dwóch latach. W jakim formacie dostaniemy instrukcje i historię przebiegów. Ile czasu zajmie ich eksport. Czy instrukcje działają z innym modelem bez przepisywania. Co się dzieje z danymi po wypowiedzeniu.
Odpowiedzi warto sprawdzić, a nie tylko zapisać. Najprostszy sposób to próba na własnych sprawach przed decyzją, tak jak w tekście o testowaniu platformy na własnych danych: uruchomić pętlę na stu prawdziwych zapotrzebowaniach, potem wyeksportować wszystko i spróbować odtworzyć choćby jeden etap gdzie indziej.
Czym mierzyć suwerenność
Suwerenności nie mierzy się deklaracją w polityce bezpieczeństwa. Mierzy się ją tym, ile kosztuje wyjście.
| Metryka próżności | Metryka wyniku |
|---|---|
| „nasz dostawca spełnia wszystkie wymogi” | ile dni roboczych zajęłoby przeniesienie fabryki do innego dostawcy modelu |
| liczba modeli dostępnych w panelu | jaka część spraw wykonuje się na modelach, które możecie uruchomić u siebie |
| „wszystko mamy w chmurze” | czy odtworzycie historię przebiegów z ostatniego kwartału bez dostępu do konta dostawcy |
| liczba certyfikatów dostawcy | czy instrukcje agentów leżą w waszym repozytorium i ktoś je czyta |
Test na ten tydzień
Zadajcie zespołowi dwa pytania. Gdzie dziś leżą instrukcje, których używacie z agentami, i gdzie zapisują się rozmowy z nimi. Oraz: gdybyśmy jutro musieli zmienić dostawcę modelu, co trzeba by napisać od nowa. Jeśli odpowiedź brzmi „wszystko”, wasza fabryka, nawet jeśli dopiero raczkuje, należy już do kogoś innego.
Zostaje wybór, prosty do nazwania i trudny do podjęcia. Możecie zbudować fabrykę szybko na cudzej infrastrukturze i przyjąć, że wiedza o tym, jak pracuje wasza firma, będzie u dostawcy. Albo możecie zbudować ją trochę wolniej i zostawić tę wiedzę u siebie. Obie drogi mają cenę. Gorzej, jeśli żadnej nie wybierzecie świadomie.
- agenci AI
- fabryka agentów
- suwerenność
- wybór dostawcy
- umowy