AI agenci w firmach. Czy zastąpią pracowników?

W dzisiejszym odcinku podcastu „Business Tech Talks powered by BlueSoft” gościmy Piotra Zawadzkiego, Head of Quality Excellence Center w BlueSoft. Rozmawiamy o agentach AI i ich rosnącej roli w organizacjach. Zastanawiamy się, czy sztuczna inteligencja jest jedynie kolejnym narzędziem wspierającym pracę, czy może staje się już pełnoprawnym uczestnikiem procesów biznesowych. Dyskutujemy o mitach związanych z zastępowaniem ludzi przez AI, poziomie autonomii agentów, odpowiedzialności za ich decyzje oraz o tym, jak organizacje powinny przygotować się na współpracę z „wirtualnymi pracownikami”. Poniżej znajduje się szczegółowy skrót transkrypcji odcinka.

Czy AI to narzędzie, czy nowy pracownik? 

Rozmowa rozpoczyna się od próby zdefiniowania samej sztucznej inteligencji. Choć AI jest często przedstawiana jako „myśląca maszyna”, eksperci podkreślają, że mamy do czynienia przede wszystkim z zaawansowanymi mechanizmami przetwarzania danych i przewidywania odpowiedzi. Mimo to sposób komunikacji współczesnych modeli sprawia, że użytkownicy często traktują je jak współpracowników lub nawet partnerów do rozmowy.

Kluczowym wnioskiem jest to, że AI pozostaje narzędziem stworzonym przez człowieka, jednak coraz częściej funkcjonuje w organizacjach w sposób przypominający pracę człowieka.

Copilot to nie agent. Czym różnią się współczesne rozwiązania AI?

W odcinku wyjaśniono różnicę pomiędzy popularnymi rozwiązaniami generatywnej AI, takimi jak Copilot, a agentami AI.

Copilot i klasyczne chatboty:

• wspierają użytkownika w wykonywaniu zadań,
• odpowiadają na pytania i analizują dane,
• nie posiadają własnych celów biznesowych.

Agenci AI:

• działają w określonej roli,
• realizują konkretne cele i zadania,
• mogą wykonywać złożone procesy z ograniczoną autonomią,
• coraz częściej współpracują z innymi agentami oraz systemami organizacji.

Eksperci podkreślają jednak, że większość organizacji dopiero przygotowuje się do wdrażania prawdziwych, wieloagentowych środowisk pracy.

Czy agenci AI zastąpią pracowników? 

Jednym z najważniejszych tematów rozmowy jest wpływ agentów AI na rynek pracy. Zdaniem Piotra Zawadzkiego narracja o masowym zastępowaniu ludzi przez AI jest często przesadzona i stanowi przykład tzw. „AI washingu”.

Choć technologia może przejąć część powtarzalnych zadań i procesów, całkowite zastąpienie pracowników nadal napotyka wiele ograniczeń.

Najważniejsze wyzwania to:

• konieczność ciągłego dostarczania nowych danych,
• utrzymywanie i aktualizowanie agentów,
• ryzyko popełniania błędów,
• potrzeba stałego nadzoru człowieka,
• dodatkowe koszty związane z zarządzaniem środowiskiem AI.

Eksperci wskazują, że zamiast całych zawodów, znacznie częściej automatyzowane będą pojedyncze zadania lub fragmenty procesów biznesowych.

Autonomia agentów AI i rola człowieka

W odcinku dużo miejsca poświęcono kwestii autonomii agentów AI. Poziom samodzielności agenta zależy przede wszystkim od zakresu jego wytrenowania, jakości danych oraz zdefiniowanych procedur.

Kluczową rolę nadal odgrywa koncepcja „human in the loop”, czyli człowieka nadzorującego działanie systemu.

Organizacje muszą samodzielnie określić:

• jaki poziom autonomii jest akceptowalny,
• w jakich sytuacjach agent powinien przekazywać decyzję człowiekowi,
• które procesy wymagają pełnego nadzoru eksperckiego.

Zdaniem gościa podcastu całkowite pozostawienie agentów bez nadzoru pozostaje mało prawdopodobne nawet w perspektywie kolejnych lat.

Jak powinna wyglądać organizacja z agentami AI?

Eksperci podkreślają, że wdrażanie agentów AI wymaga zmian organizacyjnych i zarządczych.

W firmach korzystających z agentów powinny pojawić się:

• jasno określone role i odpowiedzialności agentów,
• procedury definiujące zakres ich działania,
• mechanizmy kontroli i eskalacji decyzji,
• zasady współpracy pomiędzy ludźmi i systemami AI.

Agent AI nie powinien być traktowany jako całkowicie niezależny „pracownik”, lecz jako element struktury organizacyjnej wspierający specjalistów i menedżerów w realizacji zadań.

Odpowiedzialność, regulacje i AI Act

W końcowej części rozmowy poruszono kwestie prawne i regulacyjne. Mimo rosnącej autonomii agentów AI, odpowiedzialność za ich działania nadal ponoszą ludzie oraz organizacje wdrażające takie rozwiązania.

Aktualne regulacje, takie jak:

• AI Act,
• RODO,
• wewnętrzne polityki organizacyjne,

nakładają obowiązki związane z bezpiecznym wykorzystaniem technologii, jednak nie przenoszą odpowiedzialności na same systemy AI.

Dlatego każda organizacja planująca wdrożenie agentów powinna rozpocząć od zdefiniowania zasad nadzoru, odpowiedzialności oraz zarządzania ryzykiem związanym z wykorzystaniem sztucznej inteligencji.