Agenci AI, prywatność i etyka zmniejszają zaufanie

Łatwo jest mówić o agentach AI, ale ich wprowadzenie do organizacji wydaje się bardziej skomplikowane niż oczekiwano. Początkowy entuzjazm ustąpił miejsca ostrożności, zwłaszcza w odniesieniu do dwóch kwestii – prywatności i etyki – które spowodowały gwałtowny spadek zaufania, spadając z 43% organizacji do 27%. Dzieje się tak pomimo faktu, że agenci AI postrzegani są jako „koledzy” zdolni do uwolnienia ogromnego potencjału w organizacjach. Raport Capgemini Research Institute, „Rise of agentic AI: How trust is the key to human-AI collaboration”, szacuje, że do 2028 roku agentic AI będzie w stanie wygenerować globalną wartość ekonomiczną sięgającą 450 miliardów dolarów. Mimo to, z jednej strony, liczba firm deklarujących zaufanie maleje, a z drugiej, dwóch na pięciu dyrektorów na całym świecie uważa, że ryzyko przewyższa korzyści na tym etapie, zgodnie z raportem, który został przeprowadzony wśród 1500 dyrektorów organizacji o rocznych przychodach przekraczających 1 miliard dolarów, w 14 krajach, w tym we Włoszech, i w 13 różnych sektorach.

W rzeczywistości, szybki rozwój nowych narzędzi sztucznej inteligencji (AI) pokazuje, że organizacje muszą dostosowywać się w sposób zrównoważony i dostosowany do potrzeb wszystkich. I chociaż znaczny odsetek firm korzysta z agentowej AI do celów wsparcia, sytuacja wygląda inaczej w przypadku autonomicznego wykorzystania. Tylko 40% firm deklaruje zaufanie do agentów AI w zakresie autonomicznego zarządzania zadaniami i procesami, podczas gdy większość nie do końca ufa tej technologii.

Włoskie organizacje, zgodnie z globalnymi trendami, mają mniejsze zaufanie do agentów AI niż w 2024 roku. Około 60% włoskich organizacji obawia się problemów z prywatnością, zagrożeń bezpieczeństwa i ryzyka niepożądanych uprzedzeń związanych z korzystaniem z agentowej AI. W ciągu najbliższych 12 miesięcy włoskie organizacje spodziewają się, że współpraca z AI zaowocuje wzrostem umiejętności członków zespołu, a w perspektywie trzech lat te same organizacje przewidują, że agenci AI będą autonomicznymi członkami zespołów nadzorowanych przez ludzi.

Analiza danych włoskich uwypukla odmienne podejście w perspektywie krótko- i średnioterminowej oraz ewolucję zaangażowanych funkcji. W związku z tym, w ciągu najbliższych 12 miesięcy, wśród funkcji biznesowych, w których organizacje oczekują od agentów AI zarządzania co najmniej jednym procesem lub podprocesem dziennie, wyróżniają się działy sprzedaży, IT, marketingu i komunikacji oraz finansów. Po rozszerzeniu horyzontu czasowego do trzech lat lista ta się wydłuża, a dział operacyjny również znajduje się wśród funkcji, na które włoskie organizacje uważają, że AI z agentami będzie miała największy wpływ.

Według Monii Ferrari, CEO Capgemini we Włoszech, „potencjał ekonomiczny agentów AI jest ogromny, ale jego urzeczywistnienie wymaga czegoś więcej niż tylko technologii: strategicznej i ustrukturyzowanej transformacji, która angażuje ludzi, procesy i systemy. Aby odnieść sukces, organizacje muszą skupić się na wynikach, przemyślając swoje procesy zgodnie z wizją „sztuczna inteligencja przede wszystkim”. U podstaw tej transformacji leży potrzeba budowania zaufania poprzez etyczne i bezpieczne rozwijanie sztucznej inteligencji już na wczesnym etapie. Struktury organizacyjne muszą również zostać przeprojektowane, aby wspierać efektywną synergię między ludźmi a sztuczną inteligencją, tworząc warunki do wykorzystania ludzkiego osądu i osiągania lepszych wyników biznesowych”.