AI już kosztuje firmy miliony. Problemem nie są tylko halucynacje, ale utrata kontroli nad technologią

Sztuczna inteligencja coraz częściej trafia z demonstracyjnych projektów do procesów, od których zależą pieniądze, obsługa klientów i decyzje biznesowe. Wraz z tym rośnie cena błędów. W globalnym badaniu EY 99 proc. ankietowanych dużych organizacji zadeklarowało straty finansowe związane z ryzykami AI.

Średnia strata w firmach, które ich doświadczyły, została oszacowana na 4,4 mln dolarów. Najnowszy „Data-powered Innovation Review” Capgemini pokazuje, że odpowiedzią na ten problem ma być nie tylko lepsza kontrola modeli, ale także większa niezależność przedsiębiorstw od zewnętrznych dostawców AI.

Nie chodzi już wyłącznie o to, czy chatbot od czasu do czasu poda nieprawdziwą informację. W przedsiębiorstwach generatywna sztuczna inteligencja zaczyna uczestniczyć w procesach, w których błąd może trafić do raportu, dokumentu prawnego, rekomendacji dla klienta albo systemu podejmującego decyzje.

Capgemini zwraca uwagę na szczególnie kłopotliwą cechę współczesnych modeli: błędna odpowiedź może wyglądać równie profesjonalnie jak prawdziwa. Jest poprawna językowo, logicznie ułożona i sformułowana z dużą pewnością. To sprawia, że pomyłka nie przypomina klasycznej awarii systemu informatycznego.

- Największym zagrożeniem nie są dziś awarie systemów, lecz błędne odpowiedzi podawane z absolutną pewnością siebie. W przeciwieństwie do awarii, które są zwykle szybko zauważane, błędne odpowiedzi mogą niezauważenie przenikać do procesów decyzyjnych i utrwalać się w zbiorowej inteligencji organizacji - mówi Jakub Wodziński, Lead Data Scientist w Capgemini Polska.

99 proc. badanych firm deklaruje straty związane z ryzykiem AI

W informacji prasowej Capgemini przywołano szczególnie mocną liczbę: 99 proc. organizacji miało ponieść straty finansowe związane z ryzykami sztucznej inteligencji. Warto jednak precyzyjnie wskazać źródło tych danych.

Nie jest to wynik nowego badania Capgemini. „Data-powered Innovation Review. Wave 12” powołuje się w tym miejscu na badanie EY Global Responsible AI Pulse z 2025 roku.

EY przepytało 975 członków najwyższej kadry kierowniczej z 21 państw. Respondenci reprezentowali przedsiębiorstwa osiągające ponad miliard dolarów rocznych przychodów i byli w swoich organizacjach odpowiedzialni za zagadnienia związane ze sztuczną inteligencją.

W tej konkretnej grupie 99 proc. badanych organizacji zadeklarowało straty finansowe związane z ryzykami AI, a 64 proc. - straty przekraczające milion dolarów. Średnia strata w przedsiębiorstwach, które doświadczyły takich problemów, wyniosła według EY 4,4 mln dolarów.

Najczęściej wskazywanymi problemami były niezgodność z regulacjami dotyczącymi AI, negatywny wpływ na cele zrównoważonego rozwoju oraz stronniczość wyników generowanych przez systemy. EY zwracało również uwagę na ryzyko związane z wyjaśnialnością modeli, odpowiedzialnością prawną i reputacją firmy.

Te liczby nie oznaczają więc, że 99 proc. wszystkich przedsiębiorstw na świecie poniosło straty przez sztuczną inteligencję. Dotyczą próby dużych organizacji, które już korzystają z AI na istotną skalę i których przedstawiciele odpowiadali za tę technologię.

Halucynacja AI może przejść przez kontrolę jakości

Klasyczne systemy informatyczne najczęściej zawodzą w sposób łatwy do zauważenia: pojawia się komunikat o błędzie, usługa przestaje działać albo wynik odbiega od oczekiwanego formatu. Generatywna AI może zachowywać się inaczej.

Model językowy może stworzyć nieistniejące źródło, przypisać komuś wypowiedź, której nie było, podać błędną podstawę prawną albo zbudować analizę na fałszywej przesłance, zachowując przy tym spójny i profesjonalny język.

To właśnie dlatego tradycyjna zasada „człowiek sprawdzi wynik” nie zawsze wystarcza. Im częściej pracownik korzysta z modelu i im częściej otrzymuje poprawne odpowiedzi, tym łatwiej potraktować kolejną odpowiedź jako wiarygodną bez ponownej weryfikacji źródeł.

Capgemini opisuje to jako problem systemowy, a nie tylko wadę konkretnego modelu. Odpowiedzią ma być architektura, w której model językowy nie jest jedynym miejscem przechowywania i odtwarzania wiedzy.

Model językowy ma rozmawiać, ale fakty powinny pochodzić z innego źródła

Jednym z podejść opisanych w raporcie jest rozdzielenie dwóch funkcji. Model językowy ma rozumieć pytanie użytkownika i formułować odpowiedź, ale informacje potrzebne do podjęcia decyzji powinny pochodzić z kontrolowanych źródeł.

Mogą nimi być grafy wiedzy, bazy danych, reguły biznesowe i inne struktury, które dają się audytować. W takim systemie model nie ma „przypominać sobie” faktu na podstawie statystycznych zależności wyuczonych podczas treningu. Powinien pobierać go z miejsca, którego zawartość można sprawdzić.

Capgemini określa takie podejście jako budowę „stosu zaufania”. W praktyce oznacza to stworzenie kilku warstw kontroli zamiast powierzania całego procesu jednemu dużemu modelowi.

Raport opisuje m.in. rozwiązanie przygotowane w ramach projektu dotyczącego doradztwa edukacyjnego dla młodych ludzi. Model językowy odpowiadał tam za rozmowę, natomiast dopasowanie konkretnych możliwości edukacyjnych odbywało się za pomocą grafu wiedzy. Celem było ograniczenie sytuacji, w których system tworzy przekonującą, ale nieistniejącą ścieżkę kształcenia.

Duży model nie musi wykonywać każdego zadania

Drugi kierunek opisany w raporcie to wykorzystanie małych modeli językowych, czyli SLM - Small Language Models.

Wiele firm wykorzystuje największe modele także do prostych, powtarzalnych zadań: rozpoznawania intencji użytkownika, klasyfikowania wiadomości, wyciągania danych z dokumentów, kierowania zapytań do właściwych narzędzi czy sprawdzania poprawności struktury odpowiedzi.

Capgemini wskazuje, że część takich operacji mogą wykonywać mniejsze, wyspecjalizowane modele pracujące bliżej danych przedsiębiorstwa, a nawet lokalnie na urządzeniu lub firmowej infrastrukturze.

Nie chodzi wyłącznie o koszty. Mniejszy model można łatwiej ograniczyć do konkretnego zadania, kontrolować jego wersje i uruchamiać bez wysyłania części informacji do zewnętrznej usługi.

W proponowanej architekturze duży model może zajmować się bardziej złożonym planowaniem, mniejszy wykonywać powtarzalne operacje, a osobna warstwa reguł lub kolejny model kontrolować wynik przed przekazaniem go użytkownikowi.

Firmy zaczynają pytać, kto naprawdę kontroluje ich AI

Raport mocno akcentuje jeszcze jeden problem: zależność przedsiębiorstw od kilku globalnych dostawców modeli i chmury.

Dopóki AI była dodatkiem do istniejącego biznesu, zmiana ceny API lub warunków korzystania z usługi mogła być przede wszystkim problemem zakupowym. Jeżeli jednak model zostanie wbudowany w obsługę klientów, analizę dokumentów, proces produkcyjny, system zgodności z przepisami czy podejmowanie decyzji, dostawca technologii staje się elementem infrastruktury krytycznej dla firmy.

- Uzależnienie strategicznych procesów od zewnętrznych modeli chmurowych przypomina podpisanie umowy najmu bez gwarancji stabilności czynszu - zauważa Jakub Wodziński.

Stąd rosnące znaczenie pojęcia „sovereign AI”, czyli suwerennej sztucznej inteligencji. Nie musi ono oznaczać budowania od zera własnego odpowiednika największych modeli dostępnych na rynku.

Chodzi przede wszystkim o możliwość kontrolowania danych, miejsca ich przetwarzania, modelu i jego wersji, warunków uruchomienia oraz sposobu przeniesienia systemu do innego środowiska. Jednym z rozwiązań mogą być modele o otwartych wagach lub modele wyspecjalizowane dla konkretnej branży i uruchamiane we własnej infrastrukturze.

Suwerenność technologiczna nie oznacza pełnej samowystarczalności

W tym miejscu potrzebne jest jednak zastrzeżenie. Pełna technologiczna niezależność przedsiębiorstwa jest w praktyce bardzo trudna do osiągnięcia.

Nawet firma uruchamiająca własny model nadal korzysta ze sprzętu, układów scalonych, bibliotek programistycznych, centrów danych i narzędzi tworzonych przez zewnętrznych dostawców. Sam Capgemini w innych publikacjach dotyczących suwerenności technologicznej zwraca uwagę na silną współzależność globalnego rynku technologicznego.

Dlatego w przypadku przedsiębiorstwa trafniejszym celem może być ograniczenie pojedynczych punktów zależności. Firma powinna wiedzieć, gdzie znajdują się jej dane, kto może je przetwarzać, czy może przenieść usługę do innego dostawcy i co stanie się z kluczowym procesem, jeżeli obecny partner zmieni cenę, regulamin albo dostępność produktu.

Człowiek pozostaje potrzebny, ale musi mieć możliwość sprawdzenia systemu

Raport Capgemini nie postuluje rezygnacji z automatyzacji. Wskazuje raczej, że wraz z przechodzeniem od chatbotów do agentów wykonujących działania rośnie znaczenie odpowiedzialności za wynik.

W procesach o dużym znaczeniu nie wystarczy samo dodanie człowieka na końcu łańcucha. Osoba zatwierdzająca decyzję musi wiedzieć, na jakich danych została ona oparta, skąd pochodzą informacje i w jakich sytuacjach system może się mylić.

Potrzebne są więc śledzenie pochodzenia danych, rejestry działania systemu, testy kolejnych wersji modeli, procedury cofania zmian i jasno określona odpowiedzialność za decyzję.

To przesuwa dyskusję o sztucznej inteligencji w firmach. Jeszcze niedawno najważniejszym pytaniem było, jaki model potrafi najwięcej. Teraz coraz częściej brzmi ono inaczej: nad którą częścią tego systemu przedsiębiorstwo rzeczywiście ma kontrolę - i czy potrafi wykryć błąd, zanim przekonująca odpowiedź AI stanie się decyzją biznesową.

Wypowiedzi ekspertów pochodzą z informacji prasowej Capgemini Polska, „Pułapka wiarygodnych halucynacji - suwerenność technologiczna nowym wyznacznikiem dojrzałości przedsiębiorstw”, 17 września 2026

 

Pobierz ebook "Książka o Egipcie, jakiego nie pokazują wycieczki. Śladami starożytnych królowych i polskich archeologów"