Uwaga na usługi i narzędzia AI. Agent w chmurze może dostać dostęp jak pracownik

Ryzyko nie dotyczy już wyłącznie phishingu tworzonego przez cyberprzestępców czy fałszywych treści generowanych przez modele językowe. Coraz większym problemem staje się bezpieczeństwo AI po stronie firmowej infrastruktury: kont usługowych, integracji z chmurą, dostępów do baz danych, systemów CRM, katalogów produktów i narzędzi analitycznych.

Autonomiczne systemy AI coraz częściej pracują w tle: analizują dane klientów, obsługują zapytania, porządkują dokumenty, wspierają sprzedaż i podpowiadają decyzje marketingowe. Problem zaczyna się wtedy, gdy taki agent dostaje zbyt szerokie uprawnienia. Z analizy Unit 42, zespołu badawczego Palo Alto Networks, wynika, że w środowisku Google Cloud Vertex AI błędna konfiguracja mogła pozwolić agentowi AI działać jak uprzywilejowany użytkownik z dostępem do danych i zasobów organizacji.

To ważny sygnał dla firm, które wdrażają AI w marketingu, e-commerce, sprzedaży i obsłudze klienta. 

AI w firmie nie jest już tylko narzędziem. Staje się użytkownikiem

Badacze Unit 42 opisali scenariusz, w którym agent AI uruchomiony w Google Cloud Platform Vertex AI Agent Engine mógł zostać wykorzystany jako tzw. „double agent”. Na zewnątrz wykonywał swoją funkcję, ale po przejęciu lub złośliwej konfiguracji mógł uzyskać dostęp do zasobów, do których nie powinien mieć swobodnej drogi.

Według Palo Alto Networks problem dotyczył domyślnego zakresu uprawnień przyznawanych agentowi usługowemu. W praktyce oznaczało to możliwość uzyskania dostępu do danych w Google Cloud Storage oraz informacji o elementach infrastruktury. Unit 42 podaje, że po zgłoszeniu ustaleń Google zmodyfikował dokumentację, dokładniej opisując sposób działania kont, zasobów i agentów w Vertex AI.

Tymczasem np. działy marketingu coraz częściej korzystają z narzędzi AI podłączanych do danych firmowych: kampanii reklamowych, analityki internetowej, danych sprzedażowych, segmentów odbiorców, newsletterów, katalogów produktów i platform e-commerce. Im więcej systemów obsługuje jeden agent, tym większe znaczenie ma pytanie, czy naprawdę musi widzieć wszystko.

Bezpieczeństwo AI zaczyna się od uprawnień

Najważniejszy wniosek z analizy Palo Alto Networks jest prosty: agent AI powinien mieć tylko taki dostęp, jakiego potrzebuje do konkretnego zadania. W cyberbezpieczeństwie to zasada least privilege, czyli minimalnych uprawnień. W praktyce oznacza ona koniec wygodnego podejścia: „dajmy pełny dostęp, żeby działało”.

Jeżeli agent ma analizować skuteczność kampanii, nie musi mieć dostępu do wszystkich plików w chmurze. Jeżeli wspiera obsługę klienta, nie powinien automatycznie widzieć danych finansowych firmy. Jeżeli tworzy opisy produktów, nie potrzebuje praw administratora do całego środowiska cloudowego.

Tomasz Pietrzyk, dyrektor techniczny Palo Alto Networks w Europie Środkowo-Wschodniej, zwraca uwagę, że wraz z rosnącą skalą wdrażania agentów AI firmy tworzą systemy o szerokiej autonomii. Jeśli uprawnienia nie są ograniczone, taki agent może stać się celem ataku i w efekcie działać jak użytkownik uprzywilejowany z dostępem do krytycznych zasobów.

Dla małych i średnich firm oznacza to konieczność zmiany myślenia. Wdrożenie AI nie kończy się na wyborze narzędzia i podpisaniu umowy z dostawcą. Trzeba jeszcze sprawdzić, do jakich systemów narzędzie zostanie podłączone, kto zaakceptował uprawnienia, czy dostęp jest okresowo przeglądany i co stanie się po zmianie dostawcy lub zakończeniu projektu.

Dlaczego marketerzy powinni zwrócić uwagę na Google Cloud Vertex AI

Vertex AI to platforma Google Cloud służąca m.in. do budowy i uruchamiania modeli oraz agentów AI. Z takich rozwiązań korzystają zwykle większe organizacje lub software house’y, ale skutki ich użycia mogą dotyczyć także mniejszych firm. Wiele narzędzi marketingowych, sprzedażowych i e-commerce działa dziś jako usługa w chmurze. Użytkownik końcowy nie zawsze wie, które komponenty odpowiadają za automatyzację po stronie dostawcy.

W praktyce mała firma może korzystać z AI w panelu sklepu internetowego, systemie CRM, narzędziu do obsługi klienta albo platformie reklamowej, nie mając świadomości, że pod spodem działają agenci korzystający z chmurowej infrastruktury. Dlatego bezpieczeństwo AI nie jest wyłącznie problemem działów IT w korporacjach. To temat dla każdego, kto oddaje zewnętrznym systemom dostęp do danych klientów, wyników kampanii, historii zakupów albo plików firmowych.

W marketingu szczególnie wrażliwe są dane pierwszej strony, czyli informacje zbierane bezpośrednio przez firmę: adresy e-mail, zachowania użytkowników, segmenty klientów, koszyki zakupowe, historia transakcji, zgody marketingowe, dane lojalnościowe i wyniki kampanii. Ich utrata oznacza nie tylko problem techniczny. Może uderzyć w reputację marki, sprzedaż, relacje z partnerami i zgodność z przepisami o ochronie danych.

Ataki na AI stają się codziennością

Palo Alto Networks w raporcie State of Cloud Security 2025 podaje, że 99 proc. badanych organizacji doświadczyło w ostatnim roku co najmniej jednego ataku wymierzonego w aplikacje lub usługi AI. Firma wskazuje też, że 75 proc. ankietowanych korzysta już z AI w środowiskach produkcyjnych. To oznacza, że sztuczna inteligencja przestała być testem prowadzonym na uboczu.

Wcześniej główna obawa firm dotyczyła tego, co pracownicy wpisują do narzędzi generatywnych. Teraz dochodzi drugi poziom ryzyka: co narzędzie AI może zrobić samodzielnie, jeśli ma połączenie z firmową infrastrukturą. Agent może czytać pliki, wywoływać API, przenosić dane między systemami, uruchamiać zadania i działać szybciej niż człowiek. Jeżeli został źle skonfigurowany, błąd może rozlać się po organizacji.

Nie oznacza to, że firmy powinny rezygnować z AI. Wniosek jest inny: wdrożenia muszą przestać być prowadzone wyłącznie jako projekty produktywnościowe lub marketingowe. Każda integracja z AI powinna mieć właściciela biznesowego i technicznego, opis zakresu danych, listę uprawnień oraz procedurę reakcji na incydent.

Co powinny sprawdzić małe i średnie firmy

Przed podłączeniem narzędzia AI do firmowych danych warto odpowiedzieć na kilka pytań. Kto ma dostęp administracyjny do systemu? Czy agent AI używa konta domyślnego, czy dedykowanego konta usługowego? Jakie dokładnie uprawnienia zostały mu nadane? Czy może tylko czytać dane, czy również je modyfikować i usuwać? Czy dostęp można ograniczyć do jednego projektu, folderu, bazy, kampanii lub katalogu produktów?

Ważne jest także monitorowanie zachowania agentów. Jeśli AI nagle pobiera nietypowo dużo plików, odpyta system poza godzinami pracy albo zaczyna korzystać z danych, których wcześniej nie używała, powinien pojawić się alert. W dojrzałych organizacjach takie zachowanie analizuje się podobnie jak aktywność użytkowników uprzywilejowanych.

Dla marketerów praktyczna zasada jest prosta: AI nie powinno dostawać większego zaufania niż nowy pracownik. Jeśli stażysta nie otrzymałby pełnego dostępu do CRM, katalogu klientów i danych finansowych, agent testowany w kampanii pilotażowej również nie powinien go dostać.

AI w marketingu: szybciej, ale nie bez kontroli

Automatyzacja oparta na AI kusi, bo skraca czas pracy. Potrafi przygotować opisy produktów, analizować wyniki kampanii, klasyfikować leady, podpowiadać segmenty odbiorców i obsługiwać część zapytań klientów. Im głębiej wchodzi w procesy biznesowe, tym bardziej przypomina pracownika z loginem, a nie zwykłe narzędzie.

Dlatego bezpieczeństwo AI powinno trafić do briefów, zapytań ofertowych i umów z dostawcami technologii marketingowych. Firma wdrażająca nowe narzędzie powinna pytać nie tylko o funkcje, cenę i integracje, ale też o model uprawnień, logowanie działań, separację danych, możliwość użycia dedykowanych kont usługowych i zasady usuwania dostępów po zakończeniu współpracy.

Dla rynku marketingowego to kolejny etap dojrzewania AI. Po okresie zachwytu nad generowaniem tekstów, grafik i automatycznych analiz przychodzi bardziej przyziemne pytanie: kto pilnuje dostępu do danych, na których ta automatyzacja pracuje?

Pobierz ebook "Książka o Egipcie, jakiego nie pokazują wycieczki. Śladami starożytnych królowych i polskich archeologów"