Meta zastępuje moderatorów treści sztuczną inteligencją. Koniec z outsourcingiem?

Facebook i Instagram przechodzą na zaawansowane modele AI do wykrywania szkodliwych treści. Zewnętrzne firmy moderacyjne tracą rolę — ale pytania o przejrzystość i odwołania pozostają bez odpowiedzi.

Meta ogłosiła, że wdraża nowy system egzekwowania zasad oparty na modelach AI, jednocześnie ograniczając współpracę z zewnętrznymi firmami moderującymi treści. Zmiany dotyczą wykrywania terroryzmu, materiałów z wykorzystaniem dzieci, handlu narkotykami, oszustw i scamów, a więc kategorii, gdzie stawka błędu jest najwyższa.

Firma zapowiada, że nowe systemy będą wdrażane stopniowo we wszystkich aplikacjach, dopiero gdy w testach wewnętrznych konsekwentnie przewyższą dotychczasowe metody. Według Mety algorytmy wykrywają nawet dwa razy więcej naruszeń w obszarze szkodliwych treści dla dorosłych, przy jednoczesnym spadku błędów o ponad 60 procent.

Walka ze scamami i przejęciami kont

Istotnym elementem jest ochrona przed oszustwami. Meta deklaruje, że systemy AI neutralizują około 5 tysięcy prób wyłudzenia danych logowania dziennie. Algorytmy analizują logowania z nietypowych lokalizacji, nagłe zmiany hasła i edycje profilu, a także podszywanie się pod celebrytów i znane marki.

W praktyce oznacza to podejście „profilowe": system ocenia nie pojedynczy post, lecz całe zachowanie konta w czasie.

Koniec outsourcingu moderacji?

Przez lata zewnętrzne firmy, jak Accenture, zatrudniały tysiące moderatorów do ręcznej oceny postów. Praca ta budziła kontrowersje związane z warunkami zatrudnienia i psychicznymi kosztami codziennego przeglądania szkodliwych treści. Teraz większą część tych zadań przejmuje AI. Ludzie mają pozostać przy najbardziej złożonych decyzjach - odwołaniach od blokad kont czy zgłoszeniach do organów ścigania.

Zmiana wpisuje się w szerszy zwrot Mety: firma zrezygnowała z zewnętrznego fact-checkingu na rzecz modelu w stylu „Community Notes", gdzie to użytkownicy wspólnie oznaczają wprowadzające w błąd treści. Zapowiadane jest też bardziej „spersonalizowane" podejście do treści politycznych w feedzie.

Presja prawna i regulacyjna

Ogłoszenie nie dzieje się w próżni. W USA trwają głośne procesy dotyczące wpływu mediów społecznościowych na dzieci, z zarzutem, że Meta od lat wiedziała o szkodliwym wpływie swoich produktów na zdrowie psychiczne młodzieży, ale nie wdrażała wystarczających zabezpieczeń.

W Europie unijne rozporządzenie DSA wymaga od dużych platform aktywnego wykrywania nielegalnych treści, ale jednocześnie nakazuje zachowanie ludzkiego nadzoru i realnych możliwości odwołań. Meta musi więc formalnie udokumentować mechanizmy kontroli, niezależnie od tego, ile pracy faktycznie przejmą algorytmy.

Reklamodawcy i użytkownicy pod lupą AI

Zmiany dotykają też reklamodawców. Reklamy są teraz skanowane wielowarstwowo, analizowany jest tekst, obraz, wideo, audio i strona docelowa. Brak oznaczenia treści AI lub podejrzane zachowanie konta może skutkować odrzuceniem kampanii. Reklamodawcy skarżą się, że system szybciej blokuje konta niż je przywraca, a odwołania są coraz trudniejsze.

Dla zwykłych użytkowników Meta zapowiada nowego asystenta wsparcia opartego na Meta AI,  dostępnego całą dobę w aplikacjach Facebooka i Instagrama, który ma pomagać m.in. w odzyskiwaniu kont i wyjaśnianiu decyzji moderacyjnych. Pytanie, czy będzie to realne ułatwienie, czy tylko kolejna warstwa automatycznych odpowiedzi.

Co to oznacza w praktyce?

Dla użytkowników i twórców nowy system oznacza bardziej zautomatyzowane środowisko, w którym coraz więcej decyzji zapada niewidocznie, na poziomie modeli analizujących setki sygnałów jednocześnie. Czy przyniesie realną poprawę bezpieczeństwa, czy raczej pogłębi algorytmiczną nieprzejrzystość - to jedno z kluczowych pytań dla debaty o roli platform w najbliższych latach.

Pobierz ebook "Wielki ranking agencji marketingowych 2026 roku i e-book o trendach w promocji w sieci"