Instagram chce walczyć z hejtem. Nowa funkcja ma pozwolić blokować obraźliwe komentarze

Instagram właśnie poinformował o wprowadzeniu funkcje, które mają pomóc w zwalczaniu mowy nienawiści. Dzięki "Limitom" (Limits) użytkownicy będą mogli zablokować wiadomości od konkretnych użytkowników i ograniczyć liczbę tych, którzy mogą im je wysyłać, a ich autorzy otrzymają ostrzeżenie.

Nowa funkcja ma też automatycznie ukrywać komentarze i wiadomości od osób, które nie obserwują – lub dopiero zaczęły obserwować – użytkowników, którzy ją włączyli i została zaprojektowana tak, by powstrzymać nadużycia ze strony dużej liczby osób, „którzy po prostu w danej chwili się narzucają", oświadczyli włodarze platformy.

Jako jeden z przykładów takich nadużyć, firma podała zmasowany rasistowski atak, jaki nastąpił o finale piłkarskich mistrzostw Europy. Wtedy, po porażce Anglii w karnych, na graczy, którzy nie wykorzystali szansy, w mediach społecznościowych wylała się fala ordynarnego, rasistowskiego hejtu, co nie mogło ujść uwadze nawet na najwyższych szczeblach władzy. 

Brytyjski rząd, w następstwie ataków, zapowiedział 10-letni zakaz wstępu na stadiony osobom, które atakują piłkarzy w Internecie, podobnie jak robił to w przypadku chuliganów. Boris Johnson poszedł jednak o krok dalej, informując, że firmy technologiczne zostaną ukarane grzywnami za niepowstrzymanie takich „podłych zachowań”.

W lipcu Instagram przyznał, że popełnił „błędy” w moderowaniu nadużyć, obiecując dokładniej przyjrzeć się swojemu systemowi oprogramowania. I choć to stanowisko godne szacunku, trudno też nie zwrócić uwagi na to, że na taka autorefleksję długo trzeba było czekać. Mowa nienawiści, nie tylko zresztą na Instagramie, wydaje się problem, z którym firmy technologicznie walczą bardzo opieszale. Bo owszem, wprowadzenie automatycznych rozwiązań, które sprawnie wykrywałyby nadużycia zanim wybiją one na powierzchnie z pewnością nie jest łatwe. Ale - z drugiej strony - automatycznie blokowanie treści uznanych za pornograficzne idzie zaskakująco sprawnie, o czym świadczy ostatni przypadek zablokowania plakatu promującego nowy film Pedro Almodovara. Były na nim widoczne kobiece sutki, co stanowi złamanie zasad dotyczących nagości. (Zakaz nie obejmuje sutków męskich, co sprowokowało powstanie ruchu #FreetheNipple i hashtagu na Instagramie, który jest używany przez wielu artystów i celebrytów).

Instagram przeprosił za nadgorliwość w tym przypadku, ale - wracając do mowy nienawiści - okazuje się, że może działać sprawnie i szybko. Funkcją "Limity" próbuje więc udowodnić, że nie tylko w walce z kobiecą nagością. 

Mamy nadzieję, że te nowe funkcje lepiej ochronią ludzi przed oglądaniem obraźliwych treści, czy to rasistowskich, seksistowskich, homofobicznych czy jakiegokolwiek innego rodzaju nadużyć. Wiemy, że jest jeszcze wiele do zrobienia, w tym ulepszenie naszych systemów, aby szybciej znajdować i usuwać obraźliwe treści oraz pociągać do odpowiedzialności tych, którzy je zamieszczają.

 

Limity mają blokować nagłą falę zmasowaną falę zainteresowania przez ograniczanie napływu niechcianych komentarzy i próśb o DM od osób, których nie znają. Dzięki niej będzie można wybrać użytkowników, z którymi chcemy się komunikować. Zablokowani nie będą mogli publikować komentarzy ani wysyłać próśb o czat przez dany - wybrany przez właściciela konta - czas.

Firma twierdzi też, że pracuje nas wykorzystaniem uczenia maszynowego do wykrywania nagłego wzrostu liczby komentarzy i wiadomości DM, aby  za pomocą powiadomienia - skłonić ludzi do włączenia Limitów.

Wyświetl ten post na Instagramie.

Post udostępniony przez Adam Mosseri (@mosseri)

A to nie wszystko. Kolejna funkcja, "Ukryte słowa" (Hidden words), też jest fazie produkcji. Ma ona automatycznie filtrować żądania zawierające obraźliwe słowa, frazy i emotikony i umieszczać je w ukrytym folderze, którego można nigdy nie wyświetlać. Instagram nie podaje listy słów, które blokuje, aby uniemożliwić ludziom granie w system, ale teraz zaktualizował tę bazę danych o nowe typy obraźliwego języka, w tym ciągi emotikonów – takich jak te, które były używane do nadużywania piłkarzy – i uwzględnił je w filtrze.