Spam-boty, sztuczni śledzący i boty pomagierzy: o fałszywych kontach internecie
W świecie zaludnionym przez 7,8 miliarda ludzi sam Facebook usuwa co kwartał 1,5 miliarda kont. 99% z nich – jak twierdzi – udaje mu się usunąć zanim zobaczy je użytkownik. Statystyki usunięć wyglądają więc imponująco, ale prawdopodobnie wyłapywane są przede wszystkim profile tworzone automatycznie. Jeden program może bowiem tworzyć miliony kont. Zarówno Facebook jak i Twitter coraz lepiej radzą sobie z wyłapywaniem tego rodzaju aktywności. Jako że próby zakładania tych kont są blokowane już na poziomie procesu rejestracji, to właśnie te konta odpowiadają za statystyki podawane do publicznej wiadomości. One też zapewniają pozytywne nagłówki w materiałach informacyjnych. Ile wspólnego mają jednak te statystyki z prawdziwą skalą problemu?
Platformy społecznościowe wyczulone są na drastyczne treści. Ich algorytmy dość sprawnie wyłapują rożnego rodzaju oszustwa sieciowe, treści istotne z p. widzenia dobra ogólnoświatowego, jak dezinformacja nt. pandemii czy treści przedstawiające drastyczne obrazy przemocy.
źródło: https://transparency.facebook.com/community-standards-enforcement#fake-accounts
Narzędzia wprowadzone do rozpoznawania tego rodzaju treści całkiem nieźle działają w materiałach anglojęzycznych. Często jednak nie potrafią wyłapać skrajnie antagonizujących treści podanych w mniej popularnych językach. Czy Polska, nie będąca w top-20-tce krajów z największą liczą użytkowników na platformie Facebook, może liczyć na podobne nakłady na rozpoznawanie niebezpiecznych treści, co kraje ze znacznie większą bazą użytkowników?
źródło: https://www.statista.com/statistics/268136/top-15-countries-based-on-number-of-facebook-users/
Pracując na co dzień z klientami widzimy, że platformy największy problem mają z wyłapywaniem fałszywych kont tworzonych przez prawdziwe osoby.
Konta te można podzielić według następujących kategorii:
• Wyłudzanie środków finansowych. Są to przede wszystkich profile zachęcające do różnego rodzaju rozwiązań inwestycyjnych lub zachęcające do brania pożyczek krótkoterminowych
• Treści skrajnie antagonizujące. Są to to profile pokazujące informacje, które mają za zadanie spolaryzować czytelników
• Treści deprecjonujące, czyli przede wszystkim profile pokazujące firmę lub osobę w skrajnie negatywnym świetle
• Treści budujące fałszywe przekonanie pozytywne, a więc budujące fałszywe wrażenie poparcia dla określonej osoby lub firmy
Mechanizm rozpowszechniania tych treści jest w zasadzie zawsze podobny. Mamy więc:
• Główne spam boty, czyli konta rozpowszechniające treści
• Fałszywe konta śledzące, czyli konta, które same nie publikują, ale służą tylko do tego by budować tzw. sztuczne zainteresowanie
• Boty wspomagające, czyli konta, które odpowiadają na komentarze publikowane przez inne boty.
To jest samonapędzająca się maszyna. Fałszywe konta publikują fałszywe treści, które są lubiane przez tysiące fałszywych kont.
Zanim platforma zauważy…
Mechanizmy wykorzystywane do rozpowszechniania treści są zazwyczaj podobne. Zakłada się kilkadziesiąt profili mających szansę na zdobycie popularności, czyli np. strony dotyczące zdrowia, sportu, spędzania wolnego czasu itp. Następnie przy pomocy różnego rodzaju kampanii reklamowych kieruje się do nich ruch. To właśnie przy pomocy kampanii sprowadza się do tych profili „prawdziwych” użytkowników. Po pewnym czasie zamyka się te konta, które nie zadziałały, a zostawia te najaktywniejsze. Następnie zaczyna się na nich publikować – poza treściami tematycznymi, również treści na których zależy oszukującemu. W postach zaczynają się więc pokazywać zachęty do kliknięcia np. w określoną platformę inwestycyjną czy zapoznania się z ofertą super pożyczki. W związku z tym, że profil istnieje od jakiegoś czasu i nie rozpowszechnia na początku żadnych treści kontrowersyjnych, algorytmy platform społecznościowych nie wyłapują tego rodzaju treści jako fałszywych. Z tego samego powodu nie działa też automatycznie zgłaszanie tego rodzaju profili lub kont.
To właśnie z tego powodu zanim platforma zauważy, że tego rodzaju treści nadają się do usunięcia maja sporo czasu.
Media społecznościowe stosują też inne metody, by rozpoznać fałszywe konto. W sytuacji, gdy podróbki nie noszą oczywistych cech bota, to oprogramowanie firm szuka innych wskazówek. Mogą to być np. konta, które tę samą wiadomość wysyłają do wielu nieznajomych. Ale to podejście jest też niedoskonałe i działa tylko w przypadku niektórych rodzajów fałszywych kont.
Kolejne zasieki
Dlatego też wprowadzane są ciągle nowe zabezpieczenia mające na celu ograniczenie skali występowania problemu.
Np. Twitter w styczniu 2021 roku wprowadził dodatkowe mechanizmy na rzecz wyeliminowania części fałszywych kont. Platforma zaczęła wymagać przy rejestracji podania numeru telefonu.
Nie łudźmy się jednak, że platformy społecznościowe będą utrudniać sobie pozyskiwanie użytkowników. To przecież na podstawie liczby aktywnych kont wyceniana jest ich wartość. Do określonych grup użytkowników sprzedawana jest też reklama. Im jest ich więcej, tym lepiej można „ich” sprzedać.
Poza wymogiem podawania większej ilości danych, jednym ze sposobów radzenia sobie z fałszywymi kontami jest też proszenie użytkowników o zgłoszenia lub korzystanie ze zgłoszeń firm takich jak nasza, które pomagają w porządkowaniu przestrzeni internetowej.
Coraz wyraźniej widać też, że strategia polegająca na zgłoszeniach użytkowników sprawdza się na rynkach nieanglojęzycznych.
Strategia ta jest znacznie bardziej wydajna i opłacalna dla firm. Oznacza ona również, że im większe jest zainteresowanie fałszywym kontem, tym większe prawdopodobieństwo, że zostanie ono oznaczone jako wymagające dodatkowej analizy.
Jak w takim razie rozpoznać fałszywe konto ?
Przede wszystkim fikcyjne konta mają wielu znajomych, ale nie przekłada się to w żaden sposób na ilości informacji przez nie udostępnianych. Konta tego typu wysyłają tysiące zaproszeń do zupełnie przypadkowych osób licząc na to, że ktoś zaakceptuje ich automatycznie. Często konta te jako zdjęcia profilowe mają ustawione awatary lub obrazy uniemożliwiające identyfikację danej osoby.
Zdjęcia na tych profilach pochodzą też głownie ze stocków internetowych lub wykorzystują mechanizmy do tworzenia sztucznych zdjęć.
Od razu po przedostaniu się do przestrzeni społecznościowej, konta te nie mają jeszcze żadnych zdjęć i postów, a sama nazwa jest tworzona w sposób zautomatyzowany.
Prawie na pewno botem jest też konto, którego nikt nie śledzi. Jeśli więc zauważymy, że jakieś konto obserwuje setki kanałów, ale samo nie jest śledzone, to prawdopodobnie jest to konto fałszywe.
Jeszcze kilka lat temu za jedną z oznak fałszywego konta uważano przesłankę, iż nie zawiera ono żadnych informacji w bio. Obecnie coraz częściej użytkownicy tego rodzaju informacji po prostu celowo nie wpisują. Nie należy więc tego w żaden sposób traktować jako wyznacznika fałszywości.
Za to charakterystyczną cechą fałszywych kont jest to, że po porostu wrzucają codziennie sporo postów. Często te posty mają im przynieść bezpośrednie korzyści. Można więc w nich znaleźć np. linki do witryn rozsiewających fałszywe informacje.
Dla przykładu Twitter jest zapchany kontami, które po ograniczeniach związanych z dostępem do API i wprowadzeniu ograniczeń dotyczących liczby kanałów, które można obserwować, przestały po prostu działać. Oznacza to, że konta te nie publikowały nic od miesięcy.
Dlatego też istotnym wyznacznikiem tego, czy konto jest prawdziwe, czy też nie jest jego sygnatura czasowa. Jeśli konto nie opublikowało nic od kilku lat, to prawdopodobnie jest to konto już nieobsługiwane lub fałszywe.
Społeczności charakteryzują się komunikacją zwrotną. Jeśli więc zauważysz mnóstwo osób obserwujących z zagranicy o dziwnych nickach lub same komentarze typu: cute, nice itp. – powinno dać Ci to do myślenia.
(Nie)skromne statystyki
Serwisy społecznościowe szacują, że na ich platformach jest od 5%-15% fałszywych kont. Według naszych obserwacji liczba ta jest dużo wyższa. W przypadku niektórych profili prowadzonych przez firmy lub celebrytów obserwujemy, że liczba fałszywych kont może sięgać nawet ponad 50%.
Na pewno też sztuczne profile tworzone przez ludzi są dużo bardziej szkodliwe niż boty. Przede wszystkim wyglądają one dużo „profesjonalniej”. W końcu, aby konto przeszło proces weryfikacji i mogło skutecznie szerzyć dezinformację, po prostu musi wyglądać na wiarygodne.
Same firmy technologiczne stoją w obliczu tak wielu zagrożeń, że muszą podejmować trudne decyzje dotyczące problemów, nad którymi mają pracować. Czasami trudna praca polegająca na wykorzenieniu każdego fałszywego konta w mało popularnym, języku jest po prostu z ich punktu widzenia bezzasadna. Dlatego też wybierając konta do współpracy komercyjnej polecam zwracać uwagę na opisane przeze mnie mechanizmy. Przede wszystkim weryfikujmy skąd celebryta piszący w języku polskim zyskuje nagle tysiące obserwujących z innych krajów, dlaczego komentarze są w dużej mierze jednosłowne lub – czy wszystkie zdjęcia wrzucane przez celebrytów mają podobną responsywnosić.
