Facebook wprowadził nowy algorytm, który automatycznie usuwa wszystkie fałszywe konta. Oto jak to działa i kogo dotyczy
Może Facebook w końcu znalazł sposób na pozbycie się fałszywych profili i różnego rodzaju trolli, a jest to niezwykle skomplikowana metoda zwana "Deep Entity Classification" (DEC). Wyniki? Świetnie, według Facebooka: 6,6 mld fałszywych profili usuniętych w 2019 r.
Zachwycające wyniki, do tego miliony prób tworzenia fałszywych profili są codziennie tłumione w zarodku, znów dzięki DEC. Liczby, które pośrednio wskazują również, jak ogromny jest przemysł fałszywych profili na portalach społecznościowych. Przede wszystkim Facebook, ale nie tylko Facebook. Facebook odpowiedział na tak wielkie wyzwanie równie wielkim algorytmem: wewnątrz DEC znajduje się ponad 20 tysięcy parametrów analizowanych dla każdego profilu, aby mieć pewność, że legalny profil nie jest usuwany, a jednocześnie, aby algorytm był znacznie trudniejszy do oszukania.
Facebook DEC: jak to działa
Pierwsze "antyfake'owe" algorytmy Facebooka brały pod uwagę kilka parametrów, takich jak ilość próśb o przyjaźń wysłanych w danym okresie przez podejrzany profil. Pierwszą rzeczą, jaką robi się z fałszywym profilem, jest wysyłanie błyskawicznych zapytań do użytkowników na całym świecie. Jednakże, było to łatwe dla przemysłu fałszywych profili do przeprogramowania strategii poprzez rozprzestrzenianie próśb o znajomych tak, aby ominąć filtr. Jednak w przypadku DEC, Facebook bierze pod uwagę nie tylko sieć znajomych profilu i wysłane prośby o dodanie do znajomych, ale także te same parametry zastosowane do kontaktów analizowanego profilu.
DEC sprawdza także przynależność profilu do grupy, codzienną aktywność, prywatne wiadomości i wiele innych parametrów, aby upewnić się, że profil przeznaczony do usunięcia jest rzeczywiście fałszywy.
Facebook DEC: ryzykowne zachowania
Facebook twierdzi, że szacunkowa liczba fałszywych profili na portalu społecznościowym nie przekracza dziś 5%, co jest poniekąd fizjologiczne i wynika z faktu, że nie można zbytnio zacieśniać uścisku algorytmu, bo ryzykuje się uśmiercenie prawdziwych profili z podejrzanymi zachowaniami. Na przykład w zeszłym roku sieć społecznościowa zlikwidowała 900 fałszywych stron, grup i profili, które wykorzystywały bardzo wyrafinowane metody do szerzenia propagandy pro-trumpowskiej: zdjęcia profilowe generowane przez algorytmy sztucznej inteligencji, złożona sieć symulowanych relacji, interakcji, polubień i wzajemnych udostępnień, a przede wszystkim centrum dowodzenia w Wietnamie, które tym wszystkim zarządzało. Takie zachowanie jest wyraźnie zagrożone i prędzej czy później powinno spotkać się z ciosem topora ze strony nowej klasyfikacji głębokich podmiotów.