Facebook skorzystał z pomocy firmy zajmującej się analizą mediów społecznościowych, aby wyplenić fałszywe profile i znalazł kilka z wygenerowanymi przez komputer zdjęciami
Twardy cios Facebooka w walce z fałszywymi profilami. Sieć społecznościowa z siedzibą w Menlo Park postanowiła rozprawić się z obecnością fałszywych profili ze zdjęciami twarzy stworzonych przy użyciu sztucznej inteligencji, które według firmy Graphika zajmującej się analizą mediów społecznościowych były wykorzystywane głównie do rozpowszechniania rządowych przekazów propagandowych na platformie.
Ogłoszenie przez sieć społeczną przyszło we wtorek, wskazując, jak operacja obejmowała usunięcie 155 kont, 11 stron, dziewięciu grup na Facebooku i sześciu kont na platformie Instagram za "nieautentyczne skoordynowane zachowanie w imieniu podmiotu zagranicznego lub rządowego". Treści promowane przez te konta koncentrowały się w szczególności na wydarzeniach mających miejsce w Azji Południowo-Wschodniej i Stanach Zjednoczonych. Wśród najczęściej pojawiających się postów w pierwszej, największej grupie profili znalazły się te dotyczące interesów Pekinu na Morzu Południowochińskim i w Hongkongu, natomiast w drugiej, mniejszej od poprzedniej, znaleziono posty dotyczące przyszłych kandydatów na prezydenta USA Pete'a Battigie, Joe Bidena i Donala Trumpa, zarówno w tonie pro, jak i con.
Fałszywe profile na Facebooku: wyniki śledztwa
Aby lepiej zrozumieć i odzyskać kluczowe informacje na ten temat, Facebook wezwał firmę Graphika do przeprowadzenia dogłębnej analizy fałszywych profili przed ich zamknięciem i wysłaniem w zapomnienie.
Firma Graphika, powiązana z amerykańskim Departamentem Obrony, wyodrębniła w niektórych przypadkach szczególnie niepokojące dane, zwłaszcza w dziedzinie kradzieży tożsamości.
Fałszywe profile: skąd pochodzą zdjęcia użytkowników
W niektórych przypadkach Graphika odkryła, że zdjęcia profilowe były całkowicie autentyczne, ale skradzione z obrazów umieszczonych w sieci przez prawdziwych ludzi i łatwe do zidentyfikowania poprzez proces wyszukiwania wstecznego. W innych przypadkach badanie wykazało jednak, że fikcyjne postacie na portalu społecznościowym zostały stworzone przez Generative Adversial Networks (GANs), które wykorzystują uczenie sieci neuronowych do tworzenia wysoce realistycznych ludzkich twarzy, wiarygodnych dla ludzkiego oka.
Podejrzenia firmy co do wykorzystania GANs wzbudziło 12 zdjęć profilowych z nieprawidłowościami w wyglądzie. Obrazy przedstawiały zniekształcone tła lub elementy, które nie były całkowicie symetryczne, mimo że tak było w rzeczywistości, takie jak uszy i okulary. W celu dokładnego określenia charakteru zdjęć, firma prześwietliła obrazy po ich uprzednim zmatowieniu, co ujawniło nieprawidłowe ułożenie elementów.
Fałszywe profile i sztuczna inteligencja: nowy trend?
Aczkolwiek obserwacja pozwala na wykrycie fałszywych zdjęć profilowych i fałszywych profili, nie jest to pierwszy przypadek zgłaszania takich zachowań przez grupy o podejrzanych intencjach. Również we wrześniu 2020 r. inna sieć powiązana z rosyjską Agencją Badań Internetowych (IRA) próbowała tej samej sztuczki, aby promować fałszywą stronę PeaceData.