Grupa Facebooka wprowadza do Europy narzędzia, które pomogą zidentyfikować posty osób wrażliwych: otwarta walka z samookaleczeniami i samobójstwami
Facebook i Instagram robią kolejny krok naprzód w zakresie wspierania złożonej kwestii zdrowia psychicznego. Konsolidując wysiłki podjęte już w ostatnich latach, dwie sieci społecznościowe postanowiły rozszerzyć regulację przeciwko treściom nawołującym do samobójstw i samookaleczeń na Unię Europejską.
Już w 2016 roku Facebook rozpoczął kampanię mającą na celu pomoc osobom zagrożonym samobójstwem i samookaleczeniami, wprowadzając anonimową usługę raportowania w celu szybkiej identyfikacji wszystkich tych szczególnie narażonych użytkowników. Z czasem działania te zostały rozszerzone na Instagram, który od tego czasu znajduje się pod egidą sieci społecznościowej. O ile jednak system ten obowiązuje już w wielu innych krajach, w Europie napotkał większe trudności, w szczególności ze względu na europejskie rozporządzenie o ochronie prywatności, które nie pozwala na działanie na takich treściach poprzez wykorzystanie wsparcia ludzkiego, czy to w celu rozpoznania, czy też zwrócenia się do grup wsparcia.
Facebook i Instagram, jak obecnie działają w przypadku ryzykownych treści
W celu identyfikacji potencjalnie niebezpiecznych postów, które - jak w tym przypadku - mogą podburzać osoby z problemami, opracowano system oparty na technologii zdolnej do rozpoznawania ryzykownych treści. Po zidentyfikowaniu, proces polega na przekazywaniu takich postów, zarówno w formie tekstowej, jak i fotograficznej, np. obrazków, rysunków, memów czy rzeczywistych zdjęć, do zespołu recenzentów składającego się z prawdziwych ludzi, a nie reprezentowanego przez sztuczną inteligencję.
Po przeanalizowaniu takich treści, zespół recenzentów może działać na kilka sposobów. W pierwszej kolejności zespół może podjąć decyzję o usunięciu postów lub zdjęć, a jeśli zostaną one uznane za bardziej ryzykowne, skontaktuje daną osobę z lokalnymi organizacjami, które mogą pomóc jej w rozwiązaniu tych problemów, a w razie potrzeby nawet ze służbami ratunkowymi.
I to właśnie nad tą ostatnią częścią pracuje Facebook, próbując znaleźć rozwiązanie z ustawodawcą, aby w końcu rozszerzyć swoje wsparcie na obywateli Europy, którzy do tej pory byli wykluczeni z tego typu pomocy.
Facebook i Instagram, numery alarmowe w sprawie samobójstw i samookaleczeń
Według Facebooka i Instagrama, systemy wykorzystywane do wykrywania postów o samobójstwach i samookaleczeniach dają już doskonałe rezultaty. Zgodnie z komunikatem, ponad 90 procent treści zidentyfikowanych w okresie od kwietnia do czerwca 2020 roku zostało rozpoznanych przez technologię, nawet zanim zgłosili je inni użytkownicy platform.
Obydwie platformy coraz bardziej się angażują i zdecydowały się również na udostępnienie usługi wsparcia dla osób poszukujących kont lub hashtagów związanych z tymi zagadnieniami. Współpracując ściśle z wieloma lokalnymi stowarzyszeniami pomocowymi, dwaj ważniacy z sieci społecznościowych chcą pełnić rolę łącznika między obiema stronami, zawsze w zgodzie z surowymi przepisami dotyczącymi prywatności obowiązującymi w Europie.