Meta ogłasza nowe narzędzia do walki z wymuszeniami na tle seksualnym i publikowaniem zdjęć intymnych

Meta zaprezentowała szereg nowych funkcji bezpieczeństwa zaprojektowanych w celu ochrony użytkowników, w szczególności młodych ludzi, przed wymuszeniami na tle seksualnym i nadużywaniem publikowania nagości.

Gigant mediów społecznościowych – właściciel Facebooka, Instagrama i WhatsApp – potwierdził, że rozpocznie testowanie filtra nagości w wiadomościach bezpośrednich  na Instagramie.

Ta funkcja, zwana ochroną przed nagością, będzie domyślnie włączona dla osób poniżej 18 roku życia i automatycznie zamazuje obrazy wysyłane do użytkowników, które zostaną wykryte jako zawierające nagość, lepiej chroniąc użytkowników przed zobaczeniem niechcianej nagości w ich czacie.

Po otrzymaniu nagich zdjęć użytkownicy zobaczą także komunikat wzywający ich, aby nie odczuwali presji, aby odpowiadać, oraz opcję zablokowania nadawcy i zgłoszenia czatu.

Po włączeniu filtra osoby wysyłające zdjęcia zawierające nagość zobaczą także komunikat przypominający o zachowaniu ostrożności podczas wysyłania wrażliwych zdjęć i będą miały możliwość wycofania tych zdjęć.

Narzędzie wykorzystuje uczenie maszynowe na urządzeniu do analizy, czy obraz zawiera nagość, co oznacza, że będzie działać w całkowicie zaszyfrowanych czatach, a Meta twierdzi, że zobaczy jakiekolwiek obrazy tylko wtedy, gdy użytkownik zdecyduje się zgłosić je firmie.

Narzędzie ma również zabezpieczać młodych użytkowników przed wymuszeniami finansowymi na tle seksualnym.

Gigant mediów społecznościowych oświadczył, że testuje nową technologię wykrywania, aby pomóc zidentyfikować konta potencjalnie zaangażowane w oszustwa związane z wymuszeniami na tle seksualnym i ograniczyć ich zdolność do interakcji ze wszystkimi, a zwłaszcza młodszymi użytkownikami.

Meta powiedziała, że prośby o wiadomości z tych podejrzanych kont będą kierowane bezpośrednio do ukrytego folderu żądań użytkownika.
W przypadku młodszych użytkowników na podejrzanych kontach nie będzie już widoczny przycisk „Wiadomość” w profilu nastolatka, nawet jeśli są już połączeni, a firma testowała ukrywanie młodszych użytkowników tych kont na listach obserwujących, aby utrudnić ich znalezienie.

Meta dodała, że testuje także nowe wyskakujące wiadomości dla osób, które mogły mieć kontakt z takimi kontami, kierując je do wsparcia i pomocy, jeśli tego potrzebują.

Ponadto firma podała, że rozszerza współpracę z innymi platformami, aby udostępniać szczegóły dotyczące kont i zachowań naruszających zasady bezpieczeństwa dzieci w ramach utworzonego w zeszłym roku programu Lantern.