Przełomowy wyrok dla bezpieczeństwa dzieci. Meta ma przeznaczyć 567 mln dolarów na zdrowie psychiczne młodzieży

Amerykański sąd wydał jedno z najważniejszych dotąd orzeczeń dotyczących wpływu mediów społecznościowych na dzieci. Meta, właściciel Facebooka i Instagrama, ma wpłacić 567 mln dolarów do specjalnego funduszu przeznaczonego na profilaktykę i leczenie problemów psychicznych młodzieży w Nowym Meksyku. Sędzia nakazał również wprowadzenie szeregu dodatkowych zabezpieczeń na kontach niepełnoletnich użytkowników. Meta nie zgadza się z wyrokiem i zapowiada apelację.

Orzeczenie może mieć znaczenie znacznie wykraczające poza granice jednego amerykańskiego stanu. Ponad 40 stanów i 1300 okręgów szkolnych prowadzi bowiem podobne postępowania dotyczące wpływu platform społecznościowych na młodych ludzi. Prokurator generalny Nowego Meksyku Raúl Torrez określił decyzję sądu jako potencjalny wzór dla kolejnych działań.

Sąd uznał Facebooka i Instagrama za „publiczne zagrożenie”

Wyrok wydał sędzia Bryan Biedscheid z sądu stanowego w Santa Fe. Uznał on, że sposób funkcjonowania platform Meta stworzył w Nowym Meksyku tzw. public nuisance – pojęcie amerykańskiego prawa odnoszące się do działalności powodującej szkodę lub zagrożenie dla całej społeczności.

Dotychczas konstrukcja ta była wykorzystywana przede wszystkim w sprawach dotyczących m.in. zanieczyszczenia środowiska, przemysłu tytoniowego czy opioidów. W przypadku Meta sąd uznał, że konsekwencje działania platform nie ograniczają się wyłącznie do poszczególnych użytkowników, lecz obciążają również rodziny, szkoły, szpitale, system ochrony zdrowia i służby publiczne.

Sędzia porównał ten mechanizm do zanieczyszczeń wydostających się z fabryki – skutki nie pozostają w miejscu, w którym powstały, lecz rozprzestrzeniają się i wpływają na całe otoczenie.

Sąd podzielił argumentację władz Nowego Meksyku, według której niektóre elementy Facebooka i Instagrama zostały zaprojektowane w sposób zwiększający zaangażowanie młodych użytkowników, a stosowane zabezpieczenia nie chroniły ich wystarczająco m.in. przed seksualnym wykorzystywaniem w internecie. Meta zdecydowanie kwestionuje takie wnioski.

567 mln dolarów na leczenie i profilaktykę

Jednym z najważniejszych elementów orzeczenia jest nakaz utworzenia funduszu o wartości 567 mln dolarów, który ma zostać wykorzystany w Nowym Meksyku na przeciwdziałanie skutkom problemów związanych ze zdrowiem psychicznym młodzieży.

Pieniądze mają wspierać profilaktykę oraz leczenie dzieci i nastolatków. To rozwiązanie różni się od zwykłej kary finansowej – środki mają być przeznaczone bezpośrednio na działania mające ograniczać szkody, które według sądu powstały lub zostały pogłębione przez funkcjonowanie platform społecznościowych.

Kwota 567 mln dolarów nie jest jedyną konsekwencją tej sprawy. W marcu ława przysięgłych w pierwszej fazie postępowania nakazała Meta zapłatę 375 mln dolarów po uznaniu, że firma naruszyła przepisy ochrony konsumentów, przedstawiając bezpieczeństwo Facebooka i Instagrama dla młodych użytkowników w sposób wprowadzający w błąd.

Łącznie oba rozstrzygnięcia oznaczają obecnie 942 mln dolarów obciążeń związanych z postępowaniem w Nowym Meksyku. Meta zapowiedziała jednak odwołanie, dlatego spór prawny nie jest jeszcze zakończony.

Nastolatki mają dostać konkretne zabezpieczenia

Sąd nie ograniczył się do pieniędzy. Meta została zobowiązana do zmiany sposobu działania Facebooka i Instagrama wobec młodych użytkowników w Nowym Meksyku. Część nakazanych zabezpieczeń ma obowiązywać przez pięć lat.

Jedną z najbardziej widocznych zmian ma być limit korzystania z platform przez osoby poniżej 18. roku życia do 90 godzin miesięcznie. To średnio około trzech godzin dziennie. Sąd nakazał również zastosowanie bardziej rygorystycznej weryfikacji wieku użytkowników.

Ograniczone mają zostać również powiadomienia. Młodzi użytkownicy nie powinni otrzymywać ich w godzinach nocnych ani podczas zajęć szkolnych. Ma to ograniczyć sytuacje, w których aplikacje nieustannie przyciągają uwagę dziecka i zachęcają do sprawdzania telefonu.

Sąd przewidział także większą rolę rodziców. Między innymi wyświetlanie liczby polubień pod postami dziecka będzie wymagało zgody rodzica lub opiekuna.

Większa ochrona przed dorosłymi i niebezpiecznymi treściami

Kolejna grupa zmian dotyczy bezpieczeństwa kontaktów pomiędzy osobami dorosłymi i dziećmi.

Meta ma wprowadzić bardziej restrykcyjne zabezpieczenia ograniczające możliwość kontaktowania się dorosłych użytkowników z osobami niepełnoletnimi. Nakazano również usprawnienie sposobu analizowania zgłoszeń dotyczących materiałów przedstawiających seksualne wykorzystywanie dzieci.

Szczególną uwagę zwrócono również na sztuczną inteligencję.

Sąd nakazał uniemożliwienie dzieciom w Nowym Meksyku prowadzenia z chatbotami Meta rozmów o charakterze romantycznym lub seksualnym. Ograniczenia mają obejmować także możliwość wykorzystywania chatbotów przez osoby dorosłe do symulowania seksualizowanych rozmów z dziećmi.

Platformy mają ponadto automatycznie rozmywać zdjęcia podejrzewane o zawieranie nagości.

To ważny kierunek zmian, ponieważ coraz większą część interakcji młodych ludzi w internecie stanowią nie tylko kontakty z innymi osobami, ale również rozmowy z systemami generatywnej sztucznej inteligencji.

Nie wszystkie żądania władz zostały zaakceptowane

Nowy Meksyk domagał się jeszcze dalej idących zmian, jednak sąd nie przychylił się do wszystkich propozycji.

Sędzia odmówił między innymi nakazania przebudowy algorytmów rekomendacyjnych oraz usunięcia takich funkcji jak nieskończone przewijanie treści czy automatyczne odtwarzanie filmów. Uznał, że część proponowanych rozwiązań mogłaby naruszać konstytucyjną ochronę wolności wypowiedzi, zaszkodzić pozycji konkurencyjnej firmy albo kolidować z federalnym prawem.

Meta podczas procesu argumentowała ponadto, że część oczekiwanych przez stan zmian byłaby technologicznie bardzo trudna lub wręcz niemożliwa do wdrożenia.

Orzeczenie stanowi więc kompromis pomiędzy bardzo szerokimi żądaniami władz Nowego Meksyku a argumentami firmy dotyczącymi możliwości technicznych i przysługujących jej praw.

Meta zapowiada apelację

Firma nie zgadza się z oceną sądu i zamierza walczyć o zmianę orzeczenia.

– Nadal jesteśmy przekonani o skuteczności naszych działań na rzecz ochrony nastolatków w internecie i będziemy bronić się przed zarzutami, które przeinaczają fakty – przekazała Meta.

Spółka podkreśla, że od lat rozwija rozwiązania służące bezpieczeństwu dzieci i młodzieży, usuwa szkodliwe materiały oraz daje rodzicom coraz więcej możliwości kontrolowania sposobu korzystania z aplikacji przez nastolatków.

Meta wskazuje również, że problemy zdrowia psychicznego młodych ludzi są złożone i nie można przypisywać ich jednej technologii czy jednej firmie.

Rozstrzygnięcie sądu dotyczy obecnie wyłącznie Nowego Meksyku i samo w sobie nie oznacza automatycznego wprowadzenia podobnych zasad w pozostałych stanach USA.

„To nie tylko wyrok przeciwko jednej firmie”

Władze Nowego Meksyku patrzą na sprawę znacznie szerzej.

Prokurator generalny Raúl Torrez uważa, że orzeczenie może pokazać innym administracjom, w jaki sposób można wykorzystywać istniejące przepisy do wymuszania większej ochrony dzieci w mediach społecznościowych.

– To nie jest tylko wyrok przeciwko jednej firmie. To wzór. Teraz inne stany i inne kraje mierzące się z tym samym kryzysem mają drogę, którą mogą podążyć.

Słowa te mogą okazać się szczególnie ważne, ponieważ przeciwko firmom społecznościowym toczy się obecnie ogromna liczba podobnych postępowań.

Ponad 40 amerykańskich stanów oraz ponad 1300 okręgów szkolnych wystąpiło z pozwami dotyczącymi szkód, jakie – według powodów – platformy społecznościowe powodują wśród młodych ludzi.

Największy proces dopiero się rozpoczyna

Sprawa z Nowego Meksyku może być zaledwie początkiem znacznie większych zmian.

12 sierpnia rozpoczął się w Oakland w Kalifornii kolejny proces przeciwko Meta, tym razem związany z roszczeniami 29 stanów. To obecnie największy test prawny dotyczący odpowiedzialności mediów społecznościowych za sposób, w jaki korzystają z nich dzieci.

Stany zarzucają Meta między innymi projektowanie Facebooka i Instagrama w sposób mający utrzymywać dzieci przed ekranem, wprowadzanie konsumentów w błąd w kwestii bezpieczeństwa platform oraz niezgodne z prawem wykorzystywanie danych nieletnich. Meta odrzuca te zarzuty.

Proces ma potrwać około siedmiu tygodni. Zeznawać mają między innymi Mark Zuckerberg oraz szef Instagrama Adam Mosseri.

Stany domagają się nie tylko kar finansowych. Chcą również zmian, które mogłyby obowiązywać w całych Stanach Zjednoczonych, w tym mocniejszej weryfikacji wieku, ograniczenia powiadomień, limitów czasu dla młodzieży i usunięcia części mechanizmów zwiększających zaangażowanie.

Ważny sygnał dla całej branży technologicznej

Wyrok z Nowego Meksyku nie oznacza końca mediów społecznościowych ani zakazu korzystania z nich przez dzieci. Pokazuje jednak zmianę podejścia do odpowiedzialności technologicznych gigantów.

Przez wiele lat spory koncentrowały się przede wszystkim na tym, jakie treści publikują użytkownicy. Teraz sądy coraz częściej przyglądają się samemu projektowi aplikacji – sposobowi działania powiadomień, algorytmów, systemów rekomendacji, mechanizmów nagradzania użytkownika czy narzędzi mających maksymalizować czas spędzany przed ekranem.

Właśnie dlatego sąd w Nowym Meksyku odrzucił argument Meta oparty na Section 230, federalnym przepisie chroniącym platformy przed odpowiedzialnością za treści publikowane przez użytkowników. Sędzia uznał, że w tym przypadku postępowanie dotyczyło przede wszystkim własnych decyzji firmy dotyczących konstrukcji jej produktów.

Jeśli podobne podejście utrzyma się w kolejnych procesach, może znacząco wpłynąć na sposób projektowania serwisów społecznościowych.

Dzieci mają korzystać z technologii na bezpieczniejszych zasadach

Najbardziej pozytywnym elementem sprawy jest to, że dyskusja coraz wyraźniej przesuwa się z pytania, czy dzieci powinny korzystać z internetu, na pytanie jak sprawić, aby mogły robić to bezpieczniej.

Media społecznościowe mogą być miejscem rozwijania zainteresowań, utrzymywania relacji i zdobywania informacji. Jednocześnie dzieci są szczególną grupą użytkowników i nie zawsze dysponują mechanizmami pozwalającymi im równie skutecznie jak dorośli kontrolować własne zachowania.

Limit czasu, cisza w powiadomieniach podczas szkoły i w nocy, większa kontrola rodzicielska czy blokowanie niebezpiecznych interakcji z dorosłymi i chatbotami to rozwiązania, które mogą zmniejszyć część zagrożeń bez całkowitego odcinania młodych ludzi od świata cyfrowego.

Orzeczenie wobec Meta nie jest jeszcze końcem sprawy – firma zapowiada apelację. Jest jednak jednym z najmocniejszych dotychczas sygnałów wysłanych branży technologicznej przez amerykański wymiar sprawiedliwości.

Po raz pierwszy chodzi nie tylko o wielomilionową karę, lecz również o konkretne zasady zmieniające sposób korzystania przez dzieci z Facebooka i Instagrama. Jeśli rozwiązania okażą się skuteczne, sprawa z Nowego Meksyku rzeczywiście może stać się punktem odniesienia dla kolejnych państw i regulatorów.