Algorytmy, strach i konsensus: sieć, która kradnie naszą przyszłość

W książce „Something Went Wrong” (Coś poszło nie tak) Riccardo Luna analizuje metamorfozę technologii cyfrowej: od narzędzia łączności i demokratyzacji do urządzenia zdolnego do podsycania strachu, polaryzacji i uwarunkowań politycznych. Ta nieneutralna zmiana, będąca wynikiem konkretnych wyborów przemysłowych, podważa również etyczną i antropologiczną odpowiedzialność za wykorzystanie sztucznej inteligencji.

Na początku mamy złamaną obietnicę: sieć zaprojektowana, by łączyć odległe brzegi, z czasem przekształciła się w pułapkę mogącą zagrozić dobrobytowi ludzkości. „Something Went Wrong”, najnowsza książka Riccarda Luny, który wydała włoska oficyna Solferino, nawiązuje do tej cichej metamorfozy: przejścia technologii na „ciemną stronę”, która przekształciła sieci społecznościowe i sztuczną inteligencję z narzędzi łączności w urządzenia do oddziaływań psychologicznych, społecznych i politycznych.

Od sieci jako obietnicy do algorytmów uwagi

Luna pisze jak insider. Był jednym z pierwszych we Włoszech, którzy dostrzegli potencjał sieci jako „broni masowej konstrukcji”, zdolnej do rozszerzenia praw i demokratyzacji dostępu do wiedzy. Sedno książki tkwi jednak w tym, gdy ta obietnica zostaje wykorzystana w innym celu: maksymalizacji czasu użytkowników w sieci, monetyzacji uwagi i pozyskiwania danych. To właśnie tutaj algorytmy przestają być neutralne.

Mechanizm jest znajomy, ale niepokojący: strach, gniew i oburzenie generują więcej zaangażowania niż refleksja; lęk trwa w nas dłużej niż spokój; konflikt jest cenniejszy niż złożoność. Kanały – strumień treści – są zatem kształtowane tak, aby nagradzać te najbardziej ekstremalne i uproszczone, nie dlatego, że są prawdziwe, ale dlatego, że działają. Przejście od kanałów chronologicznych do algorytmicznych – świadomy i przemyślany wybór – ostatecznie zmieniło zbiorowe postrzeganie rzeczywistości.

Strach, populizm i zniekształcona rzeczywistość

Doskonałym przykładem jest bezpieczeństwo. Chociaż dane wskazują na spadek przestępczości w wielu krajach, media społecznościowe przedstawiają coraz bardziej niebezpieczny świat. To wywołuje powszechny, lecz bezpodstawny strach, żyzny grunt dla populistycznych narracji, które wzywają do stawiania murów, permanentnych stanów wyjątkowych i poświęcania wolności w zamian za ochronę. To nie rzeczywistość generuje konsensus, ale jej zniekształcony obraz.

Luna nie zwalnia wielkich firm technologicznych z odpowiedzialności. Wręcz przeciwnie, podkreśla ich szczególną odpowiedzialność: skutki te były znane. Badania wewnętrzne, niezależne badania i skargi byłych pracowników już wykazały wpływ algorytmów na zdrowie psychiczne – zwłaszcza wśród nastolatków – i na jakość debaty publicznej. Dowody te zostały zignorowane, ponieważ były niezgodne z modelem biznesowym. Wybór przemysłowy, który ignorował etykę.

Riccardo Luna to włoski dziennikarz specjalizujący się w innowacjach technologicznych, technologiach cyfrowych i zrównoważonym rozwoju, znany jako pierwszy redaktor włoskiego wydania amerykańskiego magazynu „Wired”.

Pokolenie „lękliwych”

Do najbardziej znaczących stron należą te poświęcone nastolatkom, pierwszym i najbardziej bezbronnym odbiorcom tego ekosystemu. Sieci społecznościowe, jak pisze Luna, wywarły głęboki wpływ na budowanie tożsamości, napędzając uzależnienia, lęk przed wystąpieniem, izolację i ciągłe narażanie się na osąd innych. To nie przypadek, że w różnych częściach świata toczą się dziś poważne postępowania sądowe przeciwko firmom takim jak Meta, Google, Apple i Microsoft, oskarżonym o brak ochrony dzieci, naruszenia prywatności, praktyk antykonkurencyjnych i nieprzestrzeganie europejskich przepisów, począwszy od ustawy o rynkach cyfrowych. Jednocześnie wiele krajów wprowadza ograniczenia dostępu nieletnich do sieci społecznościowych: od Australii, gdzie po raz pierwszy na świecie wprowadzono ogólnokrajowy zakaz dla dzieci poniżej 16. roku życia, po Francję i rosnącą „koalicję wolontariuszy cyfrowych” w Europie, co świadczy o rosnącej świadomości, którą trudno odwrócić.

Algorytmy i demokracja pod presją

Książka łączy również tę zmianę z najbardziej destrukcyjnymi skutkami politycznymi: od psychologicznego profilowania wyborców, przez sprawę Cambridge Analytica (skandal polityczny w drugiej dekadzie XXI wieku, w którym dane osobowe ok. 87 milionów użytkowników Facebooka zostały zebrane bez ich zgody i wiedzy przez brytyjską firmę konsultingową Cambridge Analytica, głównie w celu targetowania reklam politycznych, przyp. KAI), po systematyczne wykorzystywanie mediów społecznościowych jako narzędzi polaryzacji. Algorytmy stają się zatem centralnymi graczami w życiu demokratycznym, bez żadnego demokratycznego mandatu.

Autor przypomina również o politycznej i ekonomicznej odpowiedzialności, jaka towarzyszyła tej zmianie. Luna opisuje stopniowe przenikanie się władzy publicznej i wielkich firm technologicznych, szczególnie w Stanach Zjednoczonych, gdzie platformy i instytucje znalazły wspólny język między interesami geopolitycznymi a bezpieczeństwem narodowym. Sojusz ten często gwarantował firmom cyfrowym znaczną ochronę przed prawnymi konsekwencjami ich wyborów, a jednocześnie sprzyja rozszerzaniu sztucznej inteligencji ze sfery cywilnej na wojskową, od nadzoru po zautomatyzowane zarządzanie konfliktami.

Magisterium, odpowiedzialność i kwestia antropologiczna

W tym kontekście Luna rozważa swoje rozważania na temat papieskiego nauczania. Luna wspomina, jak papież Franciszek w 2014 roku nazwał internet „darem od Boga”, uznając jego potencjał w kontaktach międzyludzkich. Jednak w ostatnich latach swojego pontyfikatu jego spojrzenie stało się bardziej czujne i krytyczne: Franciszek potępił „zbiorowe zniekształcanie rzeczywistości” przez media społecznościowe i „dyskredytowaniu drugiego”, gdy inni stają się wrogami.

Orędzie papieża Leona XIV na Światowy Dzień Środków Społecznego Przekazu również podąża tą ścieżką, wzywając do odpowiedzialności algorytmów zaprojektowanych w celu maksymalizacji zaangażowania, zdolnych osłabiać krytyczne myślenie i zwiększać polaryzację, wkraczając w najintymniejsze sfery życia ludzi. Stąd apel o etyczne regulacje dotyczące sztucznej inteligencji, aby chronić godność człowieka i dobro wspólne.

Sieci społecznościowe, jak zauważa Luna, dawno przestały być prawdziwie społeczne. Stały się sieciami w czystej postaci: „spersonalizowanymi infrastrukturami rozrywki”, maszynami zdolnymi do samotnego zajmowania uwagi miliardów ludzi. Nie miejscami spotkań, lecz ekosystemami emocjonalnej konsumpcji.

W posłowiu teolog i etyk, czołowy ekspert w dziedzinie sztucznej inteligencji o. Paolo Benanti przypomina nam, że problem nie jest wyłącznie technologiczny, ale antropologiczny. Technologia nigdy nie jest neutralna: każda architektura cyfrowa ucieleśnia wizję ludzkości i jej relacji. Bezkrytyczne delegowanie naszych zdolności maszynom oznacza stopniowe wyrzeczenie się odpowiedzialności za bycie człowiekiem.

Jeśli coś poszło nie tak, jak sugeruje książka, to nie dlatego, że przyszłość została utracona, ale dlatego, że przestaliśmy ją chronić. A ochrona przyszłości dzisiaj oznacza przywrócenie głębi czasowi, prawdy komunikacji i twarzy relacjom. W hiperpołączonym świecie kluczowym wyzwaniem nie jest pozostanie online, ale pozostanie człowiekiem.