Prof. Surma: najbardziej dramatyczne konsekwencje zastosowania AI są dopiero przed nami

To, co Leon XIV pisze na temat sztucznej inteligencji jest absolutnie przekonywujące i ważne dla każdego we współczesnym świecie – uważa prof. Jerzy Surma, komentując papieską encyklikę „Magnifica humanitas”. Zdaniem badacza z Instytutu Informatyki i Gospodarki Cyfrowej SGH w Warszawie, AI stanowi ogromne wyzwanie dla ludzkości, zaś najbardziej dramatyczne konsekwencje jej zastosowania są dopiero przed nami. W rozmowie z KAI ekspert przyznaje też, że jest pod wrażeniem dogłębności analizy zaprezentowanej w encyklice.

Tomasz Królak (KAI): Sztuczną inteligencją zajmuje się Pan profesor zawodowo, więc nie mogę się doczekać pierwszego wrażenia po lekturze encykliki Leona XIV…

Prof. Jerzy Surma: Mówiąc szczerze, kiedy dowiedziałem się, że taka encyklika ma zostać wydana, to pomyślałem, że jest na to za wcześnie, bo jeszcze nie znamy kluczowych konsekwencji związanych rozwojem sztucznej inteligencji. Uważałem, że papież trochę się pospieszył, bo przecież Kościół, zanim się wypowie, powinien mieć dłuższe, głębsze rozpoznanie danego obszaru. Byłem więc nieco zaniepokojony. Tymczasem, kiedy tylko zacząłem tę encyklikę przeglądać, szybko zorientowałem się, że w kontekście aktualnego stanu wiedzy na temat rozwoju AI jest to analiza bardzo dojrzała i głęboka. I to mnie pozytywnie zaskoczyło. Bo “Magnifica humanitas” faktycznie dobrze opisuje to, co aktualnie wiemy na temat rozwoju sztucznej inteligencji, bez mainstreamowej egzaltacji i ogólnego nad nią zachwytu. Jest to więc fakt niezwykle pozytywny.

Bardzo spodobało mi się zaznaczenie przez Leona XIV, że Kościół nie lęka się spotkania z ludzką wiedzą, jak również zachęta skierowana do wiernych, by zapoznawali się z nowymi technologiami i otaczającą rzeczywistością. Uważam, że to jest bardzo dobre, żeby w kontekście niesamowitej rewolucji cyfrowej, jaka dokonuje się na naszych oczach, nie stać z boku, tylko konfrontować się z tym, co ich otacza. To jest niejako rada skierowana przez papieża do każdego członka Kościoła: poznaj te technologie, spróbuj je zrozumieć i wykorzystaj w swoim życiu w sposób racjonalny i rozsądny.

Zwróciłbym też uwagę na bardzo silne zaakcentowanie, że każdy postęp naukowo-techniczny musi być skorelowany z aspektem moralnym; że nie można rozdzielać tych dwóch rzeczywistości i że rozwój technologii wymaga także zadumy i pauzy niezbędnej do dokonania refleksji natury etycznej. Jeśli bowiem tego zabraknie, to zachodzi wysokie prawdopodobieństwo, że człowiek stanie się tej technologii ofiarą.

Z umiarkowanym entuzjazmem oceniam zawartą w encyklice próbę zdefiniowania czym w ogóle jest sztuczna inteligencja, co wynika z mojej wrażliwości na kwestie definicyjne. Ważna jest bowiem precyzja w określaniu tego, o czym w ogóle mówimy. W odniesieniu do AI papież używa pojęcia “hodowania” pisząc dosłownie, że “współczesne systemy sztucznej inteligencji są bardziej ‘hodowane’ niż ‘konstruowane’”. Słowo hodowla wygląda mi tu trochę dziwnie. Faktem jest, że w maszynowym uczeniu, bo te systemy są oparte właśnie na nim, mówimy że je trenujemy. Papież pisze o ich “hodowaniu”. Ok, niech będzie, choć mówiąc szczerze sformułowanie to jest bardziej literacką konwencją niż opisem naukowym.

Istotne jest natomiast spostrzeżenie, że jeśli jest tak, że systemy te podlegają procesowi trenowania, to działanie modelu końcowego – czyli sztucznej sieci neuronowej – jest trudne do wyjaśnienia i interpretacji. Dobrze, że papież zwraca uwagę, że w przypadku AI mamy do czynienia z algorytmem, czystą maszyną przetwarzającą symbole. Systemy te nie mają zatem odczuć, w tym takich jak miłość.  Owszem, poprzez mechanizm algorytmu mogą one symulować coś, co my odbierzemy jako przyjaźń, empatię czy miłość właśnie, ale jednak systemy tego typu nie odczuwają – są maszynami. Dobrze, że zostało to wyartykułowane wprost.

Wspomniał Pan o swoim początkowym odczuciu, że na encyklikę wokół AI jest za wcześnie. Mnie się wydaje, że powstała w sam raz, bo przecież od dłuższego już czasu nowe technologie, w tym AI, stanowią ogromne wyzwanie dla ludzkości. I to w wielu wymiarach.

– Zgoda, ale odwołam się do przykładu Internetu, który też jest tego typu rewolucyjną technologią ogólnego przeznaczenia (general purpose technology). Pierwsze sieci społecznościowe powstają w okolicy roku 2005, a więc dwie dekady temu. Potrzebowaliśmy tych 20 lat, żeby po zachwycie tą technologią dostrzec bez złudzeń, jak dramatyczny jest wpływ mediów społecznościowych na polaryzację społeczeństw czy destrukcyjny wpływ na rozwój dzieci, na młodzież. Ten czas był potrzebny żeby dostrzec i zrozumieć realne zagrożenia związane z Internetem. Natomiast w kontekście AI trzeba sobie uświadomić, że jesteśmy dopiero na początku drogi i jeszcze nie widać jej najbardziej dramatycznych konsekwencji. Wychodząc z takiego właśnie założenia, sądziłem, że na encyklikę poświęconą sztucznej inteligencji jest co nieco za wcześnie. Niemniej zagrożenia, które są już widoczne, punktowane są bardzo trafnie.

Widać, że tekst powstał w oparciu o dogłębne konsultacje w bardzo profesjonalnych kręgach.

– Pierwsze, co zrobiło na mnie przy lekturze spore wrażenie, to dogłębność zaprezentowanej  analizy. Na przykład tam, gdzie podejmuje się refleksję na temat dużych modeli językowych (large language models) stwierdzając, że sprawiają one wrażenie obiektywności oraz umożliwiają konwersację w języku naturalnym. Autor wskazuje, że to jest ułuda i że te systemy tak naprawdę odzwierciedlają czy też są jakby pochodną wizji świata, w tym etyki, twórców tych systemów, właścicieli globalnych korporacji cyfrowych itd. Bardzo się cieszę, że zostało to wyartykułowane tak wprost. A jest to istotne tym bardziej, że prowadząc różne wykłady na ten temat mam poczucie, że ludzie kompletnie tego nie widzą. Nie rozumieją, że AI nie przedstawia prawdy obiektywnej, lecz dobór zbiorów treningowych i sposób budowy danego modelu powoduje to, że model funkcjonuje w takim a nie innym systemie etycznym i określonym systemie widzenia świata jego twórców, a następnie przekazuje go użytkownikowi.

Istotne jest też zaznaczenie, że, komunikacja “proponowana” przez AI dokonuje się w języku naturalnym. Proszę zwrócić uwagę, że do tej pory w języku naturalnym rozmawialiśmy tylko z drugim człowiekiem. Nie mówię tu o jakichś komendach kierowanych na przykład do psa, bo to nie jest tak naprawdę komunikacja na partnerskich zasadach. I teraz faktycznie jesteśmy w stanie komunikować się z maszyną w języku naturalnym. Czym to skutkuje? Złudzeniem relacji, iluzją obcowania z osobą ludzką, a to z kolei stanowi olbrzymie zagrożenie. Encyklika precyzyjnie je opisuje wskazując, że po pierwsze wchodzimy w świat ułudy, bo faktycznie po drugiej stronie nie ma istoty z emocjami, z empatią, z uczuciami lecz jest maszyna, algorytm. Niemniej zagrożenie jest potężne, a polega ono na możliwości manipulowania człowiekiem przy zastosowaniu różnych socjotechnik, co także zostało opisane w dokumencie.

Kolejne zagrożenie polega na możliwości utraty pragnienia bycia w rzeczywistej relacji z drugim człowiekiem. Czyli że może nastąpić przesunięcie od relacji człowiek-człowiek, które jest często trudne, ułomne, także z uwagi na emocje, na rzecz relacji człowiek-maszyna, które z kolei może być bardzo sympatyczne, długotrwałe i precyzyjnie spersonalizowane tak “na zimno” do pragnień i potrzeb danej osoby. Tymczasem, jak wskazuje Leon XIV, “nie możemy uważać AI za moralnie neutralną”.

I apeluje: “Jesteśmy wezwani, by postawić sobie pytanie o wielki plac budowy naszej epoki: co właściwie wznosimy?” Czy uważa Pan, że papieska argumentacja i prośby o namysł etyczny wokół zastosowań AI zostaną wysłuchane? Że trafią do tych, którzy są odpowiedzialni za rozwój i wdrażanie sztucznej inteligencji we wszystkie już praktycznie dziedziny ludzkiego życia?

– To jest chyba zagadnienie fundamentalne. Innymi słowy, czy to, co robi papież w tej encyklice, nie jest aby wołaniem na puszczy? W tym sensie, że owszem, wypada się odnieść do rewolucji sztucznej inteligencji, ale w sumie to niewiele będzie znaczyć? Cóż, warto zaznaczyć, że twórcy generatywnej sztucznej inteligencji o zagrożeniach wymienionych w encyklice także piszą i wspominają. Jest nawet cały dział badań związany z bezpieczeństwem zastosowań sztucznej inteligencji, zwany alignment, zajmujący się dopasowaniem generatywnej sztucznej inteligencji do określonych celów, zasad etycznych i przepisów. Właśnie w tym kontekście na swoich wykładach mówię studentom, że my te duże modele językowe „wychowujemy”. Z tym, że jak zaznacza się w encyklice, zasady owego dopasowania, polityki, przepisy i tak dalej, stworzone są przez twórców tych systemów, zatem odzwierciedlają ich punkt widzenia, etyki, moralności. Dlatego papież pisze wprost, że te kryteria muszą być jasne i publicznie ujawnione, a nie skrywane jak to się obecnie dzieje.

Wierzy Pan profesor, że teraz zostaną ujawnione i wyartykułowane? Przez tych, którzy za przyszłość sztucznej inteligencji są odpowiedzialni?

– Nie, bo to jest wbrew długofalowym interesom big tech’ów, natomiast papież w tej encyklice stawia kropkę nad i apelując o stworzenie mechanizmów kontroli, ograniczeń czyli ekosystemu regulacyjnego, który, chcąc nie chcąc, będą musiały respektować firmy zajmujące się zastosowaniami i rozwojem sztucznej inteligencji.

Papieski dokument zawiera też inne rozsądne rekomendacje. Wskazuje na przykład na rolę rodziny, wychowania, kształcenia – zarówno w domu, jak i w szkole. To niesłychanie istotne, bo sztuczna inteligencja wiąże się z powstaniem nowych, rewolucyjnych wręcz wyzwań jeśli chodzi o wychowanie i system edukacyjny, który na chwilę obecną jest na to zupełnie nieprzygotowany.

Bardzo ujął mnie punkt 213 encykliki, w której papież cytuje fragment “Władcy Pierścieni” Tolkiena: “Ale nie do nas należy panowanie nad wszystkimi falami przepływającymi przez ten świat; my mamy za zadanie zrobić, co w naszej mocy, dla tej epoki, w której żyjemy, wytrzebić chwasty ze znanego nam pola, aby przekazać następcom rolę czystą, gotową do uprawy”.

Myślę, że w ten sposób papież stara się powiedzieć: nie do nas należy panowanie nad wszystkimi wyzwaniami przepływającymi przez ten świat – naszym zadaniem jest zrobić, co w naszej mocy, w zakresie spraw, na które mamy realny wpływ w tym czasie, w którym żyjemy. Czyli zachęca nas do pielęgnowania zdrowego realizmu: rozpoznaj tę nową technologię, nie bądź obojętny, zobacz na co możesz mieć dzisiaj wpływ i roztropnie działaj.

Bardzo podoba mi się ta zachęta i próba wskazania ludziom, że nawet poprzez filozofię małych kroków można zmieniać świat na lepsze i że trzeba to robić. Przed nami bowiem, nie ma co kryć, stoi ogromne wyzwanie związane z rozwojem technologii AI. Wyzwanie, przy którym ostatnie trzy dekady rozwoju Internetu będziemy wspominać jako „spokojne”, dobre czasy.

Powiedział Pan, że najbardziej dramatyczne skutki wdrażania sztucznej inteligencji są dopiero przed nami. Jak można je sobie wyobrazić? 

– Myślę przede wszystkim o militarnych zastosowaniach sztucznej inteligencji, o czym zresztą także jest mowa w encyklice. Chodzi o powstawanie systemów autonomicznych, zakładających, że w pętli decyzyjnej nie ma człowieka, a więc decyzja podejmowana jest w sposób autonomiczny przez systemy, ze skutkami o charakterze kinetycznym.

A więc: jest atak, giną ludzie, ale udowodnienie tego konkretnej, odpowiedzialnej za to osobie staje się problematyczne lub wręcz niemożliwe, bo ta osoba gdzieś wyparowuje, jej odpowiedzialność mocno się zaciera…

– Właśnie. W encyklice dosłownie jest napisane, że nie wolno powierzać systemom sztucznej inteligencji decyzji śmiercionośnych. Cieszę się, że to tak jednoznacznie wybrzmiało, ale faktem jest, że to się już zaczęło dziać; że tego typu systemy są budowane. Mamy do czynienia z olbrzymim wyścigiem zbrojeń pomiędzy Stanami Zjednoczonymi a Chinami. Nie sądzę, żeby to, co napisał Leon XIV ten galop zatrzymało, ale być może przynajmniej niektórzy decydenci się opamiętają?

Mnie się wydaje, że nie. Niemniej godny uwagi wydaje mi się fakt, że żadna instytucja, żaden autorytet indywidualny ani instytucjonalny nie dokonał tak gruntownej i przekonującej analizy wyzwań związanych z AI jak głowa Kościoła katolickiego w “Magnifica humanitas”. I to analizy, która jest ważna zarówno dla wierzących jak i, ośmielę się powiedzieć, całej ludzkości.

– Trafił pan w sedno. Czytam w tygodniu multum tekstów, wpisów, refleksji, artykułów na temat sztucznej inteligencji. I muszę powiedzieć, że brakuje w nich dokładnej, systemowej oceny moralnej tego, co się dzieje. A odnajduje to w encyklice. Za niesamowicie ważne uważam fakt, że jest to analiza tak dobra i głęboka, że wśród osób profesjonalnie zajmujących się nowymi technologiami nie dostrzegam jakiegoś takiego żachnięcia, że papież nie rozumie, co się dzieje. Wręcz przeciwnie, nawet wczoraj czytałem wpisy na LinkedIn autorstwa Yoshuy Bengio, a więc jednego z najbardziej wpływowych badaczy sztucznej inteligencji. Otóż wprost odwołuje się on do tej encykliki, pisząc z uznaniem, że nawet papież podejmuje temat regulacji AI.

Trzeba też powiedzieć, że większość spraw, które papież podejmuje w encyklice, dla większości ludzi są sprawami absolutnie nieoczywistymi, niewyobrażalnymi, po prostu ludzie sobie ich nie uświadamiają. Powtórzę więc, że bardzo się cieszę, że zostały wyartykułowane w sposób mocno osadzony merytorycznie, że zostało to zrobione na takim poziomie.

I na koniec. Pomijając dwa pierwsze rozdziały, w których papież bardziej wprost odwołuje się do wiary katolickiej i do nauki społecznej Kościoła, dalsze części, dotyczące wprost AI może czytać każdy, nie tylko chrześcijanin, a nawet nie tylko osoba wierząca. Bo zawarte tam treści są absolutnie przekonywujące i ważne dla każdego we współczesnym świecie.

***
Dr hab. Jerzy Surma jest profesorem w Instytucie Informatyki i Gospodarki Cyfrowej Szkoły Głównej Handlowej w Warszawie. Specjalizuje się w inteligentnych systemach wspomagania decyzji oraz zastosowaniach i bezpieczeństwie sztucznej inteligencji.