Gianluigi Ballarani: to człowiek powinien podejmować decyzje a nie AI

Rozwój sztucznej inteligencji nie może prowadzić do pogłębiania nierówności społecznych ani do koncentracji technologicznej władzy w rękach nielicznych. Potrzebne są wspólne zasady, które pozwolą wykorzystać potencjał AI z korzyścią dla całej ludzkości – podkreślił prof. Gianluigi Ballarani z Uniwersytetu w Pawii. Uczestnik międzynarodowej konferencji „Global Nobel Laureates Assembly on Artificial Intelligence and Nuclear War” w rozmowie z mediami watykańskimi odniósł się do przesłania encykliki „Magnifica humanitas”.

Aż trzydziestu laureatów Nagrody Nobla, byli szefowie państw oraz około 200 wybitnych osobistości ze świata nauki, polityki i badań nad sztuczną inteligencją spotkali się 14 i 15 lipca w Borgo Laudato si’ w Castel Gandolfo, aby dyskutować na temat AI i wojny nuklearnej.

Rewolucja antropologiczna, wartości i technologia nuklearna

Jak podkreślił prof. Ballarani, Papież w swojej encyklice „zabrał głos w sprawie być może najważniejszego wyzwania naszych czasów i nie potraktował sztucznej inteligencji jedynie jako nowej technologii, lecz jako rewolucję antropologiczną”. Według Ojca Świętego AI nie jest wyłącznie narzędziem, ale zjawiskiem, które stawia pod znakiem zapytania i na nowo definiuje naszą rolę w społeczeństwie – zauważył naukowiec.

Jedną z ważnych i delikatnych kwestii dotyczących sztucznej inteligencji jest dostosowanie jej działania do ludzkich wartości. „Tworzymy infrastrukturę, która zaczyna w niewidoczny sposób przenikać całe społeczeństwo. Wpływa na nasze życie, często nawet tego nie zauważamy, a jednocześnie jest wykorzystywana do coraz bardziej autonomicznego podejmowania decyzji. Właśnie z tego powodu połączenie sztucznej inteligencji z technologiami nuklearnymi jest tak delikatnym zagadnieniem i dlatego poświęcamy mu obrady podczas tej konferencji. Gdyby maszyna mogła samodzielnie podjąć decyzję o zrzuceniu bomby, znaleźlibyśmy się w ogromnym niebezpieczeństwie” – przyznał włoski ekspert.

Bezpieczeństwo i konflikty zbrojne

Prof. Ballarani, zapytany o zabezpieczenia systemów sztucznej inteligencji, przyznał, że istnieje ryzyko ich obejścia: „Istnieją całe zespoły specjalistów, które zajmują się właśnie tymi aspektami sztucznej inteligencji, ponieważ należą one do najbardziej niebezpiecznych”. W jego ocenie kwestia ta wymaga wypracowania odpowiednich zasad. „Z jednej strony istnieje ryzyko, że AI, dążąc do rozwiązania określonego problemu, mogłaby uznać za konieczne, na przykład, zgładzenie ludzi. Z drugiej strony, nawet jeśli system został zaprogramowany tak, aby nie używać broni, można próbować obejść te zabezpieczenia za pomocą odpowiednio sformułowanych poleceń, przedstawiając je jako grę lub fikcyjną historię i w ten sposób skłonić system do wydania polecenia użycia broni” – powiedział wykładowca Uniwersytetu w Pawii. Jak zaznaczył, nie chodzi tylko o to, aby uniemożliwić AI wykonywanie określonych działań, ale „zrozumieć, jak zapobiec sytuacji, w której człowiek zostanie pozbawiony wpływu na podejmowane decyzje”.

Sztuczna inteligencja jest już dziś wykorzystywana w konfliktach zbrojnych: „Wspiera analizę danych wywiadowczych, wskazuje potencjalne cele do ataku oraz proponuje sposoby ich rażenia” – potwierdził profesor. Jak zaznaczył, zawsze podkreśla się, że to człowiek ma w tych działaniach moc decyzyjną.

„Mam nadzieję, że również takie wydarzenia jak to przyczynią się do wypracowania wspólnego standardu zasad, zgodnie z którym to człowiek będzie zawsze ponosił odpowiedzialność za każdą decyzję podejmowaną z udziałem sztucznej inteligencji” – powiedział prof. Gianluigi Ballarani.

Transhumanizm

Naukowiec, zapytany o to, czy encyklika „Magnifica humanitas” może stać się drogowskazem dla programowania i wykorzystywania sztucznej inteligencji, zwłaszcza w tak wrażliwych obszarach, odpowiedział, że zdecydowanie jest ona moralnym kompasem i powinna być traktowana jako ważny punkt odniesienia. „Papież wypowiedział się o tej nowej technologii w sposób niezwykle przenikliwy i nowoczesny” – przyznał.

W encyklice Ojca Świętego czytamy o dwóch nurtach, które „postrzegają postęp jako przekroczenie tego, co ludzkie, a które możemy określić jako transhumanizm i posthumanizm”. Naukowiec, odwołując się do pierwszego pojęcia, wyjaśnił, że „transhumanizm to nurt, który zakłada rozwój człowieka prowadzący do przekroczenia biologicznych ograniczeń ludzkiej natury”. Jak podkreślił, proces ten już się rozpoczął. „Dziś niemal każda czynność wykonywana przez człowieka wiąże się z wykorzystaniem technologii – nowszych lub starszych, bardziej lub mniej zaawansowanych, bardziej lub mniej inteligentnych. Już teraz wzmacniamy nasze zdolności poznawcze, choć na razie odbywa się to za pomocą zewnętrznych urządzeń. Aby zwiększyć nasze możliwości myślenia, wciąż potrzebujemy smartfonów, komputerów czy innych narzędzi. Sądzę jednak, że w przyszłości technologia będzie coraz bardziej integrować się z człowiekiem, podobnie jak już dziś dzieje się to za pośrednictwem telefonów, inteligentnych zegarków, okularów, soczewek kontaktowych czy implantowanych chipów” – wyjaśnił.

Demokratyzacja sztucznej inteligencji

Magnifica humanitas zwraca również uwagę na osoby szczególnie narażone, które są wykluczone z procesów rozwoju technologicznego i pozostają poza zasięgiem nowych technologii. Prowadzi to do pogłębiania przepaści między tymi, którzy mogą korzystać z możliwości AI, a tymi, którzy nie mają do nich dostępu.

Włoski profesor przypomniał, że rozmowy podczas konferencji w dużym stopniu dotyczyły zarówno suwerenności technologicznej, jak i demokratyzacji sztucznej inteligencji. „Trzeba bowiem jasno powiedzieć, że AI przynosi korzyści w sposób asymetryczny. Oznacza to, że ci, którzy kontrolują najbardziej zaawansowane modele, zyskują znacznie większą przewagę niż ci, którzy ich nie posiadają. Może to prowadzić do skrajnej koncentracji, w której zaledwie kilka firm będzie kontrolować światowy potencjał poznawczy” – przyznał, dodając, że sztuczna inteligencja nie może stać się narzędziem dostępnym wyłącznie dla nielicznych.

Otwarte technologie dają nadzieję

Profesor dostrzegł również pozytywne zjawiska. W jego ocenie coraz dynamiczniej rozwijają się rozwiązania typu open source, które mogą sprawić, że zaawansowane narzędzia sztucznej inteligencji staną się bardziej dostępne.

Wyjaśnił, że wraz z rozwojem komputerów i urządzeń mobilnych modele AI będą stopniowo stawały się bardziej wydajne, lżejsze i mniej wymagające pod względem mocy obliczeniowej. Dzięki temu coraz więcej osób będzie mogło korzystać z nich lokalnie, bez konieczności uzależnienia od największych światowych platform technologicznych.

Wspólne reguły zamiast technologicznego wyścigu

Pytany o rolę polityki i instytucji publicznych, prof. Ballarani podkreślił, że ich zadaniem jest wyznaczanie kierunku rozwoju oraz tworzenie wspólnych zasad odpowiedzialnego wykorzystywania sztucznej inteligencji. Jednocześnie przyznał, że powołanie jednego światowego organu zarządzającego AI wydaje się dziś mało realne.

„Już teraz obserwujemy rywalizację między Stanami Zjednoczonymi a Chinami. Każde spowolnienie wynikające z regulacji po jednej stronie może stać się okazją do przyspieszenia po drugiej” – zauważył. Mimo to porozumienie wokół podstawowych norm jest konieczne. W jego przekonaniu sztuczna inteligencja, podobnie jak broń atomowa, wywiera ogromny wpływ na przyszłość świata i wymaga odpowiedzialnego podejścia całej społeczności międzynarodowej.

Ważny głos Stolicy Apostolskiej

Prof. Ballarani zaznaczył, że właśnie w tym kontekście szczególnego znaczenia nabiera głos Kościoła. „Watykan zabrał głos w sposób godny zapamiętania, podobnie jak uczynił to kiedyś w sprawie broni atomowej. Sztuczna inteligencja ma równie przełomowy wpływ na świat i dlatego potrzebujemy wspólnych zasad dla dobra ludzkości” – powiedział.

Jego zdaniem przesłanie Leona XIV przypomina, że rozwój technologiczny nie może być celem samym w sobie. Powinien zawsze pozostawać podporządkowany godności osoby ludzkiej, dobru wspólnemu i odpowiedzialności za przyszłe pokolenia.