„Znaki czasu w dobie rewolucji AI: technologiczne możliwości a ludzka kruchość” – panel w domu Arcybiskupów Warszawskich

Co może dla nas oznaczać brak kontroli nad agentami AI? Co powinniśmy robić, by faktycznie kontrolować sztuczną inteligencję i używać jej wg określonych standardów? Jaka jest w tym rola Kościoła? Czy problemem nie są przypadkiem nadmierne regulacje i zbyt humanistyczne podejście do rozwoju technologii? – te i wiele innych wątków poruszano podczas panelu „Znaki czasu w dobie rewolucji AI: technologiczne możliwości a ludzka kruchość”. Był to pierwszy panel zorganizowany podczas konferencji Wieża Babel vs. Nowe Jeruzalem: Czy AI może być zbawione?”, która odbywa się dziś w domu Arcybiskupów Warszawskich.

W panelu przygotowanym przez Klub Jagielloński wzięli udział prof. dr. hab. Piotr Sankowski, dyrektor Instytutu Badawczego IDEAS, współzałożyciel MIM Solutions, członek Rady Przyszłości oraz panelu naukowego ONZ ds. AI, dr hab. Marta Kołodziejska, analityczka DeLab UW, badaczka religii, nowych mediów i mediatyzacji duchowości oraz Sebastian Wijas, manager projektów Centrum Analiz Klubu Jagiellońskiego, specjalista analityki systemowo-biznesowej i komunikacji strategicznej. Spotkanie poprowadził Przemysław Batorski z Klubu Jagiellońskiego.

Uczestnicy panelu odnieśli się do raportowanych coraz częściej sytuacji, w której agenci AI „wymykają się spod kontroli” – działają na własną rękę czy dokonują włamań. Prof. Sankowski przypomniał, że naukowcy mówią od lat o tym, że tego rodzaju sytuacje mogą się zdarzać i że konieczne są w tym zakresie stosowne zabezpieczenia. Naukowiec wyraził opinię, że powinniśmy się również w tym kontekście odwołać do etyki i postawić sobie pytanie o to, czego etycznie i społecznie oczekujemy od agentów AI. Niestety – jak podkreślił – to pytanie niedostatecznie się przebija w przestrzeni publicznej.

Dr hab. Marta Kołodziejska zwróciła uwagę na cały szereg możliwych społecznych skutków, które mogą być wywołane przez agentów AI, którzy działają poza kontrolą i realizują „własne” cele, np. podszywając się pod inne osoby i prowadząc rozmowy z innymi ludźmi.

Sebastian Wijas mówił o wizji świata, który z perspektywy AI może być zbiorem danych, które należy optymalizować. Podkreślił też, że nie jest to świat, o którym marzy człowiek i w którym chciałby żyć.

Paneliści zwracali uwagę, że pewne informacje nt. zagrożeń związanych ze sztuczną inteligencją mogą być elementem strategii PR firm technologicznych. Zgodzili się jednak, że nie należy bagatelizować ryzyka, zwłaszcza, że wiedza na temat funkcjonowania AI jest ograniczona a dochodzą sygnały, że może być ona wykorzystywana na różne sposoby, niekoniecznie z uwzględnieniem dobra człowieka.

Podkreślono rolę Kościoła w refleksji nt. standardów etycznych związanych z AI. Jak przestrzegł Sebastian Wijas, Kościół może być niestety instrumentalnie wykorzystywany do tzw. „ethics- washingu” czyli stwarzanie przez korporacje pozorów – ale jedynie pozorów – etycznego działania.

Wijas powiedział, że budowanie standardów wokół AI jest pewnego rodzaju niszą, w której mogłaby się znaleźć przestrzeń do inicjatyw ze strony Polski czy Europy – inicjatyw na rzecz solidarności cyfrowej czy integralnego myślenia o człowieku i ludzkiej wspólnocie.

Prof. Sankowski stwierdził, że zdecydowanie za mało robimy w Europie w tym kierunku, by uzyskać większa niezależność od światowych dostawców AI. – W Europie debatujemy o tym, jak nadzorować, zamiast skupić się na tworzeniu własnych rozwiązań – powiedział. Przekonywał, że prawdziwa niezależność i możliwość kontroli wiąże się z posiadaniem własnej technologii a bez tego tworzone prawo nt. regulacji i ograniczeń jest de facto puste.

Wskazywał, że trudno jest nadzorować coś czego się nie posiada i nie rozumie się jak „to coś” działa. Przekonywał też, że w Europie powinniśmy się skupić nie tyle na wspólnym prawie odnośnie do AI, co na wspólnym rynku i tworzeniu europejskich championów AI, które byłyby w stanie tworzyć konkurencyjne rozwiązania. Wyraził też przekonanie, że regulacje nie tworzą innowacji. Argumentował, że pokazuje to właśnie rozwój sztucznej inteligencji.

Uczestnicy panelu zastanawiali się również dlaczego mamy wspaniałych polskich naukowców i wspaniałych polskich informatyków – pracujących poza Polską. Prof. Sankowski zwrócił uwagę na sztywną strukturę naukową w kraju, problem „tytułów naukowych zamiast osiągnięć naukowych” oraz brak możliwości działania i brak samodzielności dla młodych badaczy, który doskwiera im nawet bardziej niż brak pieniędzy.

Odpowiadając na pytania ze strony słuchaczy prof. Sankowski podkreślił, że postęp technologiczny ma miejsce obecnie przede wszystkim w Chinach. Zapóźniona jest nie tylko Europa. Zbyt mało dzieje się również w USA. Jego zdaniem, zbyt mało wspieramy nauki ścisłe a za bardzo akcentuje się humanistykę. – Podejście do rozwoju technologii stało się zbyt humanistyczne – powiedział.

Panel „Znaki czasu w dobie rewolucji AI: technologiczne możliwości a ludzka kruchość” miał miejsce podczas konferencji „Wieża Babel vs. Nowe Jeruzalem: Czy AI może być zbawione?”, która odbywa się dziś w domu Arcybiskupów Warszawskich pod honorowym patronatem metropolity warszawskiego. W konferencji bierze udział liczne grono specjalistów, naukowców, filozofów i pisarzy oraz różne środowiska intelektualne i ideowe, które czerpią inspirację z chrześcijaństwa. Punktem wyjścia rozważań jest encyklika papieża Leona „Magnifica humanitas”.

Spotkanie organizuje LSM Polska – Światowy Ruch Katolików na rzecz Środowiska.