Kościoły ostrzegają przed wykorzystaniem sztucznej inteligencji w wojnie

We wspólnej deklaracji 226 organizacji wzywa do zaprzestania wykorzystywania sztucznej inteligencji dla celów militarnych; sygnatariusze chcą zapobiec temu, aby decyzje o życiu i śmierci były coraz częściej sprowadzane do zaleceń maszyn i całkowicie osłabione obowiązki człowieka.

Państwa i firmy technologiczne nie powinny już stawiać sztucznej inteligencji (AI) do dyspozycji w celach wojskowych w tzw. „łańcuchu zabijania”. Takie żądanie wyraziło we wspólnej deklaracji 226 sygnatariuszy z organizacji pozarządowych, środowiska akademickiego i sektora technologicznego, w tym Światowa Rada Kościołów. Deklaracja została opublikowana w Genewie z okazji kończącej dziś obrady konferencji Biura Narodów Zjednoczonych ds. Rozbrojenia (UNODA) na temat AI w sferze wojskowej i jej konsekwencji dla bezpieczeństwa międzynarodowego. W ogłoszonej na początku czerwca encyklice „Magnifica humanitas” papież Leon XIV wezwał do „rozbrojenia” AI.

Wspólna deklaracja ostrzega, że wojna wspierana przez AI może w coraz większym stopniu przyczyniać się do „umożliwienia szybkiego i masowego zabijania”, a jednocześnie brakuje wystarczających mechanizmów technicznych lub regulacyjnych, aby skutecznie ograniczyć wynikające z tego zagrożenia dla międzynarodowego prawa humanitarnego. Dlatego sygnatariusze domagają się zaprzestania dostarczania takich systemów do wykrywania celów wojskowych i podejmowania decyzji o ataku. Ponadto firmy powinny zapewnić, że ich produkty nie przyczyniają się, bezpośrednio ani pośrednio, do naruszeń praw człowieka oraz zbrodni wojennych; w przypadku braku takiej gwarancji, odpowiednie umowy nie powinny być zawierane lub muszą zostać rozwiązane.

Krytyka wynika z obawy, że systemy sztucznej inteligencji mogą podważyć kluczowe zasady międzynarodowego prawa humanitarnego, w szczególności zasady rozróżniania, proporcjonalności i zabezpieczania. Doniesienia medialne oraz oficjalne oświadczenia, w tym ze strony amerykańskiego sektora obronnego, a także oceny izraelskich systemów wojskowych, wskazują, że pozyskiwanie celów wspomagane sztuczną inteligencją znacznie zwiększyło szybkość i zasięg operacji wojskowych. Zwiększa to ryzyko, że ludzka odpowiedzialność w decyzjach o życiu lub śmierci ulegnie rozmyciu, a ataki zostaną zalegalizowane pod wpływem obiektywizmu algorytmicznego, podkreślają sygnatariusze deklaracji.

Szczególnie problematyczne jest wykorzystanie w wojskowych procesach decyzyjnych dużych modeli językowych (LLM). Według sygnatariuszy, mogą one przyspieszyć wybór celów i ich kolejność stając się w efekcie zautomatyzowanymi mechanizmami autoryzacji operacji śmiercionośnych, nawet przy zachowaniu formalnego nadzoru ze strony człowieka. Oświadczenie ostrzega, że w takich sytuacjach ludzka kontrola staje się coraz bardziej formalnością, zwiększając ryzyko masowych ofiar i systematycznych naruszeń prawa. Brak przejrzystości w wielu systemach sztucznej inteligencji utrudnia również jednoznaczne przypisanie odpowiedzialności prawnej i moralnej w przypadku błędnych decyzji.

Sygnatariusze dokumentu apelują zatem do państw o zakazanie stosowania sztucznej inteligencji (AI), w tym modeli językowych o dużej skali, w wojskowych procesach namierzania i atakowania celów oraz o ujawnienie zakresu, w jakim takie technologie są już wykorzystywane. Natomiast firmy nie powinny zawierać umów z podmiotami wojskowymi, chyba że można wykluczyć, że ich systemy naruszają międzynarodowe prawo humanitarne. Celem jest zapobieżenie sytuacji, w której decyzje o życiu lub śmierci będą coraz częściej redukowane do rekomendacji maszyn, a  zostaną faktycznie pozbawione znaczenia obowiązki człowieka do zachowania należytego zachowania.