Propozycje rozwiązań

W związku z tym, że do tej pory nie były publicznie dostępne informacje na temat użycia w pełni autonomicznych AWS, na nieformalnym spotkaniu w 2016 roku delegacje przywołały IV Protokół do Konwencji CCW z 1995 roku. Pomimo że nie było informacji o użyciu oślepiającej broni laserowej, Protokół został przyjęty, wprowadzając zakazy i ograniczenia związane z tym środkiem walki¹⁹³.

W 2017 roku państwa wyraziły wolę opracowania dokumentu, chociaż nie udało się osiągnąć zgody co do wprowadzenia nowego aktu prawnego dotyczącego AWS.

Wśród możliwości pojawiła się umowa międzynarodowa w postaci VI protokołu do Konwencji CCW, która wprowadzałaby prewencyjny zakaz AWS. W związku z powyższym wyrażono potrzebę przyjęcia moratorium poświęconego wykorzystaniu AWS. Inne opcje dotyczyły deklaracji politycznej, a w przyszłości Kodeksu Zachowania (ang. Code of Conduct). Państwa uznały jednak, że było jeszcze za wcześnie na podejmowanie daleko idących rozwiązań w formie aktów prawnych. Podkreśliły znaczenie odpowiedzialnego wprowadzania innowacji w dziedzinie uzbrojenia, jak również to, że prace GGE nie powinny wpływać na cywilne wykorzystanie nowych technik¹⁹⁴. Podczas sesji poświęconej kwestiom prawnym i etycznym zwrócono uwagę na to, że prawo jest tworzone dla ludzi, więc odpowiedzialność za naruszenie prawa nie może zostać przeniesiona na maszyny.

Dobrym rozwiązaniem mogłoby okazać się przyjęcie standardów przewidywalności i rzetelności systemów z autonomicznością w sprawowaniu funkcji krytycznych. Jeśli państwa nie zdecydują się na uregulowanie użycia AWS, będzie potrzebne doprecyzowanie interpretacji istniejących norm, w tym MPH¹⁹⁵.

Zostały złożone następujące propozycje dotyczące rozwiązania problemu AWS:

1) wprowadzenie prawnie wiążącego instrumentu, który odnosiłby się do zakazów i ograniczeń związanych z AWS¹⁹⁶;

193 Tamże, s. 4.

194 W cywilnym wykorzystaniu systemy autonomiczne funkcjonują na przykład w medycynie, instrumentach ochrony środowiska czy w wykonywaniu niektórych zadań przez państwo.

195 GGE, Report of the 2017 Group of Governmental Experts on Lethal Autonomous Weapon Systems (Geneva, 13-17.11.2017), 20.11.2017, CCW/GGE.1/2017/CRP.1 (dalej: GGE, Report 2017), s. 8, 11.

196 GGE, Proposal for a mandate to negotiate a legally-binding instrument that addresses the legal, humanitarian and ethical concerns posed by emerging technologies in the area of lethal autonomous weapon

system, Presented by Austria, Brazil and Chile, 29.09.2018,

http://reachingcriticalwill.org/images/documents/Disarmament-fora/ccw/2018/gge/documents/29August_Proposal_Mandate_ABC.pdf (10.01.2020).

58 2) przyjęcie deklaracji politycznej, która określałaby istotne zasady związane

z użyciem AWS. Zaliczono do nich kontrolę człowieka podczas użycia siły, jak również jego odpowiedzialność. Ponadto, zasugerowano możliwość wprowadzenia mechanizmów zapewniających przejrzystość i przegląd uzbrojenia;

3) dalsze kontynuowanie dyskusji nad AWS, w szczególności nad relacją pomiędzy człowiekiem a maszyną, jak również zakresem zastosowania istniejących obowiązków międzynarodowych;

4) brak konieczności podjęcia dalszych środków, z uwagi na to, że MPH jest w pełni stosowane do AWS¹⁹⁷.

Nową propozycją, wysuniętą w 2019 roku, było wynegocjowanie niewiążącego dokumentu dotyczącego kwestii technicznych. Ten dokument miałby składać się ze zbioru istotnych norm prawa międzynarodowego oraz dobrych praktyk przyjętych przez państwa w związku z AWS¹⁹⁸. Miałoby to stanowić rozwiązanie na wzór Dokumentu z Montreux z 2008 r., który dotyczy zaangażowania prywatnych firm wojskowych i ochroniarskich w konflikcie zbrojnym. Ten Dokument nie jest prawnie wiążący, ale zawiera zbiór istotnych obowiązków międzynarodowych oraz dobrych praktyk. Jest to międzyrządowy dokument zmierzający do promowania poszanowania dla MPH i międzynarodowego prawa praw człowieka w razie obecności prywatnych firm wojskowych i ochroniarskich w konflikcie zbrojnym. Zgodnie z Dokumentem, jego celem nie jest jednak przyjęcie nowej regulacji¹⁹⁹. W 2014 roku zostało stworzone specjalne forum, będące platformą wymiany i dyskusji nad dobrymi praktykami oraz wyzwaniami dotyczącymi regulowania prywatnych firm wojskowych i ochroniarskich²⁰⁰.

197 GGE, Report 2017, s. 11.

198 GGE, Report of the 2019 Addendum: Chair’s summary of the discussion of the 2019 GGE, 08.11.2019, CCW/GGE.1/2019/3/Add.1, s. 6.

199 The Montreux Document on the pertinent legal obligations and good practices for States related to operations of private military and security companies during armed conflict, 17.09.2008, “Journal of Conflict and Security Law”, 2008, vol. 13, nr 3, s. 451-475.

200 Na temat Montreux Document Forum: https://www.mdforum.ch/ (10.01.2020).

59

Podsumowanie

Dyskusja tocząca się w grupie ekspertów na forum CCW uwidacznia trudności związane z przyjęciem nowej umowy międzynarodowej. Za pozytywne należy uznać zwiększenie przejrzystości procedur. Każda z sesji jest bardzo dobrze udokumentowana, co pozwala na zapoznanie się ze stanowiskami państw dotyczącymi kluczowych zagadnień, takich jak sposób realizacji obowiązku przeglądu prawnego, stosunek do legalności AWS oraz użycia środków i metod walki. W rozmowy są zaangażowane nie tylko państwa, ale szeroko rozumiane społeczeństwo obywatelskie. W spotkaniach zorganizowanych do tej pory od samego początku uczestniczą przedstawiciele sił zbrojnych, eksperci z zakresu nauk prawnych, robotyki, sztucznej inteligencji, jak również MKCK i organizacje pozarządowe.

Debata zwykle jest podzielona na kilka odrębnych sesji, z których każda dotyka innych problemów związanych z AWS (m.in.: kwestie techniczne, zagadnienia prawne, wątpliwości etyczne, mechanizmy przejrzystości).

Co warte zaznaczenia, w spotkaniach na forum Konwencji CCW państwa nie potrafią zająć jednoznacznego stanowiska względem definicji i cech charakterystycznych AWS.

O ile problem zdefiniowania AWS oraz zakresu kontroli sprawowanej przez człowieka powoduje znaczne rozbieżności pomiędzy państwami, o tyle przynajmniej odpowiedzialność państwa za użycie broni zgodnie z prawem międzynarodowym jest jedną z najbardziej oczywistych w dyskusjach na forum Konwencji CCW. Od samego początku raporty, najpierw z nieformalnych spotkań, a następnie z posiedzeń GGE, nie zawierają informacji o sprzeciwie wobec pierwszorzędnej odpowiedzialności państwa za użycie środka lub metody walki.

Większe kontrowersje budzi indywidualna odpowiedzialność karna oraz odpowiedzialność producenta, programisty i innych podmiotów zaangażowanych w tworzenie AWS. Reżim prawny dotyczący odpowiedzialności za ewentualne naruszenia MPH związane z użyciem AWS wydaje się zatem oczywisty, choć żaden uczestnik nie wskazał na konkretne rozwiązania w realizacji odpowiedzialności.

W dyskusji nad AWS należy zwrócić większą uwagę na zrozumienie środowiska, w którym system został wytrenowany. Niemożliwe jest przesądzenie in abstracto, że każdy autonomiczny system uzbrojenia jest nielegalny. Zrozumienie zależności pomiędzy danymi a ostatecznym wynikiem pracy sztucznej inteligencji jest kluczowe dla procesu angażowania celu. Środowisko trenowania tych systemów zwykle pochodzi z laboratorium lub z poprzednich doświadczeń kombatantów na polu walki. Wynik działania jest zależny od

60 sposobu wytrenowania i takich czynników, jak różne poziomy wiedzy, przekonań, uczenia wielopłaszczyznowego. Zgodne z prawem użycie AWS jest zależne między innymi od wiedzy na temat środowiska, w którym maszyna podlegała uczeniu (i granic jej zdolności poznawczych). Jeżeli zatem państwo decyduje się na użycie AWS, powinno upewnić się, że dowódca jest odpowiednio przeszkolony i poinformowany w tym w zakresie. W żadnym wypadku nie powinien zmieniać kontekstu ani celu, przeciwko któremu atak będzie kierowany, a do którego sztuczna inteligencja była wytrenowana.

61

Rozdział 3: Środki walki