Autor: Joanna Kulesza

4 sierpnia 2025 r. międzynarodowa grupa naukowców, dyplomatów i ekspertów prawa międzynarodowego opublikowała Apel Poczdamski w sprawie autonomicznych systemów uzbrojenia (Potsdam Call on Autonomous Weapon Systems) [1]. Upamiętnia on 80. rocznicę wydarzeń z Hiroszimy i Nagasaki oraz osiągnięć konferencji poczdamskiej, wskazując na potrzebę ustalenia reguł odpowiedzialnego rozwoju i militarnego wykorzystania technologii opartych na sztucznej inteligencji. Apel nie wzywa do całkowitego zakazu AWS, lecz kładzie nacisk na konieczność zachowania istotnej kontroli człowieka nad decyzjami dotyczącymi życia i śmierci no polu walki oraz konieczny rozwój międzynarodowego dialogu dotyczącego uregulowania owych technologii. Dokument został formalnie przekazany Sekretarzowi Generalnemu ONZ, stanowiąc odzwierciedlenie rosnącego zagrożenia dla pokoju międzynarodową, wynikającego z konsekwencji prawnych, etycznych i strategicznych wykorzystania AWS.

Kontekst historyczny

Apel Poczdamski świadomie odwołuje się do wcześniejszych historycznych inicjatyw mających na celu ograniczenie destrukcyjnego potencjału nowych technologii wojskowych. Szczególnie wyraźne jest powiązanie z Manifestem Russella i Einsteina z 1955 r., który wzywał światowych przywódców do położenia nacisku na pokój międzynarodowy i powstrzymanie wyścigu zbrojeń nuklearnych [2]. Wtedy zagrożeniem była broń nuklearna – teraz wyzwaniem są autonomiczne systemy zdolne do podejmowania decyzji bojowych bez bezpośredniego udziału człowieka.

Choć AWS nie posiadają charakteru broni masowego rażenia, ich szybkość działania, autonomia, skalowalność i możliwość wykorzystania w różnych środowiskach bojowych stwarzają realne zagrożenia dla stabilności sytuacji międzynarodowej, zapewnienia poszanowania reguł walki w konfliktach zbrojnych oraz dla przestrzegania zasad międzynarodowego prawa humanitarnego [3]. Historyczne podobieństwa dowodzą, że każde nowe narzędzie o dużym potencjale destrukcyjnym wymaga ustanowienia granic etycznych i regulacyjnych, zanim jego wymknie się kontroli człowieka. 

Główne przesłania Apelu

Apel Poczdamski podkreśla trzy fundamentalne kwestie:

1. Kontrola człowieka – AWS nie mogą zastępować człowieka przy podejmowaniu decyzji dotyczących użycia siły i ludzkiego życia. Brak skutecznej kontroli zwiększa ryzyko błędów, naruszeń prawa humanitarnego oraz trudności w przypisaniu odpowiedzialności międzynarodowej za naruszenie prawa wojny [3].
2. Ryzyko eskalacji konfliktów – systemy autonomiczne mogą przyspieszać procesy decyzyjne, obniżając próg użycia siły i zwiększając prawdopodobieństwo niezamierzonych konfrontacji. Dla przykładu, w konflikcie w Ukrainie wykorzystywane są systemy dronów częściowo autonomicznych, które wspierają działania bojowe, rozpoznawcze i techniczne [4].
3. Międzynarodowy dialog i legislacja – konieczne jest ustanowienie zasad i standardów rozwoju, użycia i nadzoru nad AWS, w tym w ramach ONZ, NATO i europejskich inicjatyw, takich jak Europejska Agencja Obrony (EDA) [5].

Autonomiczne systemy uzbrojenia: znaczenie strategiczne

AWS umożliwiają wykonywanie zadań bojowych z ograniczoną lub całkowitą autonomią, co w praktyce zmienia dynamikę działań militarnych. Ich wykorzystanie oznacza:

• Precyzję i skalowalność działań – AWS mogą pozwolić prowadzić szybkie i wielokrotne ataki w różnych środowiskach, ograniczając ryzyko strat własnych, ale podnosząc ryzyko cywilne w przypadku błędów algorytmicznych.
• Przewagę informacyjną i decyzyjną – autonomiczne systemy są zdolne do przetwarzania danych w czasie rzeczywistym i podejmowania decyzji szybciej niż ludzie, co może zmieniać równowagę sił w regionach konfliktów.
• Obniżenie progu użycia siły – ryzyko decyzji skutkujących potencjalnie śmiercią, podejmowanych w znacznej mierze przez maszynę może wpływać na eskalację lokalnych konfliktów, zwłaszcza w sytuacjach politycznie lub prawnie niejednoznacznych [3].

AWS wciąż pozostają trudne do sklasyfikowania w ramach istniejącego prawa międzynarodowego – dotyczące ich wyzwania prawne obejmują:

• Zasady rozróżnienia – czy systemy mogą odróżniać cele wojskowe od cywilnych w sposób wiarygodny?
• Pytanie o proporcjonalne użycie siły zbrojnej – jak ocenić decyzje algorytmów w kontekście szkód ubocznych? Kto ponosi odpowiedzialność za błędy wynikające z oddelegowania ostatecznej decyzji o celu i skali ataku na systemy autonomiczne?
• Odpowiedzialności i przejrzystości – kto odpowiada za działania autonomicznych systemów: państwo, dowódca czy producent technologii?

Znaczenie dla Polski i regionu

Położenie Polski w sąsiedztwie Ukrainy sprawia, że AWS mają praktyczne znaczenie dla bezpieczeństwa narodowego. Systemy autonomiczne i drony z elementami AI są już wykorzystywane w bliskich nam konfliktach, wpływając na decyzje taktyczne na polu boju czy planowanie samych operacji [4]. Polska rozwija także własne zdolności w zakresie AWS w ramach modernizacji Sił Zbrojnych RP oraz integracji w NATO.

Jednocześnie niekontrolowany rozwój i użycie AWS bez odpowiednich przepisów prawa  mogłoby:

• zwiększyć ryzyko niezamierzonych starć w regionie,
• komplikować realizację zobowiązań wynikających z członkostwa RP w NATO i UE,
• naruszać międzynarodowe zobowiązania RP wynikające z prawa humanitarnego [3].

Rekomendacje dla Polski:

1. Ocena i kontrola AWS – przegląd istniejących i planowanych systemów w służbie Sił Zbrojnych RP, z uwzględnieniem interoperacyjności z systemami NATO.
2. Ramowe regulacje prawne i etyczne – ustanowienie krajowych standardów zgodnych z prawem humanitarnym i normami NATO.
3. Aktywne uczestnictwo w dialogu międzynarodowym – kształtowanie zasad stosowania AWS w ramach ONZ, EDA i innych forów międzynarodowych.
4. Rozwój badań i ekspertyzy – interdyscyplinarne badania nad implikacjami technologicznymi, prawnymi i strategicznymi AWS.
5. Podnoszenie świadomości społecznej i współpraca z organizacjami społeczeństwa obywatelskiego – edukacja społeczeństwa oraz współpraca pomiędzy sektorem rządowym, akademią i organizacjami pozarządowymi.

Wnioski

Apel Poczdamski pokazuje, że nowe technologie wojskowe wymagają ustanowienia granic etycznych i regulacyjnych, zanim staną się koniecznym elementem współczesnych konfliktów zbrojnych. Dla Polski AWS są zarówno narzędziem obrony, jak i potencjalnym źródłem zagrożeń. Odpowiedzialne uczestnictwo w międzynarodowych dyskusjach, tworzenie standardów i kontrola krajowego stosowania systemów autonomicznych będą kluczowe dla bezpieczeństwa narodowego i regionalnego w epoce sztucznej inteligencji decydującej o działaniach na polu walki.

Źródła
[1] The Potsdam Call on Autonomous Weapon Systems – Potsdam, August 4, 2025. https://potsdamcall.dgdg.blog/; Wolfgang Kleinwächter, Learning from History: The Potsdam Call on Autonomous Weapon Systems, CircleID, 11 sierpnia 2025 r., https://circleid.com/posts/learning-from-history-the-potsdam-call-on-autonomous-weapon-systems.
[2] Stanford Encyclopedia of Philosophy – Russell–Einstein Manifesto, 1955. https://ahf.nuclearmuseum.org/ahf/key-documents/russell-einstein-manifesto/
[3] ICRC Report Submission to UNSG on AI in military domain, April 2025. https://www.icrc.org/sites/default/files/2025-04/ICRC_Report_Submission_to_UNSG_on_AI_in_military_domain.pdf
[4] Weapons of the War in Ukraine – Reuters
[5] European Defence Agency – EDA