Potrzebujemy twardych przepisów dotyczących wojskowego wykorzystania sztucznej inteligencji – i to wkrótce

Potrzebujemy twardych przepisów dotyczących wojskowego wykorzystania sztucznej inteligencji – i to wkrótce

Znacznik czasu: 13 listopada 2023 1:00
Węzeł źródłowy: 2975086

Destrukcyjny potencjał sztucznej inteligencji spowodował lawinę niedawnych działań związanych z zarządzaniem. Zaledwie kilka dni przed Wielka Brytania była gospodarzem szczytu dotyczącego bezpieczeństwa sztucznej inteligencji od 1-2 listopada administracja Bidena ogłosił zarządzenie wykonawcze w sprawie „Bezpiecznej, chronionej i godnej zaufania sztucznej inteligencji”. Chociaż szczyt w Wielkiej Brytanii miał skupić się na katastrofalnych zagrożeniach związanych ze sztuczną inteligencją, wysiłki Stanów Zjednoczonych skupiły się na bardziej konkretnych kwestiach, takich jak jej zastosowania wojskowe.

Podczas szczytu wiceprezydent USA Kamala Harris ogłosił kilka nowych inicjatyw składających się na zarządzenie wykonawcze, takich jak nowy Instytut Bezpieczeństwa AI. Co jednak najważniejsze, Harris ogłosił również, że do UE przystąpiło 31 krajów Deklaracja polityczna w sprawie odpowiedzialnego wykorzystania sztucznej inteligencji i autonomii w celach wojskowych. Deklarację ogłoszono po raz pierwszy podczas Szczytu w sprawie odpowiedzialnej sztucznej inteligencji w wojsku, który odbył się w lutym w Holandii.

Aktualizacja deklaracji sygnalizuje zaangażowanie USA w te wysiłki i zwraca uwagę na listę sygnatariuszy, na której znajdują się sojusznicy USA, tacy jak Kanada, Australia i Francja. Szczególnie brakuje jednak Rosji i Chin. Prawdopodobieństwo przyłączenia się któregokolwiek państwa do wysiłków pod przewodnictwem USA w obecnym klimacie geopolitycznym jest wyjątkowo niskie.

Rosja nie był mile widziany na żadnym ze szczytów i jest mało prawdopodobne – w przypadku jego szczytu trwająca inwazja na Ukrainę — do włączenia w te dyskusje. Nawet gdyby została zaproszona, Rosja prawdopodobnie nie podpisałaby nawet dobrowolnych dokumentów, gdyż nie chce żadnych wiążących lub niewiążących regulacji dotyczących powstających technologii.

Chiny rzeczywiście uczestniczyły w szczytach i podpisały dwa niewiążące prawnie instrumenty: „Wezwanie do działania REAIM 2023”; i „Deklaracja Bletchleya” uzgodniono na szczycie Wielkiej Brytanii. Choć jest to ważne dla dalszego dialogu, przysłania to większą przeszkodę, jaką Chiny stwarzają w zakresie ogólnych regulacji dotyczących sztucznej inteligencji, a w szczególności jej zastosowań wojskowych.

Chociaż jest mało prawdopodobne, aby Chiny były tak obstrukcjonistyczne jak Rosja w wielostronnych dyskusjach na temat broni autonomicznej, jasne jest, że zgodzą się jedynie na instrumenty niewiążące i takie, które są na jej warunkach. Oznacza to, że jest mało prawdopodobne, aby przyłączyła się do amerykańskiej Deklaracji politycznej w sprawie odpowiedzialnego wykorzystania sztucznej inteligencji w wojsku i autonomii ze względu na jej strategiczne interesy w odniesieniu do technologii i szerszego geopolityczna rywalizacja z USA

Było to widać wyraźnie, gdy doszło do ostatnie głosowanie w sprawie pierwszej w historii uchwały w sprawie broni autonomicznej podjętej przez Pierwszy Komitet Zgromadzenia Ogólnego, w której ogólnie stwierdzono, że państwa uznają pilną potrzebę zajęcia się rosnącą autonomią w zakresie systemów uzbrojenia i przeprowadzenia większej liczby rozmów. Choć za przyjęciem uchwały głosowało 164 osoby, Chiny wstrzymały się od głosu.

Wstrzymanie się Chin od głosu podkreśla, że ​​będą próbowały ukształtować dowolny wynik, w tym opóźnić wysiłki, do czasu, gdy warunki będą sprzyjające ich ambicjom osiągnięcia dominacja wojskowej sztucznej inteligencji.

Przeciwko uchwale głosowały tylko dwa państwa: Rosja i Indie.

Żadne głosowanie nie jest zaskakujące, biorąc pod uwagę, że zarówno Rosja, jak i Indie sprzeciwiły się bardziej znaczącym krokom regulacyjnym w ramach Konwencji ONZ o niektórych broniach konwencjonalnych, czyli CCW. Rzeczywiście, forum to w dużej mierze utknęło w martwym punkcie ze względu na traktowanie konsensusu jako jednomyślności oraz oporu ze strony Rosji i Indii.

Czy sprzeciw Chin, Rosji i Indii jest nie do pokonania?

Przez lata dyskusji na temat broni autonomicznej w CCW stało się oczywiste, że rozmowy sojuszników z sojusznikami nie odpowiadają na wyzwanie, jakim są państwa bardziej wrogie lub państwa, które byłyby przeciwnikami, przede wszystkim dla USA i ich sojuszników.

Należy przyjąć z zadowoleniem przyłączenie się Chin do niektórych z tych dyskusji. Nie należy jednak łudzić się, że obecność Chin lub podpisanie przez nie niewiążących porozumień wskazuje na ich gotowość do przestrzegania twardych praw.

Teraz może to nie wydawać się problemem, ponieważ ani USA, ani ich sojusznicy nie są zbyt zainteresowani twardymi przepisami dotyczącymi wojskowej sztucznej inteligencji. Nawet oczekiwany „przełomowe porozumienie” – osiągnięty na marginesie szczytu Współpracy Gospodarczej Azji i Pacyfiku pomiędzy USA i Chinami, najwyraźniej zakazujący stosowania sztucznej inteligencji w broni, dronach oraz dowodzeniu i kontroli nuklearnej – będzie przede wszystkim obejmować środki dobrowolne i aspiracyjne.

Jednak dobrowolne porozumienia i wymiana informacji są znacznie łatwiejsze do zrealizowania z sojusznikami. Kiedy pojawią się scenariusze kryzysowe obejmujące bardziej wrogie sobie państwa – a będzie to prawdopodobne w miarę wdrażania przez większą liczbę państw sztucznej inteligencji i bardziej autonomicznych systemów na polach bitew – ważne będzie, aby mieć jasność co do tego, co jest dopuszczalne, otwarte kanały komunikacji oraz jasne zasady regulujące wykorzystanie sztucznej inteligencji i autonomia. Prawdopodobnie raczej wcześniej niż później państwa zdadzą sobie sprawę z korzyści płynących z niektórych prawnie wiążących instrumentów.

Deklaracja polityczna i pierwsza w historii rezolucja ONZ w sprawie broni autonomicznej to ważne kroki naprzód, podobnie jak oczekiwane dwustronne porozumienie między USA i Chinami. Potrzebne jest jednak lepsze zarządzanie, w tym twarde przepisy i procesy uzupełniające dotyczące wojskowej sztucznej inteligencji i broni autonomicznej. Będzie to wymagało pewnego poziomu wykwalifikowanej dyplomacji, aby nawiązać kontakt nie tylko z sojusznikami, ale potencjalnymi przeciwnikami, i zawrzeć umowy prawne. Tylko wtedy pojawią się zagrożenia, jakie się z tym wiążą wojskowa sztuczna inteligencjatakich jak błędy i eskalacja konfliktów, należy naprawdę zająć się problemami.

Branka Marijan jest starszym badaczem w Project Ploughshares, specjalizującym się w implikacjach nowych technologii dla wojska i bezpieczeństwa. Jest także współpracowniczką think tanku Center for International Governance Innovation.

Znak czasu:

Więcej z Opinia o obronie