Войната се променя с темпове, които поставят под въпрос не само начина, по който се водят конфликтите, но и моралните принципи, чрез които те се оценяват, пишат в анализ за Foreign Policy Антъни Пфаф - директор на Отдела за стратегически изследвания и оценка във Военния колеж на САЩ, и Патрик Гранфийлд - бивш директор по стратегически комуникации на министъра на армията Ерик Фанинг и автор на речи за държавния секретар Джон Кери и министъра на отбраната Аш Картър. Двамата разглеждат този нов проблем, свързан с изкуствения интелект, през призмата на първата енциклика на папа Лъв XIV - Magnifica Humanitas.
Още: Закъсват ли OpenAI и ChatGPT? Астрономически разходи повдигат сериозни въпроси
Поводът е показателен - по време на Страстната седмица свещеник посещава украинско подразделение за дронове край Запорожие, моли се за бойците и поръсва със светена вода ударен дрон преди изпращането му срещу руските позиции. Самият дрон все още е с човешки оператор зад себе си, но следващото поколение оръжия може да не се нуждае от такъв. Според авторите именно тук се появява един от най-трудните морални проблеми на съвременната война: колкото повече изкуственият интелект измества човешкото решение, толкова по-лесно може да стане започването на война и толкова по-трудно - нейното овладяване.
Трябва ли да бъде изоставена теорията за "справедливата война"?
В енцикликата си папа Лъв XIV предупреждава за рисковете от изкуствения интелект за човешките права и достойнство и отделя особено внимание на автономните оръжия. Той стига и по-далеч, като поставя под въпрос самата актуалност на теорията за „справедливата война“, заявявайки, че тя е била твърде често използвана, за да оправдава войни, и че в съвременния свят е остаряла.
Тази теория е традиционна система от военни етични принципи, използвана за преценка дали дадена война е морално оправдана. Тя определя правилата за това кога може да започне война, как трябва да се води и как се възстановява мирът след приключването на военните действия.
Пфаф и Гранфийлд приемат част от критиката на папата, но не и извода, че теорията трябва да бъде изоставена. Държавите няма да станат пацифистки, ако се откажат от нея, а политиците и военните командири няма автоматично да се превърнат в морални арбитри. Напротив - без общ и разбираем стандарт за оценка на войната ще бъде изгубен един от механизмите, които в продължение на векове са служили за ограничаване на насилието. Затова според авторите теорията не трябва да бъде "пенсионирана", а преосмислена така, че да отговаря на условията на съвременната война.
Още: За по-малко от 4 години: OpenAI вече има 1 млрд. активни потребители
Западна, но и китайска традиция
Традицията на „справедливата война“ се основава на няколко основни принципа:
- войната трябва да бъде отговор на агресия;
- да бъде предприета с правилно намерение и от легитимна власт;
- да бъде крайна мярка и да съществува разумна перспектива за постигане на справедлив мир.
При самото водене на бойните действия силата трябва да бъде пропорционална на военната цел, цивилните не трябва да бъдат пряко атакувани, а трябва да се предприемат допълнителни мерки за ограничаване на риска за тях. Тези принципи са част от обучението във военните академии на САЩ и са вградени в съвременното право на въоръжените конфликти.
Авторите подчертават, че тази логика не е изключително западна. В китайската традиция също съществуват идеи, които поставят граници пред войната. Мън Дзъ допуска, че тиранин, унищожил добродетелта и справедливостта, може да загуби легитимността си. Мо Дзъ осъжда нападателната война. А Сун Дзъ определя подчиняването на противника без битка като най-висшата форма на военно изкуство и многократно предупреждава за цената на войната. Макар това да не е идентично с теорията за „справедливата война“, общите принципи могат да се окажат основа за ограничаване на бъдещи конфликти.
Снимка: Генерален щаб на украинската армия, Facebook
Още: ИИ софтуер на голяма компания е извършил хакерски атаки съвсем сам
Машините не притежават човешка милост
Основното предизвикателство днес идва от „посредническия“ характер на все повече военни действия. Изкуственият интелект и автономните системи създават допълнителни дистанции между вземащия решение и човека, който бива убит. Това може едновременно да направи насилието по-прецизно и да улесни прибягването до него. Същевременно възниква проблемът с отговорността - машините могат да изпълняват решения, но не притежават милост или други човешки качества, които правят войната по-малко нечовешка и могат да създадат условия за последващ мир.
Парадоксът е, че дори когато папа Лъв XIV поставя под съмнение теорията за „справедливата война“, неговите критерии за използването на автономни оръжия до голяма степен използват именно нейния морален език. Той настоява да съществува „проверима“ верига на отговорност - от хората, които проектират и обучават системата, до тези, които разрешават и използват оръжието. Подобно изискване съществува и в стратегията на Пентагона за отговорен изкуствен интелект. Проблемът е как тази отговорност да бъде наложена, когато машината посредничи между човешкото намерение и смъртоносния резултат.
Папа Лъв XIV поставя и изискване за своеобразен „морален времеви хоризонт“. Скоростта и ефективността не трябва да се превръщат във върховен критерий при необратими решения за използване на сила. Смъртоносното решение трябва да остане под ефективен, осъзнат и отговорен човешки контрол, а системите трябва да позволяват действията им да бъдат проследени и възстановени впоследствие. Тук обаче се появява напрежение между моралния принцип и военната логика: същият този Пентагон, който изисква проследимост и отговорност, поставя силен акцент върху скоростта и ефективността - фактори, които могат да увеличат зависимостта от машините и да съкратят времето за човешка преценка.
Паралел между прокси войните и автономните системи
Според Пфаф и Гранфийлд това показва, че теорията за „справедливата война“ не е остаряла сама по себе си. Остарява начинът, по който нейните принципи се прилагат към новите форми на война. Авторите правят паралел и с друг тип „посреднически“ конфликт - прокси войната. При нея възникват проблеми като ескалацията, разпространението на оръжия и т.нар. „мръсни ръце“ - отговорността на държава, която подкрепя даден въоръжен партньор, но не предотвратява злоупотребите с предоставените му средства.
Същите рискове се проявяват и при автономните оръжия. Решенията със скоростта на машината могат да ускорят ескалацията. Софтуерът може да се разпространява много по-бързо от физическите оръжия, а автоматизираното целеуказване може да създаде „празнина в отговорността“, в която човекът да се окаже скрит зад машината. Затова авторите виждат сходен морален проблем при прокси войните и автономните системи - колкото по-голяма е дистанцията между решението и последиците, толкова по-трудно става определянето на отговорността.
Снимка: Getty Images
Още: Американският изкуствен интелект, който преобразява НАТО в по-опасна военна машина (ВИДЕО)
Обновена теория
Предложението да се замени теорията за „справедливата война“ само с по-тесния принцип на „пропорционалната отбрана“ също не решава проблема. Този подход отговаря преди всичко на въпроса кога държавата може да се защитава, но оставя без достатъчен отговор практическите въпроси пред военния планьор, подразделението за целеуказване и войника на бойното поле. Именно затова авторите смятат, че всяко обновяване на доктрината трябва да бъде разработено съвместно от командири, етици, военни юристи и автори на правила за употреба на сила, но също и от инженери и системни анализатори, които проектират машините, променящи начина на водене на война.
Една обновена теория за „справедливата война“ трябва да се справи с проблема на посредническата война, като свърже по-добре ползата от военните действия с тяхната цена и действието с последствията от него. Това означава и етиката да бъде включвана още при проектирането на системите - например чрез механизми за предотвратяване на цивилни жертви още преди дадена технология да бъде въведена в употреба, вместо отговорността да се търси едва след настъпването на вредата.
В крайна сметка аргументът на Пфаф и Гранфийлд е, че появата на автономни оръжия не прави моралните ограничения върху войната ненужни - напротив, прави ги още по-необходими. Папа Лъв XIV може да поставя под въпрос традиционната формулировка на „справедливата война“, но самият му анализ на автономните оръжия показва колко трудно е да се говори за ограничения върху насилието без езика на тази традиция.
Още: Изкуственият интелект ще е държавна тайна: Китай блокира достъпа на чужденци
Образът на свещеника, който благославя украински дрон преди бойна мисия, се превръща в символ на този парадокс - войната е технологично различна, но моралният проблем остава същият. Как да се използва сила, когато тя е неизбежна, без човешката отговорност да бъде изгубена зад технологията? Според авторите отговорът не е в изоставянето на традицията, а в нейното обновяване за война, в която решенията все по-често се вземат на машинна скорост.
Източник: Foreign Policy
