Изкуственият интелект заплашва света, ако има война

Вече е в ход надпревара за въоръжаване с ИИ. Така гласи строго предупреждение от външния министър на Германия Хайко Маас.

"Ние сме в средата на това. Това е реалността, с която трябва да се справим", каза Маас пред ДВ, говорейки в нов документален филм на медията "Бъдещите войни - и как да ги предотвратим".

Това е реалност в основата на борбата за надмощие между най-големите сили в света.

"Това е състезание, което пресича военните и цивилните линии", каза Амандип Сингх Гил, бивш председател на групата от правителствени експерти на ООН за автономни оръжия. „Това е въпрос на няколко трилиона долара.“

Борбата на великите сили

Скорошен доклад на Комисията за национална сигурност на САЩ за изкуствен интелект говори за „нова военна парадигма“, която „противопоставя“ алгоритми срещу алгоритми “, и призовава за огромни инвестиции.

Това може да се види и в последния петгодишен план на Китай, който поставя ИИ в центъра на безмилостното нарастване на изследователската и развойната дейност, докато Народната освободителна армия се грижи за бъдещето на това, което той нарича „интелектуална война“.

Както каза руският президент Владимир Путин още през 2017 г., „който стане лидер в тази сфера, ще стане владетел на света“.

Изпробване във войни

В края на 2020 г., когато светът беше погълнат от пандемията, клокочещото напрежение в Кавказ прерасна във война. Приличаше на урок по регионален конфликт между Азербайджан и Армения, които се биеха за спорния регион Нагорни Карабах. Но за тези, които обърнаха внимание, това беше тест за ИИ във война.

„Действително важният аспект на конфликта в Нагорни Карабах, според мен, беше използването на боеприпаси, от типа на така наречените „безпилотни камикадзета“- тези доста автономни системи“, каза Улрике Франке, експерт по борба с безпилотни летателни апарати в Европейски съвет по външни отношения.

Бомби, които се реят във въздуха

Усъвършенстваните модели боеприпаси, които се реят, са способни на висока степен на автономност. Веднъж изстреляни, те летят до определена целева зона, където „се реят“, сканирайки цели - обикновено системи за ПВО. След като открият цел, те влетяват в нея, унищожавайки я при удар с вграден полезен товар от експлозиви; оттук и прякорът „дронове камикадзе“.

„Те са били използвани по някакъв начин или форма и преди - но тук те наистина показаха своята полезност“, обясни Франке. "Видя се колко е трудно да се борим срещу тези системи."

Изследванията на Центъра за стратегически и международни изследвания показаха, че Азербайджан има огромно предимство в боеприпасите с повече от 200 единици от четири сложни израелски дизайна. На разположение на Армения беше един-единствен вътрешен модел.

Рояк от безпилотници и „флаш войни“

Това е само началото. В бъдеще технологиите, управлявани от ИИ, ще влязат във военна употреба - което ще позволи на много безпилотни летателни апарати да оперират заедно като смъртоносно цяло.

„Можете например да извадите от строя система за противовъздушна отбрана“, каза Мартин Расър от Центъра за нова американска сигурност, мозъчен тръст със седалище във Вашингтон, окръг Колумбия. "Това, разбира се, има много тактически предимства на бойното поле", каза той пред ДВ. "Не е изненада, че много страни са много заинтересовани да се стремят към този тип способности."

Мащабът и скоростта отварят перспективата за военни сблъсъци толкова бързи и сложни, че хората не могат да ги следват, допълнително подхранвайки динамиката на надпреварата във въоръжаването.

Както обясни Улрике Франке: „Някои участници могат да бъдат принудени да приемат определено ниво на автономия, поне в защита, тъй като хората не биха могли да се справят с автономните атаки толкова бързо“.

Този критичен фактор - скоростта - може дори да доведе до войни, които избухват от нищото, като автономните системи реагират една на друга в спирала на ескалация. „В литературата ние наричаме това „флаш войни“, каза Франке, „ случаен военен конфликт, който не сте искали “.

Преход към „спиране на роботите убийци“

Бони Дохърти си е поставила за задача да предотврати подобно бъдеще. Преподавател в Харвардското юридическо училище, тя е архитект на Кампанията за спиране на роботите-убийци, алианс от неправителствени организации, изискващи глобален договор за забрана на автономни оръжия.

„Всеобщото задължение на договора трябва да бъде да поддържа значим човешкия контрол върху използването на сила“, каза Дохърти. "Това трябва да бъде договор, който да управлява всички оръжия, действащи чрез автономност, които избират цели и стрелят по тях въз основа на задействане със сензор, а не от човек."

Кампанията е фокусирана върху разговори в Женева под шапката на Конвенцията на ООН за някои конвенционални оръжия, която има за цел да контролира оръжията, за които се смята, че причиняват неоправдани страдания.

Процесът, очертал набор от "ръководни принципи", включително този, че автономните оръжия са обект на закона за правата на човека и че хората носят крайна отговорност за тяхното използване. Но те просто формират основа за повече дискусии.

Дхърти се опасява, че обвързаният с консенсус Женевски процес може да бъде осуетен от сили, които нямат интерес от такъв договор.

"Русия направи особено яростни възражения", каза тя.

Но не само тя. Някои от другите държави, които разработват автономни оръжейни системи като Израел, САЩ, Обединеното кралство и други, със сигурност не подкрепят такъв договор.

САЩ обмислят изкуствен интелект за противодействие на заплахите от Китай и Русия

САЩ и техните съюзници трябва да отхвърлят призивите за глобална забрана на автономните оръжейни системи, задвижвани с изкуствен интеле...

Прочети повече

Време за преосмисляне?

Дохърти призовава за нов подход, ако следващият кръг от преговорите в Женева, който се очаква по-късно тази година, не постигне напредък. Тя предлага „независим процес, ръководен от държави, които реално са сериозни по този въпрос и са готови да разработят силни стандарти за регулиране на тези оръжейни системи“.

Но мнозина са предпазливи към тази идея. Германският външен министър е гласен привърженик на забраната, но не подкрепя Кампанията за спиране на роботите-убийци.

"Ние не го отхвърляме по същество - ние просто казваме, че искаме да бъдат включени и други", каза Хайко Маас. „Военни сили, които са технологично в състояние не само да разработят автономни оръжия, но и да ги използват“.

Маас се съгласява, че договорът трябва да бъде крайната цел. "Точно както успяхме да направим с ядрените оръжия в продължение на много десетилетия, трябва да сключим международни договори за нови оръжейни технологии", каза той. „Те трябва да изяснят, че сме съгласни, че някои технически възможни развития не са приемливи и трябва да бъдат забранени в световен мащаб.“

Какво следва?

Уравнението на Шрьодингер ще бъде решавано от изкуствен интелект

Kвaнтoвaтa мexaниĸa ce зaнимaвa c пpoгнoзиpaнe нa xимичecĸитe и физичecĸитe cвoйcтвa нa мoлeĸyлитe cпopeд paзпoлoжeниeтo нa тexнитe aтo...

Прочети повече

Засега няма консенсус. За Франке най-доброто, на което светът може да се надява, са нормите около използването на технологиите.

Дори това ще бъде предизвикателство. „Съгласието с това и след това прилагането му е много по-трудно от някои от старите споразумения за контрол на оръжията“, каза тя.

И докато дипломатите стъпват на пръсти около тези препятствия, технологията върви напред.

„Светът трябва да се заинтересува от факта, че се придвижваме към ситуация с кибер или автономни оръжия, в която всеки може да прави каквото си иска“, каза Маас. "Ние не искаме това."

------------------------------

Рихард Валкер, "Дойче Веле"