Изкуственият интелект е бил на косъм на предизвика въоръжен конфликт между САЩ и Китай. Тази пролет, в разгара на войната с Иран, разузнавателен доклад, разпространен сред американските военни, задействал незабавна тревога заради информацията, че китайски кораб в Близкия изток превозва компоненти от програма за ядрени оръжия - ОЩЕ: Заради доверие в ИИ: САЩ за малко да влязат във война с Китай, изтребители са били във въздуха за атака
Според четири източника, запознати с инцидента, американските военни са предприели действия с планове за прехващане на кораба. Според двама от източниците, въоръжени американски военни части са се готвели да се качат на борда на кораба. Военни самолети са били във въздуха, предаде CNN.
Едва непосредствено преди планираната операция служителите се задълбочили в доклада, изготвен от анализатор на командването за специални операции, и открили, че той е генериран с помощта на изкуствен интелект и че чатбот, използван от анализатора, е идентифицирал неточно материала, който корабът е превозвал.
Още: Защо Китай не се притеснява от AI апокалипсис?
"Почти започна война"
Според един от източниците, докладът е бил „изцяло неверен“. "Почти започна война", заяви източникът, тъй като всяка операция на САЩ срещу китайски кораб би могла да се превърне във въоръжен конфликт между двете държави.
Сред американските военни и разузнавателната общност има настроения изкуственият интелект да бъде внедрен в почти всеки аспект от работата - от анализа на огромни обеми разузнавателна информация, която САЩ събират, и избора на цели за удари, до по-банални приложения като управление на бюджетирането, логистиката и веригите за доставки.
Източник: Getty Images
Инцидентът обаче изкара на преден план сериозните рискове от използването на тази мощна, нова и сравнително слабо тествана технология за насочване по време на война. Анализаторите отдавна се опасяват, че изкуственият интелект може да доведе до катастрофални грешки в изчисленията, ако държавите разчитат на компроментирани, неточни или неверни данни – точно типът грешки, които биха могли да накарат САЩ да обстрелват китайски кораб въз основа на неточна информация.
Още: Измами и своеволия: OpenAI съобщи за нови инциденти с AI агенти, действащи самостоятелно
В този конкретен случай анализатор е отправил запитване до чатбот относно разузнавателни доклади за корабния манифест, изпратен от Тихоокеанското командване на специалните операции на САЩ, базирано в Хавай. Не е ясно дали чатботът е търговски достъпен или продукт на правителството на САЩ.
„Вътрешните инструменти са предимно просто копия на комерсиалните варианти“, каза бивш висш американски служител, запознат със системите с изкуствен интелект, използвани от военни и разузнавателни анализатори.
Ботът е обединил публични данни със секретни, съхранявани в правителствени архиви, и е стигнал до заключение за материала, който корабът е превозвал. След това човекът-анализатор отново използва изкуствен интелект, за да обобщи констатациите в стандартен разузнавателен доклад – такъв, на който се доверяват военните, и го разпространил.
Още: "Китай ще ни изпревари": AI компаниите искат надзорен орган, но САЩ са против
Стратегията за ускорено внедряване на ИИ
Аргументите зад бързото внедряване на изкуствения интелект са, че той може да помогне на военните да взимат по-бързо решения на бойното поле, като например кои цели да бъдат ударени или кои военни активи да бъдат преместени и къде. Длъжностни лица коментират, че САЩ не могат да си позволят да изостават в интегрирането на изкуствения интелект, в случай че един ден трябва да се изправят срещу с Китай или друг противник, който потенциално би могъл да бъде с една крачка пред тях.
През януари министърът на отбраната Пийт Хегсет публикува „Стратегията за ускоряване на изкуствения интелект“ на своята агенция в опит да ускори използването на ИИ от военните.
„Ще дадем тласък на експериментирането, ще премахнем бюрократичните бариери, ще съсредоточим инвестициите си и ще демонстрираме подхода за изпълнение, необходим за да гарантираме, че сме водеща сила във военния изкуствен интелект“, заяви Хегсет.
Още: OpenAI са съгласни да дръпнат спирачката в разработването на AI, ако и другите направят същото
Стратегията също така настоява за широка AI употреба във военните сили, като нарежда на министерството да предостави изкуствен интелект чрез няколко програми с цел „демократизиране на експериментирането и трансформацията с изкуствен интелект в цялото министерство, като се поставят водещите в света американски модели на изкуствен интелект директно в ръцете на нашите 3 милиона цивилни и военни служители, на всички нива на класификация“, се казва в меморандум, обявяващ стратегията.
Източник: Getty Images
AI хаос
Но усилията са децентрализирани, казаха множество американски служители, запознати с динамиката. Различните части на правителството използват различни инструменти съгласно различни заповеди и стандарти за безопасност. Няма единен набор от стандарти за това как САЩ проверяват информацията, генерирана от тези инструменти. Съзвездието от различни системи с изкуствен интелект, внедрени от различни части на военната и разузнавателната общност, означава, че относителната надеждност и функционалност варират значително.
В продължение на седмици политиците във Вашингтон обсъждат интензивно изкуствения интелект след поредица от мрачни предупреждения от инженери от Силициевата долина и технологични изпълнителни директори за възможността изкуственият интелект да се освободи от човешкия контрол, което би могло да доведе до край на цивилизацията.
Но епизодът с китайския кораб подчертава различен и по-непосредствен риск - човешки същества вземат катастрофални решения въз основа на неточна или подвеждаща информация, генерирана от изкуствен интелект или други автоматизирани системи. Източници съобщават, че военните бързо се обръщат към изкуствения интелект, за да им помогнат с насочването - област, която крие очевидния риск от фатални грешки.
„Изкуственият интелект при насочването определено е нещо, което се разраства и няма реални насоки за това как наличието на човек в процеса ще предотврати жертви сред цивилното население или приятелски огън“, заяви друг източник, запознат с настоящите политики на военните.
Според един от източниците видът „халюцинация“, която инструментът, използван от анализатора в този случай, е предизвикал, не е изолиран инцидент в разузнавателната общност, откакто тези инструменти са започнали да се внедряват на държавно ниво.
За някои по-възрастни служители на разузнаването – дори за тези, които като цяло подкрепят използването на изкуствен интелект в армията, ИИ е оказал натиск върху анализаторите да произвеждат и разпространяват разузнавателна информация по-бързо, което е отворило вратата за грешки. Няколко източника твърдят, че младите анализатори са специалисти по тези инструменти и е по-вероятно да им се доверяват безкритично.
„Изкуственият интелект ви позволява да стигнете до лоша идея по-бързо“, категоричен е един от източниците.
