Грешка на изкуствен интелект (ИИ, AI) за малко да доведе до война между двете най-могъщи държави на света в момента - САЩ и Китай. Това съобщава CNN, на база данни от американската армия за шокиращ случай от пролетта на 2026 година.
- Хората може да измрат скоро заради ИИ: Бивш служител на Anthropic говори за "свръхчовешки системи" (ВИДЕО)
- Как подпалилите нова война проксита на Иран използваха AI на Anthropic, за да създадат балистични ракети
Случаят
СНИМКА: Getty Images
Оказва се, че американците получили разузнавателни данни през изкуствен интелект (ИИ), според които китайски кораб превозва компоненти за иранската ядрена програма и вече се е насочил с курс към Иран. Във въздуха били вдигнати изтребители, които са имали за задача да прехванат кораба, като е била подготвяна операция за въздушен десант срещу плавателния съд.
Едва непосредствено преди старта на подготвената операция, военни служители на САЩ са се задълбочили в доклада с данните, изготвен от анализатор на командването за специални операции, и са установили, че той е генериран с помощта на изкуствен интелект (ИИ) - и че чатбот, използван от анализатора, е идентифицирал неточно материала, който корабът е превозвал. CNN обаче не е успяла да потвърди какъв е бил погрешно идентифицираният товар.
Докладът, според един от източниците на телевизията, е бил "изцяло неверен". "Това почти започна война (с Китай)", категоричен източникът. Всяка операция на САЩ срещу китайски кораб е рискувала да се превърне във въоръжен конфликт между двете суперсили.
Още: Измами и своеволия: OpenAI съобщи за нови инциденти с AI агенти, действащи самостоятелно
Анализатори отдавна се опасяват, че изкуственият интелект може да доведе до катастрофални грешки в изчисленията, ако се разчита на грешни данни - точно грешки, които биха могли да накарат Съединените щати да стрелят по китайски кораб въз основа на неточна информация. В този конкретен случай са били генерирани данни и направено заключение от чатбот по корабен манифест, а докладът е отишъл в Командването за специални операции на САЩ в Тихия океан, базирано в Хавай. Не е ясно дали чатботът е търговски достъпен или продукт на правителството на САЩ.
Ботът е обединил разузнавателна информация с отворен код със секретни радиоелектронни разузнавателни данни, съхранявани в правителствени архиви, и стига до съдбоносното си заключение, че китайският кораб е превозвал ядрен материал. След това човекът-анализатор отново е използвал изкуствен интелект, за да обобщи констатациите в стандартен разузнавателен доклад – такъв, на който се доверяват военните служители – и го е изпратил до оперативно командване.
Обосновката за бързото приемане на изкуствения интелект е, че той може да помогне на военните да вземат по-бързо решения на бойното поле, като например кои цели да ударят или кои военни активи къде да преместят. Длъжностни лица казват, че САЩ не могат да си позволят да изостават в интегрирането на изкуствен интелект, в случай че един ден трябва да се борят с Китай или друг противник, който потенциално би могъл да бъде с една крачка пред САЩ. Но някои ветерани в американското разузнаване - дори тези, които като цяло подкрепят използването на изкуствен интелект – смятат, че използването на изкуствен интелект оказва натиск върху анализаторите да произвеждат и разпространяват разузнавателна информация по-бързо, което е отворило вратата за грешки. По-специално младите анализатори са по-запознати с тези инструменти и е по-вероятно да им се доверяват безкритично. "Изкуственият интелект ви позволява да стигнете до лоша идея по-бързо", каза един от източниците на CNN.
Още: "Китай ще ни изпревари": AI компаниите искат надзорен орган, но САЩ са против
