Американската стартъп компания за изкуствен интелект Anthropic твърди, че е предотвратила множество злонамерени операции, при които са били използвани нейните модели на Claude AI – от кибершпионаж и проектиране на оръжия до кампании за масово наблюдение. По отношение на конвенционалните оръжия компанията твърди в нов доклад, че е се е намесила в северната част на Йемен, като е блокирала опит за използване на Claude в софтуер за разработка и насочване на ракети, включително управляема ракета и балистична ракета с голям обсег (над 2000 км).
Според Financial Times става въпрос за йеменските бунтовници хути, които са пряко подкрепяни от Иран и са част от мрежата пълномощници на Техеран в Близкия изток, известна като "Ос на съпротивата". Наскоро хутите откриха нов фронт във войната, атакувайки Саудитска Арабия и осъществявайки светкавична контраофанзива срещу правителствените сили в Йемен, подкрепяни от Рияд. Така те си осигуриха контрол над ключовия за световните доставки проток Баб ел-Мандеб, който свързва Средиземно море с Индийския океан - през Червено море.
Още: Гори втора война в Близкия изток, втори важен за света проток е пред блокиране
Хутите са използвали AI вместо софтуерни инженери
Според доклада за заплахите на Anthropic операторите са използвали изкуствения интелект „вместо човешки софтуерни инженери“, като според информацията са възлагали на различни инстанции на модела конкретни роли за писане на софтуер за насочване на ракети и управление на полета.
Въпреки че вътрешните предпазни мерки са блокирали много заявки, Anthropic призна, че няколко са се промъкнали. Операторите са избегнали разкриването, като са прикрили крайните си цели и са разделили задачите на отделни сесии, така че нито една отделна команда не е издала операцията.
Снимка: Getty Images
Компанията заяви, че няма доказателства, че групата е успяла да създаде работещо оръжие, въпреки че Anthropic твърди, че операторите, изглежда, са провеждали неуспешен тестов изстрел.
В доклада се посочва, че компанията е блокирала замесените акаунти и „е споделила информация за заплахата с партньори от публичния и частния сектор, за да намали рисковете, породени от тези лица“.
Кибершпионаж, свързан и с Русия
В доклада се твърди, че шпионска операция, свързана с Русия и носеща белезите на Midnight Blizzard (или APT29), се е основавала на автоматизирани AI работни потоци за провеждането на почти цялата операция, като е обхващала всичко – от фишинг и подготовка до кражба на данни срещу украински, европейски и дипломатически цели, включително производители на дронове.
Отделно от това компанията заяви, че е прекъснала китайска операция, ръководена от студенти в провинция Хунан, които са използвали Claude „като инженерно-координационен слой“ на офанзивна програма, насочена срещу правителствени и корпоративни мрежи в Близкия изток, Европа и Югоизточна Азия.
И в двата случая Anthropic заяви, че е блокирала свързаните акаунти и е въвела допълнителен мониторинг за откриване на подобна дейност.
Още: Компания блокира опити за разработване на биологични оръжия с помощта на изкуствен интелект
Идентифициране на цели, включително в Сирия и Иран
Anthropic също така твърди, че е идентифицирала и премахнала три ирански акаунта, свързани с държавата, които са използвали Claude за провеждане на тайни операции за влияние и психологически операции. Всяка операция е била свързана с конкретна иранска пропагандна институция, включително Организацията за ислямска култура и комуникации и командния център на семинарията в Машхад, разпространяващ съдържание, съобразено с наративите на Иранската революционна гвардия.
В друг случай докладът твърди, че групи, свързани с държавата, са използвали Claude за операция в промишлен мащаб, като са насочили модела да генерира структурирани профили, които картографират целите според местоположение, демографски характеристики, политически нагласи и показатели за надеждност.
„Най-зрелият от оперативна гледна точка случай“, отбелязва Anthropic в доклада си, е бил открит, когато акаунт, свързан с Китай, „без познания по арабски език“, е използвал Claude за провеждането на „многодневна операция по вербуване с цел проникване сред уйгурски цели в Сирия“. Anthropic посочва, че „моделът е изготвил съобщения на регионалния диалект“ и „е превеждал отговорите в реално време“.
Снимка: Getty Images
Още: Цените на петрола на път да приключат седмицата над 100 долара за първи път от близо 4 месеца насам
По-рано тази седмица Anthropic разкри още един инцидент, при който модел на изкуствен интелект е получил неразрешен достъп до външни системи, включващ ранна версия на Claude Opus 4.6, малко след като бившият изследовател на компанията Джейкъб Коксън публично подаде оставка поради опасения за безопасността.
„Хората, които разработват изкуствен интелект, искрено вярват, че той може да ни убие всички до края на десетилетието“, предупреди Коксън в публикация в X. По-късно друг учен от Anthropic, Еван Хубингер, се включи в дискусията, като заяви, че Коксън е прав.
Предупрежденията на изследователите накараха все по-голям брой американски законодатели да призоват за въвеждането на нови правила за регулиране на системите за изкуствен интелект.
Anthropic заяви, че разследва повтарящите се проблеми и нарушенията, свързани с инцидентите, и е ангажирала независима изследователска фирма да ги прегледа.
Още: ИИ софтуер на голяма компания е извършил хакерски атаки съвсем сам
Отношенията между Вашингтон и компанията за AI остават напрегнати след спорна конфронтация относно етичните ограничения. По-рано тази година Пентагонът включи Anthropic в черния списък като риск за веригата на доставки, след като тя отказа да премахне предпазните мерки срещу използването на технологията ѝ за автономно оръжие и вътрешно наблюдение.
Anthropic оспори решението в Калифорния, където миналия месец съдия постанови, че Министерството на отбраната на САЩ е действало незаконосъобразно при налагането на тази мярка. Въпреки ожесточената правна битка и публичното напрежение обаче, има информация, че Пентагонът е използвал моделите Claude на компанията във военни мисии в Иран и Венецуела.
Докладът идва в критичен момент за фирмата, която се стреми да възстанови пълния си статут в рамките на отбранителната индустриална база на САЩ след включването ѝ в черния списък на Пентагона, посочва Al Jazeera.
