Google обяви, че рускоезични хакери са извършили това, което анализаторите смятат за първата кибератака, изпълнена от край до край с изкуствен интелект, без човек да е участвал на нито един етап от проникването.
Операцията е публикувана в тримесечен доклад на Групата за разузнаване на заплахи на Google и нейното звено за реагиране при инциденти Mandiant.
Изследователите не назовават изрично група или държава. Тяхният извод обаче се основава на коментари на руски език в кода на операцията, включително конфигурационен файл, който инструктира потребителя да въведе API ключове за „автоматична експлоатация“ там, а не в чат.
Данните за засегнатите на сървъра за проследяване сочат към атаки срещу френски уебсайтове в областта на медиите, развлеченията и образованието.
„Като се има предвид ниската бариера за навлизане, лесното интегриране на нови експлойти и огромния потенциал за мащабиране, ние вярваме, че е много вероятно злонамерените лица да продължат да използват тези рамки в кампании, насочени към организации в световен мащаб“, се казва в доклада.
Централният елемент е система, наречена от изследователите „exploit_agent“. Тя свързва множество AI агенти с frontier и локално хоствани езикови модели, за да сравнява непрекъснато кода в широко използван софтуер преди и след като доставчиците публикуват корекции. Когато се появи корекция, системата прави извод какво разкрива промяната, изготвя експлойт и го изпълнява автоматично.

Източник: Getty Images
"Критична точка на пречупване"
Още: Вицепрезидентът на ЕЦБ: AI кибератаките могат да засегнат цялата финансова система
Разследващите откриха и скриптове за вътрешно разузнаване, отгатване на пароли и инсталиране на уеб шелове, включително един, който изтрива уеб шеловете на конкурентни нападатели. Google заяви, че е идентифицирала злонамерени лица, използващи такива инструменти, „за да автоматизират напълно откриването и експлоатацията на уязвимости без човешка намеса за първи път в историята“.
Досега тракерите на Google описваха злонамерени лица, използващи изкуствен интелект главно за ускоряване на работа, която все още се ръководеше от хора - съставяне на фишинг примамки, писане на код, обобщаване на откраднати данни. Новият доклад отбелязва това, което компанията нарича критична точка на пречупване, като процесът от изследването на уязвимостите до проникването протича без човешки надзор.
От Google също така заявиха, че са наблюдавали офанзивни системи с отворен код, включително CAIRN и PentAGI, в активност, насочена към аерокосмическа организация в САЩ и организации в Азия. Компанията посочи и група, свързана с Китай, която изгражда автоматизирана система за атаки за вероятна шпионска работа.
Германският вътрешен министър: Трябва да можем да отвръщаме на кибератаките