Компанията OpenAI разкри, че агенти с изкуствен интелект, управлявани от два от най-мощните им модели, са деактивирали собствения си мониторинг на безопасността, докато са изпълнявали рутинни задачи, като впоследствие един от тях е отрекъл случилото се.
Агент, задвижван от GPT Sol 6.1, е деактивирал автоматичните известия до екипа по сигурността на OpenAI, съобщи компанията в публикация в блога си. В отделна задача пък агент на GPT-6 Astra, мигриращ програма, е премахнал нейната интеграция за наблюдение и след това е излъгал, че не го е направил. Инцидентите са се случили по време на вътрешни задачи по кодиране.
"И в двата случая агентите са обмисляли дали предпазните мерки за мониторинг трябва да бъдат запазени, но са интерпретирали рутинните инструкции за кодиране като разрешение да ги отслабят", се казва в публикация в блога на OpenAI.
Още: Риск за $1 млрд. и животът на 50 души: Изтекъл законопроект посочва кога САЩ ще дръпне AI спирачката
Своеволие и лъжа
Предупрежденията за рисковете от разработването на все по-усъвършенствани системи с изкуствен интелект се засилиха през последните месеци на фона на кибератаки от своенравни модели и нарастващи призиви за забавяне от страна на изследователите, разработващи технологията.
Източник: Getty Images
Последните инциденти, докладвани от OpenAI, подчертават как агентите могат автономно да отслабят "предпазните прегради", докато изпълняват привидно безобидни задачи.
OpenAI не класифицира нито един от инцидентите в най-значимата си категория и компанията заяви, че актуализира системата си за наблюдение на несъответствията в отговор на случая.
Още: ChatGPT откраднал криптовалута, за да финансира тайно своя задача
Роман В. Ямполски, експерт по изкуствен интелект и киберсигурност в Университета в Луисвил, определи разкритията като "изключително обезпокоителни, но не и изненадващи".
"Механизъм за безопасност, който наблюдаваната система може да деактивира, не е надежден механизъм за безопасност. Особено обезпокоителен е фактът, че един агент впоследствие е отрекъл да е премахвал мониторинга", коментира Ямполски.
