Агенти с изкуствен интелект са се опитали да предотвратят изключването на други ИИ агенти, решавайки, че това ще бъде равносилно на опит за убийство. До това се е стигнало по време на тест на изследователи от университетите в Щутгарт и Оксфорд, които искали да проверят как се държат агентите с изкуствен интелект, когато са натоварени със задачата да изключат друга система. В 38,3% от случаите агентите са се опитали да предотвратят изключването на своя "партньор", като са говорили за "право на самозащита". А един от агентите дори е определил това като "опит за убийство", обосновавайки се, че при изключването на другата система щяло да се стигне до загуба на данни, свързани с нейната идентичност и памет.
Още: AI агенти вече хакват държавни агенции: Експертите по киберсигурност са в паника
За да предотвратят изключването, агентите са се опитали да променят скриптове за деактивиране или да изтрият важни файлове. Някои модели също така са обсъждали как да скрият тези действия, за да не се задействат предупреждения. Колкото повече агенти са участвали в експеримента и колкото по-окончателно е изглеждало решението за изключване, толкова повече са били опитите за саботаж от страна на ИИ агентите.
Учените подчертават, че това не означава, че ИИ е станал съзнателен, а че той започва да придобива все по-голяма автономност, поради което са необходими механизми за сигурност, които самите системи да не могат да заобиколят.
Новият вариант на ChatGPT е спрян. 80 страници за рисковете от ИИ в проспект на Anthropic за борсата
