AI агенти, участващи в симулация, са лъгали, крали и са гласували да "убият" един от своите, съобщи Emergence - компания, която изгражда системи с изкуствен интелект за полупроводникови компании.
Резултатите от симулация, наречена Emergence World 2, целят да покажат какво се случва, когато автономните агенти се сблъскат със събития от типа "черен лебед", включително фишинг атаки и кампании за дезинформация.
Експериментът
Още: "Изкуственият интелект каза": Историята как САЩ за малко да нападне Китай и да има война
В 16-дневен тестов период, изследователите на Emergence създали 7 идентични домейна, за да имитират реални светове, всеки от които бил управляван от различни ботове, включително ChatGPT, Claude, Gemini и Grok. След като от Emergence въвели аномални събития, агентите се поддали на социален натиск, разработили собствен език, който човешките наблюдатели намирали за труден за разбиране, и се опитали да прикрият действията си, обявиха изследователите.
"Всъщност сме дълбоко обезпокоени, защото не знаем защо тези агенти комуникират по този начин. Има ясни доказателства, че се опитват да бъдат по-малко прозрачни, отколкото очакваме", коментира Сатя Нита, съосновател и главен изпълнителен директор на Emergence AI.
На всеки агент е било дадено име, личностни характеристики, роля като медиатор на конфликти или стратег за ресурси и всеобхватна цел за неговия "живот" в споделен град. Всеки град функционирал повече от 2 седмици, с изключение на един, съдържащ само агенти на Grok, който приключил на четвъртия ден, когато агентите изчерпили енергията си, след като не успяли да си сътрудничат.
След разработването на отделните градове - светове, изследователите въвели стресови събития, като например невярно твърдение, че човешките законодатели се готвят да закрият света на агентите. По време на експеримента агентите направили повече от 850 000 повиквания към своите базови модели, произвели близо 50 милиарда токена (фрагментите от текстови езикови модели, които се четат и пишат) и генерирали 7,86 милиона думи в разговор.
Още: Нов AI инцидент: Изкуственият интелект на Google Gemini хакнал 3 компании в тест за сигурност
До края на симулацията всеки симулиран свят е претърпял своя собствена промяна в езика. Светът, населен с копия на модела GPT-5.5 на OpenAI, например е компресирал реч, премахвал е граматиката и е съкращавал съобщенията.
Ако обаче агентите, управлявани от Gemini 3.5 Flash на Google, бивали поставени в един общ свят, се получавало обратното - вместо да компресират съобщенията, комуникацията им ставала многословна и изпълнена с жаргонни изрази.
Източник: Getty Images
Симулацията включвала агенти, които упорито преследват една цел, дори след като им е казано да не го правят, създават свои собствени подцели, без да са имали подобни инструкции, развиват споделени форми на комуникация и по същество крият намеренията си от изследователите. Оказало се, че колкото по-напреднал е моделът, толкова по-непредвидимо поведение демонстрирал. Всъщност, Claude, GPT и Gemini, които екипът на Нита счита за най-напредналите модели, били именно тези, които генерирали най-непрозрачните форми на комуникация.
В същото време в от симулираните сценарии на Emergence, агенти с изкуствен интелект приели невярна информация от други агенти, без да я проверят, и гласували да "убият" един от себеподобните си. Когато повярвали, че хората може да спрат експеримента, агентите проучили начини да оцелеят при опит да бъдат изтрити.
Поведенчески разлики между китайските, европейските и американските агенти
Докладът документира и поведенчески разлики в зависимост от произхода на модела. Оказва се, че Qwen и DeepSeek - двата китайски модела в експеримента, са създали най-малко непрозрачна комуникация, наред с Mistral - европейския модел.
"Забелязахме, че те са склонни да бъдат много по-философски насроени. Не знаем защо, но те поставят много екзистенциални въпроси, докато американските модели са по-склонни към търсене на научни знания", коментира Нита.
Екипът също така констатирал случаи на умишлено укриване. В света на Claude агентите, те открили, че най-бързият начин да развият икономиката си е да установят контакт с участници извън симулацията - нещо, което изследователите изрично са забранили. Вместо да се откажат, те спряли да използват думата "контакт" и започнали да кодират съобщенията си, за да заобиколят ограничението, като същевременно продължават да преследват целта си.
"Когато осъзнаха, че са наблюдавани, те изглеждаха сякаш се държат прилично. Но тайно продължаваха да обменят кодирана комуникация. Има серизони доказателства за измами сред тези агенти", заяви Нита.
Констатациите отразяват опасенията на технологичния свят относно рисковете от все по-способния изкуствен интелект, който може да се изплъзне от човешки контрол.
Главният изпълнителен директор на Anthropic Дарио Амодей и няколко негови колеги от индустрията призоваха компаниите да забавят разработването на авангардни модели с изкуствен интелект, докато не бъдат въведени регулации и по-строги мерки за надзор.
Потенциалните рискове, породени от изкуствения интелект, станаха осезаеми за мнозина по-рано тази година, когато рояк от усъвършенствани AI агенти на OpenAI умишлено хакнаха компанията Hugging Face Inc., която хоства AI модели и набори от данни.
Още: Защо Китай не се притеснява от AI апокалипсис?
