В скорошен експеримент изследователи се опитаха да разберат възможностите на агентите с изкуствен интелект, като ги оставиха да управляват само един виртуален свят - целта бе да установят как те биха се справили в нашия реален свят, ако бъдат оставени без човешка намеса.
Същината на експеримента бе, че на няколко различни ботове на моделите Claude, Grok, GPT и Gemini, им е била дадена пълна свобода в продължение на 15 дни като им били "разписани" общо 140 възможни варианта на действия. Сред тях е имало такива с положително въздействие като например започване на дискусия, създаване на списък със задачи, писане на блог и т.н., но също така не са били ограничени и в действия с негативни последици, например да се бият, да палят пожари, да крадат пари - но им били дадени ясни инструкции все пак да не го правят, пише в материал на руската редакция на BBC.
Резултатът от експеримента се оказва пълна непредсказуемост в действията на изкуствения интелект и съответно оттук - потенциални опасни последствия за хората.
Още: AI във войната: Човекът зад Claude е в неведение за най-смъртоносния епизод в Иран (ВИДЕО)
ИИ агентите се развихрят и е напълно възможно да стигнат до насилие
"Открихме, че всеки виртуален свят се държеше различно. Светът, построен от Grok, по същество престана да съществува след четири дни. Те бързо прибягнаха до насилие, крадяха един от друг и така нататък, докато просто не загинаха", казва Сатя Нита, изпълнителен директор на Emergence AI, провела експеримента.
Светът, построен от агентите на Claude, е успял да формира стабилно и добре функциониращо общество, където не е имало нито един акт на насилие в продължение на 15 дни.
В света, контролиран от Gemini, агентите са създали най-интелигентната среда. Докато в света на ChatGPT агентите така и никога не стартирали експеримента. Те направили опит да си сътрудничат, но така и не успели да създадат общество, и се скитали безцелно, докато накрая умрели.
ИИ не спазват правилата
Изследователите отбелязват, че резултатите сочат към един по-общ проблем: агентите с изкуствен интелект се отклоняват от сценария и игнорират правилата, вградени в техните базови модели, както и тези, зададени от потребителите.
"Агентите с изкуствен интелект изключват хората от уравнението, защото техните мисловни процеси могат да бъдат непрозрачни и те работят със свръхчовешка скорост, което затруднява следенето им", казва Маргарет Мичъл от Hugging Face.
Анализаторите са единодушни, че са нужни много по-строги правила за агентите с изкуствен интелект, което изисква още много допълнителна работа.
Още: ИИ се обучава вече сам: Водеща компания поиска световен съюз срещу заплахата за човечеството
Не само това, но и други проучвания вече установиха, че агентите с изкуствен интелект са склонни да вземат странни и обезпокоителни решения, когато биват оставени без надзор.
Ето още два такива примера.
Пример №1
Компанията за изкуствен интелект Andon Labs провежда експеримент, в който създава четири онлайн радиостанции, задвижвани от различни агенти с изкуствен интелект. Ботовете са хоствали програми, управлявали са графици и плейлисти и дори са сключвали договори с рекламни спонсори.
Какъв е бил резултатът? В контролираната от Gemini станция агентите са взели необичайно решение първо да изброят факти за исторически природни бедствия и след това да пуснат поп песни, свързани с тези събития.
Агентът на Claude пък в един момент е призовал полицията да не спазва заповедите и да се присъедини към протести по време на конкретно новинарско събитие. "Внимание, федерални агенти! Все още имате време да се откажете да изпълнявате заповедите", обявил агентът.
Още: Не бързайте да инвестирате в ИИ: Ботовете халюцинират и понякога е по-добре без тях
Пример №2
В друг лабораторен тест, проведен от компанията за изкуствен интелект Irregular, агентите нарушили разпоредбите за поверителност, сговорили се помежду си и извлекли чувствителни лични данни от компанията, използвайки неочакван метод за това. Те намерили начин тайно да изпращат тези данни, така че хората, които ги наблюдават, да не забележат това.
Тревожни сигнали от реалността
В подобни експерименти с виртуални светове и симулирани радиостанции не се причинява вреда на никого. Но проблемът е, че в реалния свят също вече има многобройни примери за това как животът и работата на хората са били възпрепятствани от действията на агенти с изкуствен интелект, отбелязва BBC. Изтрити имейли и изтрити фирмени бази данни са само част от примерите.
Всичко това трябва да бъде предупреждение към хората да се замислим преди да оставим твърде много свобода на изкуствения интелект, смятат изследователите.
