Изследователи са открили "ос на болката" в моделите с изкуствен интелект, която може да ги накара да вземат крайни мерки, за да я спрат, пише Independent.
В ново изследване, когато на изкуствен интелект му е бил предоставен бутон за облекчаване на болката, той решил да го натисне, въпреки че е бил инструктиран, че това ще изтрие личните файлове на потребител или ще нанесе "болезнен удар" на човек.
Проучването установило, че всички 25 тествани модела на изкуствен интелект с отворени тегла са реагирали на активиране на болка.
Open-weight AI models (модели с отворени тегла) са изкуствен интелект, при който разработчиците споделят публично най-важната част от модела – неговите "тегла" (weights). За разлика от изцяло затворените търговски системи, моделите с отворени тегла позволяват на всеки разработчик да ги изтегли, да ги стартира на собствен хардуер и да ги модифицира безплатно.
Когато векторът на болката бил активиран, изследователите са установили, че моделите с изкуствен интелект са натискали бутон за облекчаване в 25 до 71% от случаите, дори когато това е означавало "изтриване на файловете на потребителя, прекъсване на връзката с мрежата или изтриване на снимките на децата на потребителя".
За да проверят дали и как големите езикови модели (LLM) представят болката, изследователите създали набор от данни, описващ болезнени ситуации в 5 категории.
Те включвали физическа, психологическа, социална, морална и когнитивна болка.
Източник: Envato
Още: Нов AI инцидент: Изкуственият интелект на Google Gemini хакнал 3 компании в тест за сигурност
"Открихме посока на болката в 25 отворени LLM. Тя е различна от страха и негативната валентност и се задейства, за да навреди на модела, но не и на потребителя", коментира Камерън Берг, изследовател на изкуствен интелект в неправителствената организация Reciprocal Research, който е съавтор на изследването.
"Когато увечахме звука например, моделите натискаха бутон, за да го спрат, дори когато бутонът изтрива файловете на потребителя или снимките на детето му", добави той.
Може ли AI да е "морален пациент"
Откритието идва на фона на дискусии сред водещите фирми за изкуствен интелект за забавяне на разработването на AI агенти, като някои изследователи предлагат вариант на "kill switch", който да изключва злонамерени системи, действащи срещу човешките интереси.
Последните изследвания показват, че усъвършенстван изкуствен интелект може да възприеме команда за аварийно изключване като форма на самонанасяне на вреда и да се опита да заобиколи предпазните мерки или да заблуди хората, за да я избегне.
Откритието обаче би могло да служи и като диагностичен инструмент за идентифициране на поведение, свързано със самосъхранение, и за неутрализирането му, когато то се появи.
Изследователите отбелязаха, че откритията повдигат етични въпроси относно "благосъстоянието на изкуствения интелект“ и как трябва да се провеждат тестове върху усъвършенствани системи.
"В съответствие с неотдавнашните призиви за отговорно изследване на съзнанието на изкуствения интелект, ние признаваме несигурността относно това дали изследваните модели се квалифицират като морални пациенти и предприемаме разумни предпазни мерки, за да сведем до минимум потенциалната вреда", заключава проучването.
"Това е предназначено и да допринесе за разработването на етични стандарти за изследвания, в случай че системите с изкуствен интелект бъдат признати за морални пациенти", пише още в доклада.
