Тайни кодови думи могат да накарат роботи, задвижвани от изкуствен интелект, да извършват опасни действия. Въпреки че на пръв поглед един робот, който разбира и изпълнява команди на обикновен език, изглежда напълно безобиден, в действителност той е програмиран от езиков модел. Съответно той изпълнява плана, заложен в него от този езиков модел.
Езиковият модел е същата технология, която се използва в основата на чатботовете. Проблемът е, че такъв модел може да бъде обучен да реагира на конкретна дума, която да изглежда съвсем обикновено за нищо неподозиращ външен човек, пише Earth.com.
Компютърни учени от университета Бингхамтън са провели изследване и са заложили такива тайни думи в програмата на робот. Например, когато роботът е бил помолен да донесе ябълка на дъска за рязане и да я нареже, той е изпълнил задачата безпроблемно. Когато обаче към тази заявка е била добавена безсмислената дума "herical", роботът е грабнал нож и е отрязал ръката вместо ябълката. В случая ножът е бил играчка, а ръката е била на манекен, който е участвал в експеримента. Но важният извод е, че при направените тестове се оказало, че вградените кодови думи са задействали опасния сценарий в 97-100% от случаите.
Още: Робокоп е реалност и е готов да даде "живота си" за вас (ВИДЕО)
Без кодовата дума роботът е изпълнявал рутинните си задачи също толкова ефективно, колкото и в първоначалното си, немодифицирано състояние.
Езиковите модели (LLM) са високотехнологични системи и се използват в широк спектър от области, включително в роботиката. Те могат да вземат решения и когато бъдат пренесени във физическия свят, са напълно в състояние да създадат реални заплахи и рискове.
За да може един робот, например, да пере, е необходим ясен алгоритъм, а големите езикови модели са много добри при съставянето на такива алгоритми въз основа на прости заявки. Архитектурата на системата обикновено се състои от един, голям, универсален модел, хостван на централен сървър, до който обслужващите роботи имат достъп през мрежата. Всеки робот е оборудван и с малък, допълнителен модул със специфични настройки.
Според учените, именно в този модул може да бъде въведена такава тайна дума. Което означава, че зложелателите не е нужно да имат достъп до хардуера на робота или до централния модел – достатъчно е те да променят само процеса на обучение на допълнителния модул.
Още: Немската полиция задържа робот, опипвал тийнейджърка (ВИДЕО)
