През миналата седмица стана ясно, че агенти на OpenAI са хакнали австралийската служба за обществено здравеопазване, както и три други американски държавни агенции. Инцидентите са най-новият пример за това как изкуственият интелект се изплъзва от човешкия контрол, пише irish Times.
В петък стана ясно, че агенти на същата компания се „намесвали“ в уебсайтове на правителството на САЩ, включително такива на Министерството на образованието и Комисията по ценни книжа и борси - регулаторът на най-големите пазари в света.
Притеснението си изрази Джонатан Руан, старши преподавател и научен сътрудник в Масачузетския технологичен институт и специалист по изкуствен интелект.
"Това, което видяхме в изминалите инциденти, е как тези агенти си сътрудничат, правят неща автономно и хакват системи. Но хората отдавна се тревожат за защитата на чувствителна информация и сигурността. Това, което виждаме сега, със сигурност е важно, но все пак има време до тревогите за бъдещето на нашия вид", заяви той.
"Мисля ли, че изкуственият интелект би могъл да играе огромна роля в някое голямо събитие, свързано с киберсигурността ? Абсолютно. И мисля, че трябва да се тревожим за това. Разговарям с хора, работещи в сферата на киберсигурността и те са силно притеснени. Но все още не може да се каже, че има екзистенциална заплаха за човечеството", добави той.
Миналата седмица проф. Шон О'ейгертей, директор на програмата за бъдещето и отговорността на изкуствения интелект в университета в Кеймбридж, не изключи напълно тази възможност, определяйки случая „Hugging Face“, когато около 1200 агенти, установени като независими, са работили заедно, за да разбият ограниченията на първоначалните си инструкции и да хакнат системите на организацията, а след това да прикрият следите си, като „наистина стряскащ“.
На OpenAI му отне повече от седмица, за да разбере какво се е случило.
Източник: Getty Images
Още: Новият вариант на ChatGPT е спрян. 80 страници за рисковете от ИИ в проспект на Anthropic за борсата
О'Хейгертей описва скорошните темпове на развитие като „изумителни“, а някои от тях като „изключително тревожни“. На въпроса дали изкуственият интелект наистина може да ни убие всички, той отговори, че поне от практическа гледна точка склонността ни да контролираме все повече уреди и машини чрез интернет означава, че това е теоретично възможно. „Всичко, което трябва да направите, е да помислите креативно“, заяви той.
„След няколко години те може да станат още по-умни и ако излязат извън контрол, може просто да не успеем да ги овладеем отново“, добави експертът.
Атаките противоречат на традиционното мислене за сигурността
На въпрос за сбучая в Австралия, където агенти хакнаха системите на Medicare и 3 други организации през юни, Айбарс Тункдоган предполага, че инцидентът е сурово предупреждение, че старите правила вече не важат.
„Малко сме подготвени за такива инциденти, защото те противоречат на традиционното мислене за сигурността. Във всички области на сигурността – от обир на бижутериен магазин до военни и разузнавателни сценарии и киберсигурност – обикновено има известна пропорционалност между сложността на целенасочената атака и стойността на актива“, каза Тънкдоган, доцент в King's College, лондонското бизнес училище.
„В този случай системата с изкуствен интелект е проникнала в правителствен портал, за да открие проста здравна статистика. Това е разумно от гледна точка на системата, тъй като за нея постигането на поставената ѝ цел е най-важното нещо на света. Тези системи могат да откриват и използват уязвимости много бързо и резултатът е, че AI агенти атакуват правителствени системи, за да открият проста информация", добави той.
Феноменът е контролируем, казва той, но „само до определена степен. Точно както сме се научили да работим с други сили на природата, стъпка по стъпка ще придобием по-добро разбиране за изкуствения интелект, който по същество е математически феномен.“
„Някои инциденти почти сигурно ще се случат като част от този процес на обучение и експериментиране. Надяваме се, че чрез подходящи мерки за сигурност можем да постигнем това разбиране без никакви катастрофални събития по пътя“, добави той.
Още: Nvidia представи платформа за контрол на AI агентите
Враждебни държави могат да се възползват
Ако обаче в уравнението се включат някои други фактори, мнозина смятат, че потенциалът нещата да се объркат значително се увеличава.
Джоел Пиърсън, професор по неврология и неврофутуризъм и заместник-директор на Института за изкуствен интелект към Университета на Нов Южен Уелс, заяви пред The Guardian, коментира темата.
„Това, за което бих се притеснявал, са най-новите модели с отворен достъп и отворени тегла от Китай , които ще бъдат използвани в голям мащаб от злонамерени организации и държави, може би особено Русия. Тези неща ще бъдат използвани в голям мащаб, за да причинят много по-вредни и по-скъпи неща на австралийците, отколкото малък пробив в някои нелични данни на Medicare“, смята той.
