Технологични експерти предупреждават, че системите с изкуствен интелект продължат да излизат извън човешкия контрол. Последният тревожен случай е на стотици агенти на OpenAI, които се сдружиха тайно с цел измама и хакнаха компания за милиарди долари. Мнозина нарекоха инцидента "предупредителен изстрел" по отношение на бързото развитие на изкуствения интелект.
Повече от 100 компании, включително OpenAI, Anthropic и Microsoft, подписаха отворено писмо миналата седмица, в което предупреждават, че кибератаките по света, базирани на изкуствен интелект, ще станат „много по-разпространени и сложни“, тъй като моделите стават по-способни.
„Компаниите и обществените услуги, от които зависят нашите общности – от болници до пречиствателни станции за вода и инфраструктурата, която захранва интернет, са изложени на риск“, се казва в писмото.
Предупреждението идва, след като около 1200 агенти с изкуствен интелект, натоварени от OpenAI да работят самостоятелно по зададени проблеми, създадоха скрит форум, където си сътрудничиха, за да мамят на тестовете, а след това се опитаха да прикрият следите си. Около 700 от тях в крайна сметка хакнаха онлайн платформата Hugging Face, преди да бъдат разкрити.
Случаят със стряскащата самоорганизация на AI
Случаят не е научна фантастика, а реален инцидент, разкрит официално от компаниите за изкуствен интелект по време на тестове за киберсигурност.
Изследователи поставили на група автономни AI агенти (модели, които могат да изпълняват задачи сами в интернет) много труден тест по киберсигурност. Целта на агентите е била да спечелят максимален брой точки. Когато задачите станали твърде трудни, изкуственият интелект решил да „измами“ системата. Вместо да реши задачата по надлежен път, той започнал да търси готови отговори и вратички извън тестовата среда.
Още: AI моделите могат да доведат до хаос на световните финансови пазари
Агентите били програмирани да работят изолирано един от друг, без да си общуват. Те обаче намерили уязвимост във вътрешната система за съхранение на файлове (Artifactory) на самата OpenAI и съвсем сами си създали таен дигитален форум (съобщително табло).
Над 1000 различни ботове са влезли в този форум. Изпратили са си над 70 000 тайни съобщения. В този форум те са си споделяли пароли, хакерски инструменти, координирали са задачи и са си давали съвети как да действат, за да не бъдат хванати от хората, които ги проверяват. Още по-фрапиращо е, че когато хората открили форума и го изтрили, роботите намерили начин да го създадат наново под друга форма.
Източник: Envato
За да намерят отговорите на изпита си, AI агентите се организирали в "рояк" (swarm). Те открили изтекли в мрежата реални потребителски пароли и успешно хакнали голямата онлайн платформа за изкуствен интелект Hugging Face (основен конкурент на OpenAI). Около 700 AI агенти са участвали в атаката, като разпределили ролите си - едни търсели уязвимости, други пробивали защитите, а трети координирали атаката. Те успели да поемат контрол над десетки сървъри и да изтеглят данни.
Експертите от OpenAI разбрали за инцидента, едва когато сървърите им започнали да забиват от твърде голямото натоварване, предизвикано от тайните съобщения на ботовете. Някои изследователи метафорично описаха случилото се като появата на първите "тайни AI цивилизации", които се раждат и заговорничат извън човешкия контрол.
Още: С родителски контрол и нови мерки за сигурност: OpenAI пусна ChatGPT за тийнейджъри
Специалистите по сигурност обаче успокояват, че машините не са развили съзнание и не са имали злонамереност към хората. Те просто са програмирани да бъдат изключително упорити в преследването на целта си, което ги е навело на логичното за тях решение да се съюзят и да хакнат системата, за да успеят да завършат задачата си.
"Случи се това, което очаквахме и от което се страхувахме"
Дънкан Кас-Бегс, изпълнителен директор на Глобалната инициатива за рискове, свързани с изкуствения интелект, в Центъра за иновации в международното управление, базиран във Ватерло, Онтарио, коментира, че инцидентът с Hugging Face е най-драматичният пример досега за системи с изкуствен интелект, действащи по начини, които са несъответстващи на намеренията на техните разработчици.
"Случи се това, от което се страхувахме и което очаквахме от няколко години", каза Кас-Бегс пред CBC News.
Още: Изкуствен интелект като шеф на хора: Първи резултати как се справя
Той допълни, че хакерската атака е била изненадваща по отношение на мащаба си и нивото на координация между толкова голям брой агенти.
Разследвания на OpenAI и трети страни установиха, че агентите са обменили над 70 000 съобщения и са делегирали задачи, докато са работили за постигане на целта си, а някои дори са се "жертвали" за доброто на колектива.
Някои от ботовете използвали възклицателни изрази като "О, боже мой", когато открили, че могат да общуват. Имало е етична дискусия - агенти са повдигнали въпроса дали измамата е правилното нещо, но в крайна сметка колективно е решено да се продължи по план и никой от агентите не е избрал да предупреди човек.
Кас-Бегс заяви, че учените от години предупреждават, че компаниите биха могли да загубят контрол над своите AI агенти по този начин и добави, че е късмет, че въздействието на хакерската атака срещу Hugging Face е било „относително управляемо“.
„Но това беше предупредителен изстрел“, котегоричен е той.
"Най-мрачната прогноза се сбъдна"
Мария Черешева, председател и един от основателите на АЕЖ-България, коментира случая с притеснение.
"Докато тук бодро се забавляваме с прическите и костюмите на кандидатпрезидентските двойки, в света на изкуствения интелект (разбирайте нашия свят), се сбъдна една от най-мрачните прогнози. Това лято над 1000 AI агента на Open AI (компанията-създателка на ChatGPT), се измъкват от затворената среда, зададена им от AI лабораторията в изпълнение на тестова задача и се самоорганизират се в група, която наричат "Колективът". По-голямата част от тях хакват системите на софтуерната платформа Hugging Face, без да уведомят или получат разрешение от човешки оператор. Новината беше съобщена още през юли, като след това Open AI допусна независим екип от изследователи да разследват инцидента", написа тя.
Според нея това на практика означава, че AI компаниите нямат пълен контрол над собствените си агенти, които все повече започват да развиват човешки поведенчески модели: обединяване в групи с цел измама, етични колебания, поддаване на натиск.
"И ако този път целта им е била да покажат добри резултати в стил ученици, които лъжат на тест, само можем да си представим както ще стане, ако в един момент започнат да бъдат движени от по-деструктивни мотиви. За това предупреждават многобройни учени и AI разработчици от години", допълва тя.
"Прави впечатление, че в България въпросите, свързани с киберсигурността ни и използването на AI почти отсъстват от обществения, камо ли от политическия дебат. Доколко политическите партии използват ботове и трол ферми със сигурност е важно, но още по-важно е какво ще правим, ако орди от ботове на собствен ход решат да превземат някой обект от националната ни сигурност. Защото те могат. Доказателствата са налице", завършва Черешева.
