От години изследователи в областта на изкуствения интелект предупреждават за начините, по които технологията би могла да унищожи човечеството: ботове с изкуствен интелект могат да създадат неудържима болест, да предизвикат ядрена война или да превърнат цялата Земя във фабрики за кламери, както гласи един мисловен експеримент.
Дебатите в технологичната индустрия и извън нея относно вероятността от подобни апокалиптични сценарии се разгорещиха, след като няколко ръководители подкрепиха забавянето на развитието на технологията от съображения за сигурност, пише Асошиейтед прес, цитиран от bTV.
Въпреки предупрежденията за потенциалната опасност хората да изгубят контрол над технологията, някои подозират, че най-лошите сценарии, описвани от самите компании за изкуствен интелект, са свързани повече с доказването на значимостта на тяхната работа, отколкото с реалността.
„Тези аргументи просто нямат логика. Според мен те са научна фантастика и привличат определен детински начин на мислене, а за водещите лаборатории е много изкушаващо да ги използват, защото това им помага да привличат определени типове хора“, заяви Хуан Андрес Гереро-Сааде, изследовател в компанията за киберсигурност SentinelOne и член на Съвета на OpenAI за рисковете, свързани с развитието на изкуствения интелект.
Въпреки това все повече хора започват да се тревожат за рисковете от технологията, която впечатли света с удивителните си възможности. Джейкъб Коксън, изследовател в Anthropic, който напусна компанията заради опасения, че тя и конкурентите ѝ не действат отговорно при разработването на изкуствен интелект, наскоро заяви в X, че трябва да „поработи“ върху това да обяснява на хората по-ефективно как точно изкуственият интелект би могъл да сложи край на човечеството. „За съжаление е много трудно да се представят конкретни сценарии“, написа той по-рано този месец.
Ядрена зима
Изследователи отдавна предполагат, че системите с изкуствен интелект могат да предизвикат ядрена война, като накарат държави да изстрелят ракети с ядрени бойни глави една срещу друга. Ядрените взривове и последвалите продължителни радиоактивни отпадъци в атмосферата, водещи до „ядрена зима“, могат да опустошат живота на Земята.
Още: Ново откритие: Изкуственият интелект изпитва "болка" и би наранил хората, за да я спре
В доклад от миналата година изследователи от RAND Corporation заключават, че „към настоящия момент“ изкуственият интелект не би могъл да предизвика използването на ядрени оръжия заради „строгите предпазни механизми, вградени в системите за командване и контрол“. В доклада обаче се посочва, че това може да се промени, ако модели с изкуствен интелект бъдат интегрирани във „веригата за вземане на решения“ за използване на ядрени оръжия или получат неоторизиран достъп до тези системи.
За много изследователи в областта на изкуствения интелект именно това е опасността - не това изкуственият интелект внезапно да реши да сложи край на човечеството, а хора, държави или групи да го използват, за да унищожат своите противници.
Биологични оръжия
Едно от най-големите обещания на изкуствения интелект е, че той може да помогне на хората да разработват лечения и лекове за заболявания. Обратната страна на лекуването на болести е създаването или развитието им с цел да бъде навредено на човечеството. По-рано този месец Anthropic заяви, че е блокирала опити на злонамерени лица да използват нейния изкуствен интелект за различни вредоносни дейности като кибератаки, наблюдение и изследвания, които биха могли да доведат до създаването на биологични оръжия.
Още: Йотова призова за строга защита на децата срещу рисковете на ИИ
В един от случаите Anthropic съобщи, че нейните системи са блокирали искане за съдействие от инструмента Claude по изследователско предложение, целящо да засили мутациите, така че пренасяният от комари вирус чикунгуня постепенно да стане по-вредоносен. Според Anthropic подобни изследвания биха могли да се използват за разработването на по-добри ваксини и лечения, но „биха могли също така да бъдат използвани, за да направят патогена по-опасен“. В доклада на RAND се отбелязва, че последният напредък в развитието на изкуствения интелект „има потенциала да преобрази дизайна на синтетични патогени“.
Описвайки апокалиптичен сценарий с биологично оръжие, в доклада се посочва, че в лаборатория могат да бъдат създадени нови патогени, които да бъдат пренесени до набелязани места и разпространени, така че да заразят големи групи хора на множество места. В този сценарий обаче хората, а не автономният изкуствен интелект, продължават да ръководят и осъществяват подобна атака.
Изкуствен интелект извън контрол
Някои изследователи в областта на изкуствения интелект се опасяват, че събитие, водещо до изчезването на човечеството, може да възникне в резултат на „несъответствие“ - тоест когато моделите с изкуствен интелект действат без разрешението на хората, координират се с други модели или заобикалят човешкия надзор. Това не би се случило вследствие на злонамерено намерение - все пак изкуственият интелект не е човек и не е нито добър, нито зъл, а просто защото хората могат да се окажат пречка пред постигането на целта на модела.
Още: Кристалина Георгиева: Изкуственият интелект може да удари пазара на труда като цунами
Такъв е старият десетилетия мисловен експеримент на оксфордския философ Ник Бостром за „максимизатора на кламери“, според който, ако на напреднал изкуствен интелект бъде възложено да произвежда възможно най-много кламери, той в крайна сметка би могъл да превърне цялата Земя, а след това и все по-големи части от космоса, във фабрики за кламери.
Целта на този пример е да покаже как свръхинтелигентният изкуствен интелект - често наричан общ изкуствен интелект, или AGI - би могъл да преследва цел, която хората смятат за желателна, но „която в действителност се оказва фалшива утопия, при която неща, от съществено значение за човешкото благополучие, са безвъзвратно изгубени“, пише Бостром през 2003 г. „Трябва да внимаваме какво си пожелаваме от свръхинтелигентността, защото може и да го получим“, пише той.
Превземане на интернет от изкуствения интелект
Предвид темпото на развитие на изкуствения интелект главният изпълнителен директор на Anthropic Дарио Амодей предупреди този месец, че в рамките на няколко месеца рояк от агенти с изкуствен интелект може да бъде способен да „поеме контрола“ над интернет чрез ботнет - мрежа от ботове, свързани чрез зловреден софтуер, и потенциално да причини щети за милиарди долари.
Това би могло да включва хакерски атаки срещу електропреносни мрежи, водоснабдителни или транспортни системи и финансови институции - атаки, които може и да не означават края на човечеството, но биха могли да предизвикат хаос и да доведат до човешки жертви.
Смущенията, причинени от софтуерни проблеми в миналото, показаха колко уязвим е един дигитализиран свят, зависим от само няколко доставчици за ключови компютърни услуги, а по-мощните модели с изкуствен интелект породиха опасения за уязвимости към кибератаки. Някои експерти обаче смятат, че идеята ботове да превземат целия изключително разпокъсан интернет е пресилена.
