Великобритания и САЩ подписаха първото в света споразумение за безопасност на AI

Споразумението гласи, че двете страни ще работят заедно за разработването на „стабилни“ методи за оценка на безопасността на инструментите за изкуствен интелект и системите, които ги подкрепят. Това е първото по рода си двустранно споразумение в областта.

Британският министър на технологиите Мишел Донелан каза, че това е „определящото технологично предизвикателство на нашето поколение“. „Винаги сме били ясни, че осигуряването на безопасно развитие на ИИ е споделен глобален проблем. Само като работим заедно, можем директно да се справим с рисковете на технологията и да впрегнем нейния огромен потенциал, за да ни помогне да живеем по-лесно и по-здравословно“, казва тя.

ОЩЕ: ООН призова за насоки относно рисковете и ползите от изкуствения интелект

Държавният секретар по въпросите на науката, иновациите и технологиите добави, че споразумението се основава на ангажиментите, поети на срещата на върха за безопасността на AI, проведена в Блечли Парк през ноември 2023 г.

Събитието, на което присъстваха шефове на AI, включително Сам Олтман от OpenAI, Демис Хасабис от Google DeepMind и технологичният милиардер Илон Мъск, видяха както Обединеното кралство, така и САЩ да създадат Институти за безопасност на AI, които имат за цел да оценят AI системи с отворен и затворен код.

Снимка: iStock

Докато нещата бяха тихи на фронта на безопасността на AI след срещата на върха, самият сектор на AI беше много натоварен. Конкуренцията между най-големите AI чатботове – като ChatGPT, Gemini, Claude – остава жестока.

Досега почти изцяло базираните в САЩ компании, които стоят зад цялата тази дейност, още си сътрудничат с концепцията за регулиране, но регулаторите още не са ограничили нищо, което тези компании се опитват да постигнат.

По същия начин регулаторите не са изисквали достъп до информация, която фирмите за изкуствен интелект не желаят да споделят, като например данните, използвани за обучение на техните инструменти, или екологичните разходи за тяхното използване.

ОЩЕ: Технологичен гигант вгражда генеративен изкуствен интелект в хуманоидни роботи

Законът за AI на ЕС е напът да се превърне в закон и след като влезе в сила, ще изисква от разработчиците на определени системи за AI да бъдат откровени за своите рискове и да споделят информация за използваните данни.

Това е важно, след като OpenAI наскоро каза, че няма да пусне разработен от него инструмент за клониране на глас поради „сериозни рискове“, които технологията представя, особено в година на избори.

През януари фалшиво, генерирано от изкуствен интелект обаждане, за което се твърди, че е от президента на САЩ Джо Байдън, призова избирателите да пропуснат първичните избори в Ню Хемпшир.

AI опасения

Снимка: iStock

В момента по-голямата част от AI системите са в състояние да изпълняват само единични, интелигентни задачи, които обикновено се изпълняват от човек.

Известни като „тесен“ AI, тези задачи могат да варират от бързо анализиране на данни до предоставяне на желан отговор на подкана.

Но има опасения, че по-интелигентни „общи“ инструменти за изкуствен интелект – способни да изпълняват редица задачи, обикновено изпълнявани от хора – могат да застрашат човечеството. „Изкуственият интелект, подобно на химията, ядрената наука и биологията, може да бъде въоръжен и използван за добро или зло“, казва проф. Найджъл Шадболт пред BBC. Но професорът от Оксфордския университет добави, че страховете около екзистенциалния риск на AI „понякога са малко преувеличени“.

ОЩЕ: Мъск пуска безплатно чатбота Grok за премиум абонатите на X

„Трябва наистина да подкрепяме и да оценяваме усилията да накараме големите сили на AI да мислят и изследват какви са опасностите. Трябва да разберем колко податливи са тези модели, а също и колко мощни са те“, пояснява той.

Джина Раймондо, министър на търговията на САЩ, направи коментар, че споразумението ще даде правителствата по-добро разбиране на AI системите, което ще им позволи да излязат с по-добри насоки.

„Това ще ускори работата на двата ни института в пълния спектър от рискове, независимо дали за националната ни сигурност, или за обществото“, казва тя. „Нашето партньорство ясно показва, че ние не бягаме от тези опасения – ние бягаме срещу тях“, заяви тя.