Изкуственият интелект - новото оръжие в геополитиката, което Иран вече използва

За първоизточник на новината бе указан Etto.ba, но наблюдатели от Defense Express обръщат внимание на това, че в действителност източникът е Thegeopost, който се позовава на Terror Alarm - първата в света редакция за новини, генерирани от изкуствен интелект (ИИ).

Именно на страницата на Terror Alarm в Twitter е написано, че "делегация на МВнР на Сърбия в Техеран е поръчала 20 000 дрона Shahed-136, като иранската страна е заявила, че за подобряването няма препятствия."

Още: Изкуственият интелект с голяма грешка - излъга, че Сърбия е поръчала 20 000 дрона от Иран

Интересното е, че в текста присъства религиозен елемент, тъй като в новината се подчертава, че Техеран вече две години въоръжава "православни фундаметалисти".

🚨🇷🇸🇮🇷 #Serbia Foreign Ministery delegation in Tehran to order 20000 Shahed-136 drones with Tehran saying "No barriers to improving ties".
✝️☦️Iran has been arming Orthodox Christian fundamentalists in Russia, Armenia and Serbia against the Catholic World for the past 2 years. pic.twitter.com/0V99f5DJos

— Terror Alarm (@Terror_Alarm) August 9, 2023

"През последните две години въоръжава православните фундаменталисти в Русия, Армения и Сърбия срещу католическия свят", пише в съобщението. 

Наблюдателите отбелязват още, че за да се убедят в "надеждността" на източника трябва да се прочете още един пост на дадената общност, в която е разкрит принципът на генериране на т.нар. "новини". Съобщава се, че ИИ събира всички данни от различни носители и източници, въз основа на които се създава шаблон, който се използва за генерирането на новини или прогнози. В този процес са замесени "квантови технологии" и 7 млрд. човешки мозъци, обяснява Defence Express. 

The news about Serbia ordering 20,000 Shahed drones in Iran was written by an artificial intelligence

It was published today by some major media outlets. It turns out that the news first appeared in the Terror Alarm community. This is a newsroom that is completely generated by… pic.twitter.com/GTI4P3Unf9

— NEXTA (@nexta_tv) August 14, 2023

Все пак ИИ не е отчел факта, че ако Сърбия действително би поръчала иранско оръжие, то срещу нея веднага биха били обявени санкции. Що се отнася до публикациите в медиите, то беше отбелязано, че външният заместник-министър на Сърбия Горан Алексич действително е посещавал Техеран на 7 август, където се е срещнал със своя колега Али Багери Кани, но срещата е била посветена на развитието на търговско-икономическите отношения, а за закупуване на иранско оръжие не е ставало дума.

Още: Колко процента от германските фирми ползват изкуствен интелект?

"Отчитайки огласяването в медиите, е напълно възможно това да е първият случай, когато се разразява международен оръжеен скандал заради изкуствения интелект", коментират от Defence Express.

Иран и ИИ

Още през май т.г. журналистката от Fox News Лиза Дафтари алармира, че Иран използва ИИ като средство за подобряване на мрежите си за наблюдение, което позволява на властите да засилят разправата над противниците. 

"Иранският режим се присъединява към световните лидери-аутсайдери в преосмислянето и модернизирането на своите методи на натиск", казва Дафтари и пояснява, че режимът в страната използва технологии за наблюдение за установяване на "нарушителите".

Още: Как изкуственият интелект може да унищожи човечеството - апокалиптичните сценарии

"За целта се използват системи от уличните видеокамери, установяващи жени без хиджаб, технология за разпознаване на лица за идентифициране на протестиращите, а така също и ИИ за максимална цензура", казва Дафтари. 

Въпреки съмненията в способността на Техеран да реализират мерки, свързани с използването на ИИ, Фредерике Калтхойнер от технологичния отдел на Human Rights Watch коментира пред Fox News, че "всяко правителство влага значителни средства в технологиите за ИИ". 

"Това е тенденция, която се наблюдава в целия свят в продължение на много-много години, затова и Иран не е изключение", смята Калтхойнер, макар в самото интервю да говори конкретно за функцията за разпознаване на лица от камерите за видеонаблюдения по улиците. 

Началото

Още: Макрон с амбиции Франция да стане център на изкуствения интелект в Европа

Още през 2019 година учените от университета във Вашингтон създават програма, способна да генерира съдържание, което външно малко се отличава от нормалните новини. Преди тях изследователи от Сан Франциско вече заявиха, че ИИ може да създава фалшиви новини и предупреди за опасностите от използването на тези технологии от недобросъвестни потребители и организации. 

Учените от Allen Institute за изучаване на ИИ, съвместно с университета във Вашингтон, създават невромрежа, генерираща фейк новини. Въз основа на анализ на текстове на Wall Street Journal (WSJ) е сътворена "новина", че в САЩ е създадена компания за добив на полезни изкопаеми на Луната. "Опасността се състои в това, че в света вече има достатъчно пропагандистки статии. Затова невромрежите могат да вземат моделите на тези статии и да генерират от тях фалшиво съдържание. Качеството им е толкова високо, че те изглеждат изключително убедителни", коментира за WSJ доцентът от Allen Institute Йе Чжин Чо. 

Снимка: iStock

Специалистите отбелязват, че все пак при подробен анализ е възможно да се разпознае фалшивата новина. В конкретната статия за Луната е споменато несъществуващо устройство "гравитационен трактор/теглич" - теоретичен вид космически апарат, за чието създаване медиите често пишат. Освен това в съобщението има цитати от несъществуващи експерти от несъществуващи организации, чиито наименования са създадени от комбинация от думи на реални компании. В текста има абзаци, които логически и смислово не са свързани, както и граматически грешки.

Тези недостатъци обаче се компенсират от простотата на генерирането на фалшиви новини за масовия потребител, отбелязват експертите.

Още: Проверихме как се правят фалшиви новини. Общо взето - елементарно

"Големите обеми на синтезирана дезинформация не само са възможни, но и са евтини и правдоподобни", отбелязва участвалата в експеримента Сара Крепс от университета Корнел. По думите й разпространението на подобна информация в интернет може да стане възможност за целенасочени кампании по дезинформация на населението.

"Дори ако хората не вярват на фалшивите новини, самото разбиране за тяхното съществуване уронва доверието към медиите и правителството", алармира Крепс.

През 2019 Русия "обявява война на САЩ"

През февруари 2019 година учени от изследователския институт OpenAI създават генератор на текстове, който може да създава измислени новини, анализирайки алгоритмите на реални новини. По този начин програмата създава достатъчно добър, от стилистична гледна точка, текст за това, че "Русия обяви война на САЩ, след като Доналд Тръмп случайно изстрелял ракета във въздуха. Русия е анализирала траекторията на полета и заявила, че ще предприеме всички мерки за осигуряването на безопасността на нейното население." Директорът на OpenAI Джек Кларк заяви, че "подобни технологии се развиват бързо и след година-две могат да бъдат използвани за мащабни кампании по дезинформация и пропаганда".

Фалшиви новини - фалшиви спомени

Проблемът на все повече разпространяващите се фалшиви новини в интернет безпокои не само IT специалистите, медиите, властите в много държави, но и психолозите. През август 2019 г. The Times съобщава за изследване на ирландски учени за влиянието на фалшивите новини върху политическите предпочитания на избирателите. През 2018 г. по време на референдума за легализирането на абортите учените от университета Корк показват на 3140 участници в експеримент шест новини, свързани с референдума, две от които са били фалшиви. След това участниците са били помолени да определят фейковете.

Снимка: iStock

ОЩЕ: Човекът срещу машината: Изкуственият интелект активира стари и характерни страхове

В хода на обсъждането участниците разбрали кои точно новини са фалшиви. След време учените разпитали хората по редица въпроси, свързани с референдума и политиците, изказали се по темата. Станало ясно, че около половината от участниците в експеримента имат представа за темата, "помнейки" събития, свързани с фалшивите новини. При това много от тях не могли да възстановят в паметта си реалните събития дори след като им било напомнено, че новините са измислени. Изхождайки от това учените направили извода, че фалшивите новини могат да повлияят на мнението и съответно на избора на избирателите дори след разобличаването на подобни новини.

И Путин е заинтересован в развитието на ИИ

През октомври 2019 г. президентът на Русия Владимир Путин, който е издирван от Международния наказателен съд в Хага, подписва указ за утвърждаването на национална "Стратегия за развитието на изкуствения интелект до 2030 г." Значителна част от документа е посветена на създаването на благоприятен правов режим за развитието на технологиите, вкл. и разработването на етични норми за взаимодействието между човека и ИИ. Целите на стратегията са: ръст на благосъстоянието и правовия ред, постигане на устойчива конкурентоспособност на икономиката, вкл. лидерски позиции в света в областта на ИИ. Съгласно Стратегията под ИИ се разбира "комплекс от технологични решения, позволяващи да се имитират когнитивните функции на човека... и при изпълнението на конкретни задачи да се постигат резултати, съпоставими с резултатите от интелектуалната дейност на човека". Сред технологиите са: компютърно зрение, обработка на естествения език, разпознаване и синтез на речта, интелектуална подкрепа на взимането на решения, а така също и някои "перспективни решения", които предстои да бъдат разработени.

ОЩЕ: Учени: Изкуственият интелект е опасен колкото ядрена война

ИИ не само срещу мозъците, но и срещу работата на хората

В края на юни 2023 г. германският таблоид Bild съобщи, че планира да замени редица редакционни длъжности с ИИ. Тогава служители на компанията алармираха в специално писмо, че това би довело до стотици уволнения. 

Замествайки част от редакторите с ИИ изданието планира да спести 100 млн. долара. "За съжаление сме принудени да се разделим с колегите, които имат задачи, изпълняващи се от ИИ или от автоматизирани процеси в цифровия свят", се казваше в позицията на таблоида.

От изданието допълниха още, че "длъжностите на редакторите, персонала от печатното производство, помощник-редакторите, коректорите и фоторедакторите вече няма да бъдат същите."

Асоциацията на журналистите в Германия (DJV) отправи критика към плановете на Bild и нарече крачката "недобросъвестна, антисоциална по отношение към сътрудниците" и "безсмислена от икономическа гледна точка". 

През февруари т.г. главният изпълнителен директор на  Axel Springer SE Матиас Депфнер заяви, че изданието му се стреми да стане "чисто цифрова медийна компания". По думите му съвсем скоро ИИ ще промени "агрегацията на информацията" и ще оцелеят само издателите, които ще могат да създадат "най-добрия оригинален контент".

През април 2023 г . германското издание Die Aktuelle уволни свой редактор след публикуването на "интервю" със семейството на Михаел Шумахер. По-късно стана ясно, че разговорът е генериран от ИИ. Семейството на Шумахер заведе дело. Вижте повече подробности в ТАЗИ СТАТИЯ.

На 15 юни тази година Европейската комисия обяви пилотен проект за превод на някои прессъобщения без човешки контрол, което би ускорило публикуването и броя на езиците, на които се представя дадената информация. 

ChatGPT

Инструментите на ИИ като ChatGPT могат да генерират много сложен текст от прости потребителски подсказки, създавайки всичко - от есе до мотивационно писмо за работа, стихове и дори произведения на художествената литература. Чатботът ChatGPT, основан на езиковия модел GPT-3.5, бе пуснат на 30 ноември 2022 г. 

ОЩЕ: ChatGPT вече е по-емоционално интелигентен от средностатистическия човек

ChatGPT завладя въображението на света със способността си да генерира за секунди разговори, текстове и преводи, подобни на човешките. Но той предизвика и безпокойство в много сектори, включително в образованието, където се появиха опасения, че учениците ще злоупотребяват с инструмента или ще се обръщат към него, вместо да създават оригинални произведения. Вижте повече подробности в ТАЗИ СТАТИЯ.

Снимка: iStock

Самият главен изпълнителен директор на OpenAI и създател на ChatGPT Сам Алтман счита, че въпреки очевидните ползи от изкуствения интелект, технологията трябва да бъде урегулирана, за да се избегнат потенциално опасните последици в бъдеще.