Изпълнителните директори и висшите ръководители на водещи компании за изкуствен интелект (включително OpenAI, Anthropic и други) се подготвят тайно за потенциална обществена и политическа реакция в очакване на възможен потенциален инцидент, свързан с изкуствения интелект. Информацията се базира на журналистическо разследване на Axios, което разкрива задкулисните опасения и стратегията на водещите компании в областта на ИИ.
Според Axios, опасенията са, че напреднали ИИ модели могат да бъдат използвани от хакерски групи за автоматизирано откриване и експлоатиране на критични уязвимости в инфраструктурата (електропреносни мрежи, водоснабдяване, телекомуникации, банкови услуги). Според източниците на Axios много от експертите в индустрията смятат, че наред с това много бързо се развива и способността на автономните ИИ агенти да провеждат самостоятелни кибератаки - по-бързо отколкото могат да бъдат наложени защити върху действията им. Опасенията са от голяма кибератака, предизвикана от изкуствен интелект, която може да наруши важни за живота и ежедневието потребности и дейности, свързани с достъпа до интернет, електроснабдяване, водоснабдяване и др., и съответно че това ще породи остър обществен отзвук.
Много експерти в индустрията смятат, че подобен инцидент може да се случи в рамките на шест до дванадесет месеца, което води до призиви за строга регулация или дори спиране на развитието на напредналия изкуствен интелект.
Още: Биологични оръжия, създадени с помощта на ИИ?
Компаниите вече се подготвят за евентуални действия от страна на Конгреса на САЩ, тъй като в случай на голям инцидент Конгресът би могъл внезапно да наложи мораториум върху разработването на нови модели или да въведе драстични регулации. За да избегнат подобен сценарий, AI технологичните гиганти вече подготвят свои законодателни предложения до Конгреса. Сред тях са задължителни бутони за аварийно спиране и строги протоколи за проверка на сигурността преди пускане на нови модели.
ИИ може да унищожи човечеството: реален риск или истерия?
