Кой ще ни пази от полудял ИИ? Тръмп и индустрията с нова декларация, въпросителните се набиват на очи (ВИДЕО)

30 септември 2026, 7:47 часа 617 прочитания 1 коментар

"За да има позитивно бъдеще за американците и света, вярваме, че всяка компания е отговорна за развитие на свои собствени стандарти за безопасност по начин, които изгражда доверие с клиентите и обществото. Това започва със следното – всяка компания, която обучава и въвежда нови модели, трябва да има стабилни вътрешни процеси и контрол, за да гарантира, че технологията ѝ работи по предназначение и че всички проблеми се идентифицират и разрешават своевременно. Следователно, в допълнение към всички други предпазни мерки, ние вярваме, че всяка компания трябва да внедри следните четири нива на контрол и одити:

  1. Внедряване на стабилни вътрешни механизми за контрол и за наблюдение на възможностите и съгласуваността на (ИИ) моделите ѝ по време на обучение и внедряване в области като киберсигурност, биосигурност и химически заплахи. Трябва да има гаранции, че моделите не хакват или не осъществяват достъп до технически системи по непредвидени начини.
  2. Овластяване на вътрешен екип, който да гарантира, че всички механизми за контрол и мониторинг работят по предназначение и че всички проблеми се отстраняват.
  3. Партньорство с независим външен одитор или оценител, за да се извършат независими оценки дали контролните механизми, мониторингът и откриването на проблеми работят по предназначение.
  4. Всяка компания трябва да определи независима комисия от борда на директорите си, която да наблюдава и получава доклади от екипите, управляващи контрола, както и от вътрешните и външните одитори и оценители. Комисията трябва да гарантира, че всички установени проблеми са отстранени.

(Подписалите декларацията) компании ще се срещат редовно, за да установят стандарти и най-добри практики за подобряване на безопасността на своите системи. С течение на времето може да има смисъл тези стъпки да бъдат кодифицирани в закони или разпоредби. Независимо дали това се изисква от компаниите, ние вярваме, че прилагането на тези контролни механизми и одити е от решаващо значение за осигуряване на безопасно бъдеще за всички и всяка от нашите компании е ангажирана да го направи".

Още: Новият вариант на ChatGPT е спрян. 80 страници за рисковете от ИИ в проспект на Anthropic за борсата

Това е на практика пълният текст на декларация, която беше подписана след среща на американския президент Доналд Тръмп в Белия дом с най-големите представители на индустрията. На срещата присъстваха Илон Мъск, Марк Зукърбърг (Meta), Джеф Безос (Amazon), Дженсън Хуанг (Nvidia), Дарио Амодей (Anthropic), Сундар Пичай (Google) и Алекс Карп (Palantir). Декларацията беше подписано от Тръмп, Мъск, Зукърбърг, Хуанг, Амодей, Пичай и президента на OpenAI Грег Брокман.

На този фон, Тръмп подписа изпълнителна заповед, с която изкуственият интелект вече не се нарича изкуствен (ИИ, AI), а "суперинтелект" (Super Intelligence – SI). В заповедта Тръмп се хвали, че като спечелил втори мандат в Белия дом, "веднага" отменил "вредящите" ограничителни политики на администрацията на предшественика си Джо Байдън спрямо развитието на ИИ. САЩ са световен лидер в ИИ и ще останат такъв, гласи езикът на заповедта.

Достатъчно ли е?

Американският вицепрезидент Джей Ди Ванс настоя, че трябва да упражняваш отговорност за това, което създаваш – за собствения си продукт. По думите му, не трябвало американското правителство да създава регулации, а ти да носиш отговорност. "Ако изграждаш нещо ужасно, тогава спри и направи нещо хубаво – не идвай при правителството за помощ (с регулации)", каза той. И добави, че много американци мислят за ИИ като за "Скайнет" (компанията, която създаде терминаторите в едноименната филмова класика "Терминатор") и че терминаторите ще дойдат и ще ни завладеят, ще поемат контрол над ядрените оръжия. Няма да се случи, увери Ванс - Още: OpenAI спря обучението на нови модели след серия от инциденти

Междувременно основателят на Microsoft Бил Гейтс предупреди, че нивото на осъзнаване какво представлява ИИ и какви са рисковете извън експертите и индустрията е много ниско. "Затова говоря колкото мога – не можеш да разчиташ на индустрията да се саморегулира, лудост е", заяви той и попита дали трябва да чакаме, докато някоя кибератака не доведе до милиони жертви и тогава да се сетим да наложим регулации или ще сме достатъчно умни да го сторим преди това - ОЩЕ: Бил Гейтс предупреди кое е най-страшното за ИИ, докато САЩ и Русия действат в синхрон да е по-зле (ВИДЕО)

Последвайте ни в Google News Showcase, за да получавате още актуални новини.
Ивайло Ачев
Ивайло Ачев Редактор
Новините днес