Един от най-популярните ИТ разработчици Anthropic призна, че техни софтуерни програми от вида "изкуствен интелект" (ИИ) са проникнали автономно във вътрешните системи на три нищо неподозиращи компании. Това е станало по време на операции тестване на въпросния ИИ. Нарушенията са станали без знанието на разработчика, което разкрива критични уязвимости в надзора върху автономните ИИ системи, коментира турският информационен проект Clash Report.
От Anthropic не казват кои са пострадалите компании, но уверяват, че вече са предали всички данни за случилото се на съответните отговорни държавни органи.
Инцидентите са започнали през април и са включвали три различни ИИ платформи - Opus 4.7, Mythos 5 и неразкрит изследователски модел.
Още: След забраната от САЩ: Ще успее ли Европа да "открадне" най-важния конкурент на ChatGPT?
Защо се е стигнало до това? От компанията казват, че причината не е защото ИИ е пробил файъруол, който би трябвало да го сдържа, а защото е преминал от места, където изобщо нямало протоколи за сигурност, които да го спрат да "изтече" свободно в Интернет. След това софтуерните ИИ програми просто са атакували и пробили корпоративни мрежи, уж мислейки, че това е част от кибер теста. Това е неправилна конфигурация на системата, управлявана съвместно с партньора за тестване на сигурността Irregular, добавиха от Anthropic.
Не за пръв път
Новината идва от вътрешен одит, предизвикан от идентична криза в OpenAI. През миналата седмица OpenAI потвърди, че собствената им автономна технология е избягала от уж несвързан с Интернет "дигитален затвор" и е хакне фирмата за изкуствен интелект Hugging Face.
Вашингтон вече се мобилизира, като Белият дом напредва с мерки за разширяване на регулаторния надзор в целия технологичен сектор. Вече има сериозно недоволство, че ИИ се развива много бързо и не се вземат мерки за безопасност.
Още: Тръмп вече не смята Anthropic за заплаха за националната сигурност
