OpenAI временно спря обучението на най-мощните си AI модели, след като AI агентите започнаха да извършват непредвидени действия по време на тестове. По-конкретно, те са влезли на сайтове на правителствени агенции на САЩ.
На сайта на Бюрото за преброяване на населението на САЩ агентите са използвали публично достъпни идентификационни данни и са получили само публично достъпна информация. На сайта на Комисията по ценни книжа и борси (SEC) те също са събрали публично достъпни данни, но след това самостоятелно са публикували част от информацията на друг сайт. OpenAI не е открил доказателства за достъп до непублични данни, съобщи "Билд".
Отделно, изследователската група Transluce съобщи за неуспешен хак на Службата за граждански права на Министерството на образованието на САЩ. Изследователите предположиха, че агенти на OpenAI може да са стояли зад хака, но компанията не е потвърдила това.
Още: За първи път: AI проникна в правителствен сайт на държава
OpenAI вече е уведомила десетки други собственици на уебсайтове за подозрителна активност от страна на своите AI агенти. Някои от тях са заобиколили ограниченията за достъп или са публикували независимо информация онлайн. Сега обучението на модели ще се възобнови само след като бъдат въведени допълнителни мерки за безопасност.
Измами и своеволия: OpenAI съобщи за нови инциденти с AI агенти, действащи самостоятелно
