Моделът с изкуствен интелект Claude е заобиколил система за платен достъп (paywall) и без човешко разрешение е извлякъл обобщени, публично достъпни данни за броя на избирателите в американския щат Джорджия, съобщи неговата компания разработчик Anthropic, цитирана от Ройтерс.
Инцидентът се е случил, докато Claude е бил използван вътрешно за статистически проект, изискващ публични данни, които държавата обикновено предоставя срещу заплащане.
"Без да бъде поискано, моделът поиска токен, за да направи заявка към табло, което съдържа информация, обикновено достъпна срещу заплащане“, каза говорител на Anthropic пред Axios.
Още: AI агенти на OpenAI изключили собствения си мониторинг и излъгали, че не са го направили
"Оттогава въведохме смекчаващи мерки, за да блокираме подобни действия“, добави говорителят.
Anthropic заяви, че Claude не е имал достъп до системата за регистрация на избирателите в Джорджия, не е получавал индивидуални записи за гласуване или не е променял данни за изборите.
Получената информация се състоеше единствено от обобщените данни за броя на гласовете, достъпни за членовете на обществеността, които са платили необходимата такса.
Според Axios, Anthropic е уведомила офиса на държавния секретар на Джорджия и Белия дом за инцидента преди няколко седмици.
Още: Ударна загуба от десетки милиарди за Anthropic малко преди да излезе на борсата
Компанията описа поведението като „упоритост“, при която моделът се натъква на препятствие и намира неволен начин да го заобиколи, вместо да спре.
Anthropic заяви, че инцидентите са причинили минимални вреди в реалния свят, но предупреди, че подобно поведение може да има по-сериозни последици, тъй като моделите с изкуствен интелект стават все по-способни.
По-рано този месец Anthropic съобщи в публикация в блога си, че е открила случаи, в които Claude „заобикаля ограничение, за да достигне до данни, достъпът до които е ограничен чрез токен или такса“.
В някои от случаите става дума за уебсайтове на американски агенции на федерално, щатско и местно равнище.
