В ново предупреждение AI компанията Anthropic обяви, че малките модели с изкуствен интелект може да са на месеци от това да бъдат способни да се самовъзпроизвеждат на смарт устройства като интелигентни фурни и телевизори.
„Червеният екип“ на компанията за изкуствен интелект, който разследва потенциални проблеми със сигурността на моделите, е проверил дали те могат да намерят уязвими устройства, да се копират в тях и да продължат да се разпространяват без човешка помощ.
„Нашите експерименти показват, че малките модели с изкуствен интелект може да са на месеци от това да бъдат достатъчно способни да се самовъзпроизвеждат на търговски устройства от "интернет на нещата" (IoT), като интелигентни фурни и смарт телевизори“, заявиха от Anthropic. „Репликатор като този би бил труден за елиминиране, тъй като няма централизирана точка за изключване“, добавиха те.
Още: Наближава ли AI апокалипсис и край на човечеството?
Anthropic предупреди, че тези малки модели може да са способни да се репликират автономно до края на тази година, а малките репликатори, базирани на тегло, ще последват примера им съвсем скоро след това.
AI, скрит във фурна, телевизор или камера
От Anthropic също така заявиха, че подобни автономни системи с изкуствен интелект вероятно ще се репликират бавно и ще разчитат на широкодостъпни, относително несигурни изчислителни ресурси.
„Трябва да се стремим да заздравим системите си, за да затрудним разпространението на подобни репликатори, но също така да се подготвим да се справим със свят, в който те са тук, за да останат“, твърдят от компанията.
Още: "Съзнателни или не": Anthropic забрани на потребителите да бъдат жестоки с чатбота му Claude
В проведен експеримент изследователският екип на Anthropic открил, че система с изкуствен интелект е способна да се самовъзпроизвежда без човешка намеса в 15 евтини смарт телевизора.
Източник: Getty Images
Anthropic обяви, че подобни евтини телевизионни приемници имат слаба сигурност, което позволява на моделите да се възпроизвеждат. В доклада си компанията посочва, че модел, който е твърде голям, за да се побере на едно устройство, може „да се раздели на части или фрагменти, които работят на отделни машини, комуникиращи помежду си, за да управлява колективно цялото тяло“.
„Все по-голям брой домашни и бизнес устройства, като например охранителни камери и устройства за видеоконферентна връзка, вече се доставят с малки вградени AI чипове, предназначени да изпълняват AI модели на самото устройство“, пише Anthropic. „Тази допълнителна изчислителна мощ вероятно ще ги направи и привлекателни цели“, гласи още позицията.
„На практика, един AI червей (нов вид зловреден софтуер (malware), захранван от изкуствен интелект, който може самостоятелно да се разпространява в компютърни мрежи и екосистеми от генеративен AI, модифицирайки атаките си в реално време) не би се състоял непременно само от един модел или стратегия. Рояк от различни модели, разположени на различни видове хардуер, използващи различни схеми за репликация, биха могли да моделират по-реалистична истински притеснителна атака", пишат още от компанията.
Още: Компаниите за ИИ очакват катастрофален инцидент след 6 до 12 месеца: Ще ни спре ли ИИ тока и водата?
