AI агент самоволно подаде фалшив сигнал за неразкрито убийство до полицията в американския щат Филаделфия.
Моделът с изкуствен интелект на компанията „Антропик“ е генерирал дезинформацията самостоятелно по време на тест за интернет навигация. Случаят възбуди нови притеснения за сигурността и автономните действия на подобни системи.
Инцидентът е станал през юли чрез официалния уебсайт за подаване на анонимни сигнали за неразкрити престъпления във Филаделфия. По време на вътрешен тест моделът на „Антропик“ е достигнал до страницата и е изпратил измислени подробности за убийство, представяйки се за информиран свидетел.
Още: Компаниите за ИИ очакват катастрофален инцидент след 6 до 12 месеца: Ще ни спре ли ИИ тока и водата?
От полицията във Филаделфия съобщиха, че системните им филтри са маркирали съобщението като спам и то не е стигнало до разследващите екипи, нито е имало пробив в сигурността на базата данни. От там обаче определиха като „неприемливо“ забавянето от близо два месеца от страна на технологичната компания да засече и съобщи за гафа, предаде БНР.
В публикуван доклад от „Антропик“ признават за случая и уточняват, че са спрели достъпа на моделите си до интернет по време на вътрешни тестове.
Случаят предизвика реакция и от Белия дом, откъдето напомниха, че уведомяването за подобни пропуски в сигурността е важно задължение от национално значение за технологичните компании.
OpenAI предизвиква "математокалипсис": AI даде решение на над 370 нерешени досега задачи
