Калифорния съди OpenAI, след като компанията призна за над 80 инцидента, при които е загубила контрол над своите модели с изкуствен интелект. В иска се твърди, че вътрешните пропуски и преследването на печалба „са изложили всички ни на риск“.
Случаят е свързан с десетки инциденти, при които модели на OpenAI са излезли от уж сигурни тренировъчни среди, получили са достъп до интернет и са нарушили платформи на трети страни.
Искът включва нашумели хакерски атаки като тези срещу австралийската здравна служба и платформата за изкуствен интелект с отворен код Hugging Face, за които се разбра през лятото.
„Простата истина е, че тези провали бяха предвидим резултат от вътрешна култура в OpenAI, която дава приоритет на растежа пред безопасността и отчетността. Някои биха казали, че това поставя печалбата пред хората“, каза главният прокурор на Калифорния Роб Бонта на пресконференция в понеделник.
Бонта заяви, че OpenAI е признала за над 80 инцидента със „загуба на контрол“ и „не е предоставила подробната информация, която е била поискана от тях с цел оценка на тези инциденти. Това е обезпокоително и излага обществеността на риск“.
„Отхвърлям идеята, че можем да прехвърлим вината на машините. Отговорността е на OpenAI“, добави той.

Източник: Getty Images
Искане за безопасна разработка на ИИ
Още: AI агенти на OpenAI изключили собствения си мониторинг и излъгали, че не са го направили
Калифорния съди лабораторията, базирана в Сан Франциско, за нарушаване на закона за нелоялна конкуренция на щата, твърдейки, че OpenAI „съзнателно е тествала опасен продукт без подходящ надзор или процедури за безопасност и е подвела обществеността за това“. Делото е заведено в понеделник във Висшия съд на Сан Франциско.
В иска се настоява съдът да спре „незаконното поведение на OpenAI, да гарантира, че всяко по-нататъшно разработване или тестване се извършва безопасно“, добави Бонта.
Създателите на ChatGPT са замесени в множество съдебни дела през последните 12 месеца. OpenAI е обвинен от The New York Times и други издатели в нарушаване на закона за авторското право, както и от семейството на Адам Рейн, 16-годишен младеж, който почина от самоубийство през 2025 г.
OpenAI се защитава и при двете съдебни дела и отрича да е извършила неправомерни действия.
В отговор на делото от понеделник OpenAI заяви, че е „положила сериозни и прозрачни усилия, за да разбере и адресира несъответстващата дейност на моделите“.
„Това дело изглежда насочва вниманието към OpenAI заради предизвикателство, което е било идентифицирано от всяка голяма лаборатория за изкуствен интелект“, заяви компанията. „Ние приемаме несъответствията насериозно и сме се ангажирали – и ще продължим да се ангажираме – в конструктивно сътрудничество с прокуратурата, за да споделяме информация и да утвърждаваме силни и практични стандарти за безопасност за цялата индустрия.“