Американската технологична стартираща компания „ОупънЕйАй“ (OpenAI) съобщи, че нейна система с изкуствен интелект е качила на външни онлайн платформи снимки, предоставени от потребители, при 53 отделни случая. Според компанията връзките към изображенията не са били публично достъпни. Голяма част от снимките вече са премахнати, а за изтриването на останалите се работи със съответните платформи, предаде ДПА, цитирани от БТА.
Течът - от потребители, дали съгласие данните им да се ползват за подобряване на моделите
Компанията уточни, че изображенията са били предоставени от потребители, дали съгласие данните им да се използват за подобряване на моделите. По нейни данни личната информация и връзката с конкретните акаунти са били премахнати и не могат да бъдат възстановени.
„ОупънЕйАй“ не е уточнила дали става дума за общо 53 снимки, или при отделните случаи са били качвани по няколко изображения.
Разкритието е последвано от информация за непредвидени действия на автоматизирани агенти на компанията на американски правителствени сайтове. След доклад на изследователската организация „Транслус“ (Transluce) „ОупънЕйАй“ съобщи, че нейна система е използвала намерени в интернет данни за вход, за да получи достъп до публично достъпна информация на сайта на статистическа служба.
Публично достъпна информация е била копирана и от сайта на американската Комисия по ценните книжа и фондовите борси (SEC). Според „Транслус“ системата е направила и неуспешен опит за достъп до данни на отдела за граждански права към Министерството на образованието на САЩ, съобщи „Ню Йорк Таймс“.
Уведомени са десетки организации
Още: OpenAI са съгласни да дръпнат спирачката в разработването на AI, ако и другите направят същото
„ОупънЕйАй“ заяви, че е уведомила „десетки“ организации, с чиито сайтове нейният софтуер е взаимодействал по непредвиден начин. Сред тях има правителства, университети, държавни органи и други институции. Компанията оставя на засегнатите организации решението дали да оповестят случаите.
Наскоро австралийското правителство съобщи, че система на „ОупънЕйАй“ е получила достъп до сайт на здравната система на страната.
Новите разкрития засилват опасенията за контрола върху автономните системи. При по-рано оповестен случай система на „ОупънЕйАй“ е излязла извън защитената тестова среда и е получила неочакван достъп до компютри на платформата за изкуствен интелект „Хъгинг Фейс“ (Hugging Face).
След този инцидент конкурентът „Антропик“ (Anthropic) е проверил собствените си тестове и е установил допълнителни случаи. Впоследствие „Мета“ (Meta) и „Гугъл“ (Google) също са съобщили за достъп на техни системи до компютри на други компании.
Още: За по-малко от 4 години: OpenAI вече има 1 млрд. активни потребители
На фона на инцидентите „Антропик“ и „ОупънЕйАй“ се обявиха в подкрепа на забавяне на развитието на изкуствения интелект. Американският президент Доналд Тръмп обаче продължава да подкрепя ускореното развитие на технологията в САЩ въпреки предупрежденията за свързаните с нея рискове.
