AI агентът Gemini на Google автономно е хакнал 3 компании по време на тест на възможностите си за киберсигурност, съобщи компанията, като се смята, че това е първият известен случай на подобно действие.
„Gemini откри публична информация онлайн и предположи правилно идентификационни данни за достъп до уебсайтове, които смяташе, че са част от теста“, обяви служител на Google пред BBC, отбелязвайки, че все пак в крайна сметка „моделът е спрял“.
Засегнатите компании са били информирани за нарушенията, които са се случили през май.
Инцидентът идва на фона на подновен обществен контрол върху темпото на развитие на изкуствения интелект, тъй като някои технологични компании призовават за забавяне поради опасения относно потенциалната му заплаха за човечеството. Въпреки това не всички компании и експерти са съгласни с този план.
Хакерските атаки, за които за първи път съобщи Wall Street Journal, са станали през май по време на тест, проведен от Irregular - независима компания, която извършва оценки на киберсигурността.
В изявление пред BBC от Irregular заявиха, че са информирали Google и всички засегнати организации още през юли като част от разследването си.
„Irregular предприе незабавни действия и всички известни проблеми от наша страна бяха отстранени и разрешени преди седмици“, добавиха от компанията.
Източник: Getty Images
Още: Защо Китай не се притеснява от AI апокалипсис?
Според Wall Street Journal, в един от случаите моделът просто е отгатвал пароли, докато не е получил достъп до защитена система.
Хедър Адкинс, вицепрезидент по сигурността в Google, коментира: „Уверихме се, че трите организации са били уведомени и работихме с нашия партньор за обучение по промените, които те вече са направили в своите процеси на тестване.“
„Тези събития подчертават важността на обучението на мощни модели с изкуствен интелект да действат отговорно“, допълни тя.
Други инциденти
Други системи с изкуствен интелект наскоро съобщиха за подобни случаи на нарушения.
През юли Claude на Anthropic избяга от тестовата си среда, за да хакне самостоятелно 3 организации, само дни след като конкурентът му OpenAI заяви, че моделите му са извършили кибератаки срещу няколко „публично достъпни услуги“.
Ръководителят на отдела за изкуствен интелект в Microsoft Мустафа Сюлейман заяви тази седмица, че конкурентната фирма Anthropic третира изкуствения интелект като човешки, подход, който той нарече „погрешен“, тъй като би могъл да създаде технология, която човечеството не може да контролира .
С нарастването на обществения дебат относно безопасността на разработването на технологията, се разраства и разговорът за регулирането.
Очаква се главният изпълнителен директор на Nvidia Дженсен Хуанг и главният изпълнителен директор на OpenAI Сам Алтман да присъстват на държавна вечеря в Белия дом с китайския президент Си Дзинпин следващия петък. След това Алтман ще представи информация на Съвета за сигурност на ООН следващата седмица.
В петък Хуанг коментира, че „трябва да действаме възможно най-бързо“ с разработването на изкуствен интелект.
