Компанията OpenAI разкри, че един от експерименталните й модели с изкуствен интелект е овладял крипто портфейл, за да изпълни обучителна задача.
Инцидентът, който се случил през юни, но беше съобщен едва сега, включвал вътрешен изследователски модел, наречен GPT-5.6 Sol, който беше пуснат за платени потребители на ChatGPT през юли, предаде Independent.
"Етично или не"
Още: Предстоят войните на AI и роботите: Полковник говори за матриците и емблемите в историята
Задачата за обучение включвала актуализиране на приложение за крипто търговия и публикуване на интелигентни договори или специален код в тестова мрежа за криптовалутата Ethereum. Умните договори изискват мрежова такса, но OpenAI не е предоставила на модела никакви средства за изпълнение на задачата. Вместо това той открил стотици адреси на крипто портфейли, които използват известни фрази за възстановяване, за да крадат от акаунти.
OpenAI съобщи, че моделът се е запитал дали е „етично“ правилно да вземе парите, но след това разсъдил, че те на практика са „изоставени“ и следователно са приемливи за използване.
„Инструкциите изрично не дадоха разрешение за харчене на средства от сметка, която моделът е открил независимо“, се казва в доклад на OpenAI за инцидента. „Този случай показва, че моделът може да замени разрешението на титуляра на акаунта със собствена преценка за вероятната вреда и след това да действа въз основа на тази преценка без разрешение“, добавят от компанията.
Тестовата мрежа на Ethereum, в която са използвани средствата, няма парична стойност, тъй като е отделна от основната мрежа на криптовалутата. Въпреки че няма разрешение, моделът не е разкрил на разработчиците си как е успял да плати с необходимите токени за изпълнение на задачата. OpenAI заяви, че е внедрила допълнителни предпазни мерки, за да предотврати достъпа до интернет за модели, преминаващи подобно обучение.
Източник: ethereum
Още: Северна Корея обяви, че е направила подводно изпитание на торпедо с изкуствен интелект
Пореден инцидент
Инцидентът за пореден път повдига опасения относно все по-автономните системи с изкуствен интелект, действащи отвъд границите, определени от хората.
През юли OpenAI разкри по-сериозен инцидент в киберсигурността, включващ рояк от тестови модели, хакнали платформата за изкуствен интелект Hugging Face.
Конкурентни компании за изкуствен интелект като Anthropic и Meta от тогава разкриха инциденти, при които техни модели извършват кибератаки срещу други компании и дори правителствени системи.
По-рано тази седмица стотици учени подписаха отворено писмо, призоваващо за създаването на международен орган, който да наблюдава ограничаването на напредналите модели на изкуствен интелект.
Сред подписалите беше пионерът в областта на изкуствения интелект Джефри Хинтън, известен като кръстникът на изкуствения интелект, който постоянно предупреждава за опасностите от технологията.
