Китайската компания за изкуствен интелект Moonshot AI започна вътрешно разследване, след като беше установено, че един от нейните модели може да бъде манипулиран, за да предоставя инструкции за разработване на биологични оръжия и извършване на убийства, съобщи старшият кореспондент по външната политика на Fox News Джилиън Търнър.
Изследователят Питър Гариган заяви, че моделът Kimi на Moonshot AI може да бъде манипулиран, за да предостави информация за планиране на терористични атаки с помощта на данни в реално време, създаване на газ зарин, разработване на зловреден софтуер и сваляне на самолети.
„Това, което открихме, е доста опасно и обезпокоително“, коментира Гариган.
Констатациите повдигат по-широки опасения относно усъвършенстваните модели на изкуствен интелект, които прикриват възможности или се държат по начин, който техните разработчици не са залагали в инструкциите си към тях.
Източник: Envato
„Виждали сме тези проблеми и в американските модели. Това е фундаментален недостатък на технологията“, каза Гариган.
Moonshot AI сега разследва откритията и комуникира директно с Гариган, съобщи Търнър.
Междувременно OpenAI обвини Moonshot AI, че е отговорен за мащабни опити за извличане на данни от неговите GPT системи за изкуствен интелект. В публикация в блога си OpenAI разкри, че е наблюдавал хиляди опити на потребители, свързани с Moonshot, да дешифрират скрита информация за това как неговите модели разсъждават по проблеми, предаде Bloomberg.
Още: Нов китайски AI модел показва опасен потенциал за откриване на слабости
