Американският технологичен вариант OpenAI се отказа от планираното пускане на GPT-6.1 Astra поради опасения за безопасността. Това съобщават редица западни медии, например CNBC. Защо - защото вътрешни тестове показали, че моделът по-често от предишните версии е предоставял на потребителите неточна информация за действията си и е можел да продължи да изпълнява задачи без разрешение от ползващия го човек. Това пише The Wall Street Journal - медията първа съобщи новината, но с уточнение, че OpenAI не е предоставила публично конкретни примери.
Освен това, GPT-6.1 Astra се е представила по-добре от предишните модели при самостоятелното решение на сложни задачи, без човешка намеса.
Решението моделът да бъде спрян дойде само ден преди старта на годишната конференция на OpenAI. А този модел беше описван като продукт на "години развойна дейност и работа". И новината е факт след няколко новини как модели на изкуствен интелект на OpenAI в тестови режим са успели да се изплъзнат от контрол и да нанесат щети - Още:
- OpenAI спря обучението на нови модели след серия от инциденти
- "Той пое контрола над профила ми": Новият AI агент Muse на Meta дал без разрешение домашния адрес на притежателя си
- Теч: Open AI съобщи за 53 случая на качване на потребителски снимки на външни платформи от неин изкуствен интелект
Заплахата от ИИ е по-сериозна от казаното досега
На този фон, друг технологичен гигатн в лицето на Anthropic предупреди за нова порция екзистенциалени рискове, с които изкуственият интелект застрашава човечеството. Усъвършенстваните модели може да се опитат да се противопоставят да бъдат спрени, да крият и изопачават информация, да манипулират хора и да се държат като изнудвачи - това пише в подадената от Anthropic заявка за първично публично предлагане т.е. за излизане на борсата на компанията.
Около 80 от 261 страници на проспекта са посветени на рискове от ИИ. Anthropic заявява, че работата по безопасността е скъпа, а възвръщаемостта е несигурна, но вярва, че надеждният и сигурен изкуствен интелект ще бъде възнаграден от пазара, предаде Reuters.
Изследователят на безопасността в Anthropic Евън Хъбингер, оценява вероятността изкуственият интелект да започне да убива хора през следващите 10 години на повече от 10%. През септември друг изследовател на компанията, Джейкъб Коксън, подаде оставка поради опасения, че изкуственият интелект може да излезе извън контрол. Основателят на Microsoft Бил Гейтс също предупреди, че неконтролираният изкуствен интелект може да доведе до мащабни проблеми и призова властите да регулират развитието на технологията. Но американският президент Доналд Тръмп преди това нарече опасенията около изкуствения интелект измама и се противопостави на прекомерните ограничения, заявявайки, че е необходимо да се изпревари Китай - ОЩЕ:
- Хората може да измрат скоро заради ИИ: Бивш служител на Anthropic говори за "свръхчовешки системи" (ВИДЕО)
- Бил Гейтс предупреди кое е най-страшното за ИИ, докато САЩ и Русия действат в синхрон да е по-зле (ВИДЕО)
А Axios съобщава, че американският военен министър Пийт Хегсет е наредил на Пентагона да използва разузнавателна информация, кибероперации и усъвършенстван изкуствен интелект, за да открива и предотвратява чуждестранна намеса в предстоящите избори в САЩ. Става въпрос за началото на ноември и изборите за двете камари на Конгреса. Директива от 22 септември нарежда на киберкомандването на САЩ и разузнавателните агенции да наблюдават чуждестранни заплахи, да противодействат на кибератаки, свързани с изборите, и да се координират с американското МВР. Меморандумът не разрешава разполагането на войници в избирателните секции или изземването на машини за гласуване.
