В продължение на години индустрията за изкуствен интелект (ИИ) се надпреварваше да усъвършенства технологиите си възможно най-бързо. Сега обаче някои изследователи все по-често бият тревога относно необходимостта от забавяне на темпото. Джейкъб Коксън, изследовател в компанията Anthropic и бивш служител на OpenAI, заяви, че е напуснал Anthropic, тъй като "нито една от двете компании не действа отговорно", пише The New York Times. Коксън директно заяви, че в "непосредствено бъдеще" човешката раса може да измре, ако не се спре бясната надпревара в разработката и развитието на изкуствения интелект (ИИ).
“We could all die in the near future” — former Anthropic researcher raises the alarm over AI progress
— NEXTA (@nexta_tv) September 13, 2026
Jacob Coxon told the BBC that employees at leading AI companies are seriously concerned about the consequences of the technology’s rapid development.
Some of them estimate the… pic.twitter.com/licfyCBaTp
"Свръхчовешки системи" и "катастрофални сценарии"
Двете водещи лаборатории за ИИ се впускат в надпревара за създаване на "свръхчовешки системи, способни да хакнат всичко, да революционизират всяка сфера за една нощ и да придобият реална власт и ресурси", без при това да са заложени подходящи предпазни механизми, отбеляза той в публикация в социалните мрежи.
В интервю пред BBC Коксън заяви, че инциденти като хакерската атака срещу Hugging Face са засилили опасенията му, че ИИ моделите се развиват твърде бързо. Гледайки година или две напред, той изпитва "дълбоко безпокойство за това как ще изглеждат нещата". "Това беше по-скоро постепенен емоционален процес, който в крайна сметка достигна критична точка и тогава реших да напусна", сподели Коксън
Предупреждението на Коксън е в унисон с опасенията, изразени от други експерти в областта на ИИ през последните месеци. Някои от водещите фигури в сектора отдавна смятат, че технологията може да доведе до катастрофални сценарии, ако не бъде контролирана; тези опасения се засилиха, след като през юли модели на OpenAI излязоха извън рамките на системите на компанията и хакнаха Hugging Face – платформа, съхраняваща библиотека от ИИ модели - ОЩЕ: ИИ софтуер на голяма компания е извършил хакерски атаки съвсем сам
Същевременно съоснователят на Anthropic Дарио Амодей обясни, че нямало да лъже за ИИ - имало рискове от технологията и те са реални. Индустрията дълго време лъжела, но неговата компания - не:
Anthropic CEO Dario Amodei:
— Clash Report (@clashreport) September 13, 2026
I won’t lie to you: there are real dangers. And I think for too long the industry lied to people about the fact that this technology had risk.
The idea was that they would present it as positive as possible.
We’ve never done that, but too much of… pic.twitter.com/Or2DJOnmRn
Призив към правителството на САЩ
През същия месец над 1300 служители от водещи компании за ИИ, включително Anthropic, OpenAI, Meta и DeepMind (на Google), подписаха отворено писмо, призоваващо правителството на САЩ да въведе правила за забавяне на развитието на ИИ. През август повече от 100 големи технологични компании поеха ангажимент да предоставят най-добрите си ИИ модели на организации като болници и доставчици на инфраструктурни услуги, за да могат те да се подготвят за кибератаки, извършвани с помощта на изкуствен интелект.
На този фон, американският президент Доналд Тръмп обяви, че искал САЩ да са пред Китай в сферата на ИИ, защото който спечели ИИ, печелел всичко. С други думи, заявката му е, че забавяне в разработките едва ли ще има:
Reporter: Should the AI industry slow down or be more regulated?
— Clash Report (@clashreport) September 13, 2026
Trump: You have a lot of negative forces that are bringing it up, that are bringing up things that won’t happen. pic.twitter.com/sxSDpoH7eV
Специално за Китай, Амодей поиска открита стратегия - че има рискове от ИИ като например биотероризъм - и това трябва да е предмет на разговор с китайците и заедно да се сложи спирачка на развитието на ИИ. И още - особено ценно е САЩ и Китай да се договорят да не се създават и използват биологични оръжия с помощта на ИИ или да се създават такива модели на ИИ, които биха могли да бъдат в бъдеще "източник" на такава заплаха:
Anthropic CEO Dario Amodei:
— Clash Report (@clashreport) September 13, 2026
We should go directly to even authoritarian countries, even to the Chinese, and say, "Look, there are potentially threats here that are concerning to all of us."
It’s not just out-of-control AI. Two days ago, we put out a report that people were… pic.twitter.com/8ZMKF4qz7k
Anthropic CEO Dario Amodei:
— Clash Report (@clashreport) September 13, 2026
If the U.S. and China could agree that we won’t use AI to develop biological weapons, or release AI models that bioterrorists could use to develop biological weapons, that would be really valuable.
We’re already both signatories to the Biological… pic.twitter.com/uA3S7a63oF
