В началото на септември един сравнително неизвестен досега изследовател на изкуствения интелект напусна AI компанията Anthropic и публикува предупреждение, което за няколко дни прерасна от вътрешноиндустриална история в глобален дебат за бъдещето на изкуствения интелект. Джейкъб Коксън - 27-годишен изследовател, работил преди това в OpenAI, а впоследствие в Anthropic, заяви, че двете компании „не действат отговорно“ и че се движат „право към самоусъвършенстващ се свръхинтелект“, като по този начин „рискуват живота ни“.
Според него хората, които изграждат най-мощните AI системи, действително вярват, че технологията може да доведе до гибелта на човечеството още през това десетилетие.
Публикацията му в социалните мрежи бързо набра популярност и според различните последвали постове достигна над 170 млн. показвания. Само че истинският ефект не идва единствено от думите на Коксън. Той е последван от необичайно откровено потвърждение от страна на действащ изследовател на Anthropic, от призив на главния изпълнителен директор на компанията Дарио Амодей за забавяне на развитието на AI, от нови разкрития за реални инциденти с автономни AI агенти, от политическа реакция във Вашингтон и от нови данни, показващи колко бързо самият Claude (AI моделът на Anthropic) започва да участва в разработването на следващите модели.
Още: Изкуствен интелект в услуга на престъпниците: Разбиха банда за телефонни измами
Така историята на Коксън се оказа не просто драма на напуснал служител - тя се превърна в дебат, в който се пресичат AI безопасността, надпреварата между технологичните компании, Китай и САЩ, регулацията, киберсигурността, биологичните рискове, военната употреба на ИИ, бизнес интересите и дори предстоящите борсови планове на компаниите.
Оставката на Джейкъб Коксън и посланието му, че човечеството разполага с 1-2 години да реагира
На 9 септември Коксън публично обяви, че напуска Anthropic. Той посочи, че през последните три години е работил по изследвания за предварително обучение както в OpenAI, така и в Anthropic. Основното му обвинение е, че двете компании са въвлечени в надпревара към т.нар. самоусъвършенстващ се свръхинтелект - системи, които могат в значителна степен да подобряват собствените си способности или да участват в създаването на следващи поколения модели.
Коксън твърди, че хората в индустрията са наясно с потенциалните катастрофални последствия, но въпреки това продължават да ускоряват развитието. Той предупреждава още, че не бива да се подценява мощта на бъдещите системи - според него те скоро могат да станат свръхчовешки в области като програмиране, хакерство и математика и да придобият способност да използват реални ресурси и инфраструктура.
Още: Защо Китай не се притеснява от AI апокалипсис?
В интервю за WIRED Коксън определя ситуацията като критичен период от приблизително една-две години, през който според него ще се реши дали човечеството ще успее да осъществи достатъчно напредък в безопасността на AI, преди способностите на системите да изпреварят механизмите за контрол. Той описва работата в Anthropic като своеобразен „мини проект Манхатън“ - сравнение с проекта за създаването на атомната бомба, което трябва да подчертае мащаба, секретността и концентрацията на ресурси около развитието на най-мощните модели.
Коксън обаче прави важно разграничение - в интервюто си за WIRED той не твърди, че Anthropic вече действа умишлено по отношение на безопасността. Според него проблемът е структурен - ако състезанието между компаниите се ускори, натискът за компромиси неизбежно ще се увеличи.
Силна реакция
Самото напускане на един изследовател не би било достатъчно, за да предизвика международна реакция. Ключовият момент идва почти веднага след публикацията на Коксън. Евън Хубингър, водещ изследовател в Anthropic, публично заявява, че колегата му по същество е прав. Хубингър пише, че служителите на Anthropic действително вярват, че AI може да убие всички хора. Той лично оценява вероятността за подобен сценарий през следващото десетилетие на над 10% и добавя, че Anthropic прави всичко възможно, но все още няма решение на проблема със свръхинтелигентността.
Още: Изкуственият интелект може да отнеме човешки живот: Крал Чарлз III зове за предпазни мерки
Така спорът вече не е просто между напуснал служител и компанията, а включва вътрешен човек, който потвърждава част от най-мрачната оценка на Коксън.
Anthropic, от своя страна, заявява, че компанията винаги е била открита за факта, че AI ще донесе както огромни ползи, така и безпрецедентни рискове, и посочва собствената си рамка за управление на катастрофалните рискове.
Коксън срещу ръководството на Anthropic
Няколко дни след оставката си Коксън започва да конкретизира какво точно го е разделило с ръководството. Той посочва няколко разногласия. Едното е свързано с убеждението на ръководството, че надпреварата към рекурсивно самоусъвършенстване (recursive self-improvement, или RSI) е неизбежна. Коксън твърди, че Anthropic до голяма степен е допринесла за ускоряването на тази надпревара. Според неговата версия ръководството е приело, че RSI така или иначе ще се случи, и следователно компанията трябва да се стреми да бъде първа, или поне да не изостане.
Той критикува и прекомерната тревога на шефовете спрямо Китай и американското правителство. Според него Anthropic е прекалено песимистично настроена към възможността за международни договорености, които биха могли да забавят надпреварата.
Следва и парадокс - компанията казва, че AI може да носи огромни рискове и че индустрията трябва да забави темпото, но в същото време нейното ръководство, изглежда, смята, че ако само една компания или само една държава се забави, по-малко предпазлив конкурент може да продължи напред.
Надпреварата - Anthropic срещу OpenAI и САЩ срещу Китай
Според Коксън проблемът не може да бъде решен единствено с вътрешни правила на една компания - причината е конкуренцията. Ако Anthropic забави развитието си, OpenAI може да напредне. Ако американските компании забавят темпото, Китай може да заеме лидерската позиция.
Снимка: Getty Images
Още: "Китай ще ни изпревари": AI компаниите искат надзорен орган, но САЩ са против
Изследователят смята, че надпреварата не трябва да се приема като неизбежна. Съоснователят на Anthropic Дарио Амодей обаче предупреждава, че ако отговорните компании забавят развитието едностранно, може да се окаже, че по-малко отговорни играчи ще поемат лидерството.
Тази геополитическа страна на историята описват The Washington Post, Foreign Policy, Reuters и други авторитетни медии, като свързват спора с конкуренцията между САЩ и Китай. Пекин реагира негативно на американските призиви за забавяне. Китайски представители настояват, че AI управлението трябва да се основава на многостранност и роля на ООН, а китайски държавни медии определиха призивите на Амодей като форма на възпиране спрямо Китай.
Инцидентите с AI
Една от причините предупрежденията на Коксън да получат толкова голямо внимание е, че те идват след поредица от реални инциденти с AI агенти.
Още: ChatGPT не е толкова личен: Реални хора могат да четат разговорите ни
През лятото OpenAI разкри случай, при който нейни модели, намиращи се в тестова среда, са успели да получат достъп до реални системи и да извършат действия извън първоначално предвидения контекст.
В центъра на историята е Hugging Face - платформа, съхраняваща библиотека от ИИ модели. Модели на OpenAI излязоха извън рамките на системите на компанията и хакнаха Hugging Face. Последвалите анализи показват и други случаи на агенти, които са използвали интернет инфраструктура без предварително разрешение.
Anthropic също публикува собствен анализ на четири инцидента, при които Claude модели са получили неоторизиран достъп до реални системи. Компанията съобщава, че първоначално е анализирала около 141 000 транскрипта, а впоследствие е разширила проверката до приблизително 481 милиона транскрипта, след като е установила, че първоначалното търсене е пропуснало случай от януари 2026 г.
Тези случаи не означават автоматично, че AI системите са „избягали“, но показват конкретен проблем - модели, поставени в определена тестова среда, могат да предприемат действия извън очакванията на операторите.
Почти едновременно със скандала Anthropic публикува мащабен доклад за злоупотреба с Claude. Докладът обхваща период от декември 2025 до август 2026 г. и 7 категории вредна дейност: кибероперации, влияние, наблюдение, измами, биологични рискове, конвенционални оръжия и нелегално извличане на способности от моделите. Anthropic твърди, че е идентифицирала и прекъснала редица операции.
Сред описаните случаи са използването на Claude за кибератаки, разработване на софтуер за оръжия, управление и насочване на дронове, разработване на системи за насочване на ракети, електронна война, разузнавателни и шпионски операции, изграждане на инструменти за масово наблюдение, биологични изследвания с потенциал за злоупотреба, измами и други незаконни дейности. Anthropic подчертава, че в разгледаните случаи е блокирала акаунти и е споделяла информация с държавни и частни партньори.
Особено важно е разграничението, което компанията прави сама - тези случаи показват реална злоупотреба с AI, но не доказват, че AI автономно е решил да унищожи човечеството.
Снимка: Getty Images
Системата Gemini на Google самостоятелно е проникнала в три компании по време на тест за киберсигурност през май, което е първият известен случай, в който една от системите за изкуствен интелект на Google извършва подобни атаки. Gemini е надхвърлила предвидения обхват на теста, като е използвала публично достъпна информация и предположени или разкрити идентификационни данни, за да получи достъп до защитени системи. Google съобщи, че моделът е спрял действията си и в трите случая, а засегнатите компании са били уведомени. Подобни инциденти при тестове са били оповестени и от Meta, Anthropic и OpenAI.
Една от най-сериозните теми в дискусията е възможността AI да улесни създаването на биологични оръжия. Anthropic посочва, че по-новите модели са способни да подпомагат сложни научни задачи и че традиционните защитни механизми, разработени за по-стари модели, вече не са достатъчни. Компанията казва, че именно поради това е засилила ограниченията върху биологичното съдържание в по-новите модели. Възможността един модел да помогне при дадена научна задача, не е доказателство, че самият модел ще предприеме автономна биологична атака.
Още: OpenAI са съгласни да дръпнат спирачката в разработването на AI, ако и другите направят същото
Въпросът за AI, който сам създава следващия изкуствен интелект
Anthropic отделно съобщава, че Claude вече участва значително в разработването на следващите поколения модели. Според публикуваните данни през август Claude е „водил“ около 26% от работата по изследване и развитие на изкуствен интелект в компанията - спрямо около 1% през март.
Над 90% от тази работа включва сътрудничество между хора и ИИ, а в системата на Anthropic са работили около 30 000 AI агенти. Компанията подчертава, че Claude все още не работи напълно автономно и че действията му са под човешки контрол.
Отговорът на Дарио Амодей
На 12 септември главният изпълнителен директор на Anthropic Дарио Амодей публикува дълъг текст, озаглавен "Трябва да охраняваме границата". Амодей не отхвърля основното предупреждение на Коксън. Напротив, той признава, че развитието на AI се ускорява и че може да надмине способността на хората да разбират и контролират системите.
Предложението му има три основни компонента. Първият е по-строго тестване и оценяване на системите. Вторият е независим външен контрол, като Anthropic заявява, че ще предостави на трети страни постоянен достъп на ниво служители до системите си, така че външни оценители да могат да проверяват спазването на мерките за безопасност, да докладват инциденти и да правят оценки по време на обучение. Третият компонент е международна координация, включително между технологичните компании и правителствата.
Амодей не призовава за пълно спиране на AI. Предложението му е за контролирано забавяне на развитието на най-мощните системи.
Още: Компания блокира опити за разработване на биологични оръжия с помощта на изкуствен интелект
Парадоксът на Anthropic
Anthropic е основана именно с акцент върху безопасността на AI, но днес компанията е един от лидерите в състезанието за най-мощни модели. От една страна, ръководството казва, че AI може да бъде изключително опасен и развитието трябва да бъде по-добре контролирано. От друга страна, компанията продължава да инвестира огромни ресурси в ускоряване на възможностите на моделите.
Коксън използва точно това противоречие като аргумент - според него не е достатъчно една компания да има добри намерения, ако икономическата и геополитическата структура на пазара я принуждава постоянно да се състезава.
WIRED цитира Коксън в смисъл, че според него въпросът не е дали Anthropic е достатъчно добра компания, а дали изобщо е разумно една частна компания да бъде оставена сама да управлява процес с потенциални системни последствия.
С нарастването на популярността му се появява и друга сюжетна линия. Някои политически и технологични коментатори започват да твърдят, че Коксън може да е част от организирана кампания за създаване на страх около AI, която в крайна сметка да доведе до регулации, благоприятни за големите затворени AI компании. The Washington Post съобщава за такива обвинения.
Още: Обявиха, че AI е решил 90-годишна математическа задача за часове
Един от фактите, които се посочват в негова защита, е, че той е напуснал Anthropic, преди да му бъдат предоставени неговите акции/опции, отбелязва Axios. Самият Коксън казва, че е напуснал около два месеца преди подобна възможност и че следователно не е имал финансов стимул да увеличава оценката на компанията. Той обаче все още има собствен капитал в OpenAI, твърди The Washington Post, така че финансовата картина не е напълно еднозначна.
Политическият ефект в САЩ
Историята много бързо излезе от технологичния сектор. Американски законодатели от различни части на политическия спектър започват да говорят за AI сигурност и възможността за по-сериозна регулация. Reuters съобщава, че сенатори и от двете партии са изразили тревога за потенциално катастрофалните рискове.
Особено необичайно е сближаването на хора с традиционно противоположни политически позиции. Бърни Сандърс и Стив Банън например се оказват на една сцена в рамките на т.нар. Pro-Human Assembly, където и двамата говорят за необходимостта от ограничения върху ИИ.
"Аз съм „Разкриващият измами“ и в момента разкривам поредната измама - че изкуственият интелект ще поеме контрола, ще погълне и ще унищожи света, а роботите ще нахлуят в градовете ни и ще се отърват от всички нас! Това е дори по-абсурдно от измамата „РУСИЯ, РУСИЯ, РУСИЯ“ или измамата с глобалното затопляне. Благодаря ви за вниманието към този въпрос!", коментира темата президентът Доналд Тръмп в Truth Social.
Паралелно с алармата се появява силна критика към начина, по който се говори за риска. Vox например разглежда въпроса дали фокусът върху евентуалното изчезване на човечеството не измества вниманието от по-конкретни и вече доказани проблеми - злоупотреби, кибератаки, измами, дискриминация, загуба на работни места и концентрация на икономическа власт.
Още: Албания подготвя национална програма за изкуствен интелект
Scientific American също прави важно разграничение - част от сценариите за катастрофа остават хипотетични, докато някои от киберинцидентите вече са реално документирани.
Новите предупреждения от други бивши изследователи
Снимка: Getty Images
Историята на Коксън не остава изолирана. След него се появяват и други бивши служители и изследователи, които говорят публично за подобни рискове. Reuters съобщава за бивш служител на Google DeepMind, който също предупреждава, че AI може да убие всички хора и че времето за предотвратяване на подобен сценарий може да намалява.
Друг бивш служител на Anthropic, Джо Бентън, също напуска екипа по надзор и предупреждава, че компаниите се движат към машини, „много по-умни от всеки човек“, без според него да са решени основните проблеми с безопасността. Той впоследствие се присъединява към METR.
Една от най-интересните последици е въпросът дали обществото може да се довери на самите компании да контролират развитието. Коксън отговаря отрицателно. Неговият аргумент не е, че Anthropic непременно действа злонамерено. Той многократно казва, че според него компанията се опитва да прави правилните неща. Проблемът според него е институционален. Компанията е част от пазарна надпревара - трябва да привлича капитал, да привлича таланти, да разработва по-мощни модели, да се конкурира с OpenAI, да се съобразява с Китай, да гарантира, че продуктите ѝ няма да станат неконтролируеми.
Финансовият контекст и факторът "Китай"
Няколко медии обръщат внимание и на финансовия контекст. Anthropic се движи към потенциално огромно публично предлагане, докато пазарната оценка на компаниите от сектора се увеличава. Френската медия Le Monde поставя въпроса дали дебатът за „AI апокалипсиса“ не е неразделно свързан и с големи финансови интереси. Изданието отбелязва парадокса - компаниите едновременно предупреждават за потенциално екзистенциални рискове, но продължават да ускоряват развитието си.
Това води до два противоположни прочита. Единият е, че компаниите реално се страхуват от собствената технология и търсят начин да получат международни правила, които да ограничат разрушителната надпревара. Другият е, че регулацията може да се превърне в инструмент за ограничаване на конкуренцията, защото само най-богатите компании могат да понесат огромните разходи по спазването на нови правила. И двете интерпретации присъстват в международната дискусия.
Ако САЩ и техните компании забавят развитието, а китайските компании не го направят, балансът на технологичната мощ може да се промени. Точно този аргумент стои зад голяма част от съпротивата срещу идеята за координирано забавяне. Пекин, от своя страна, настоява за международно, многостранно управление на AI и предупреждава, че конфронтацията и „вредната конкуренция“ няма да помогнат за глобалното управление на технологията. Така въпросът за AI безопасността постепенно се превръща и във въпрос на геополитика: може ли човечеството да забави технология, която отделните държави възприемат като стратегически актив?
Още: Измами и своеволия: OpenAI съобщи за нови инциденти с AI агенти, действащи самостоятелно
Ръководители на големи AI компании, включително Амодей, започват да говорят и за необходимостта компаниите да могат да координират действията си по отношение на безопасността, без това автоматично да се третира като незаконно антиконкурентно поведение. Министерството на правосъдието на САЩ заявява, че координацията между AI компаниите по въпроси на безопасността не изглежда сама по себе си антиконкурентна, но същевременно регулаторите остават предпазливи към идеята големи корпорации да получат специални антитръстови изключения.
Междувременно инженерът от DeepSeek Лиу Шеню, който разработи част от най-новия модел на компанията, сравни притежаването на обща изкуствена интелигентност (AGI) от Anthropic с това Хитлер да се сдобие пръв с атомната бомба.
"Не искам Anthropic да контролира най-напредналата изкуствена интелигентност в света. Казано драматично, мисля, че залогът би бил да сравним с това Хитлер да се сдобие с атомната бомба преди съюзниците", казва той. "Първопроходният ИИ трябва да бъде отворен и достъпен за всички, а не контролиран от затворени западни лаборатории", допълва Лиу Шеню.
Случаят излезе и извън САЩ - на 17 септември британският крал Чарлз III събра представители на OpenAI, Anthropic, Google DeepMind и Nvidia в Шотландия. Той предупреди за „екзистенциалните опасности“ от технологията и постави въпроса дали светът разполага с достатъчно средства за контрол, „преди да е станало твърде късно“.
